‏پروژه Glasswing: وقتی Cloudflare یک هوش مصنوعی امنیتی را به جان کدهایش انداخت

Cloudflare چند ماهی هست که مدل‌های زبانی امنیت‌محور را روی زیرساخت خودش آزمایش می‌کنه تا هم آسیب‌پذیری‌های داخلی پیدا کنه، هم ببینه مهاجم‌ها با این ابزارها چی می‌تونن بکنن. از میان این مدل‌ها، Mythos Preview ساخته آنتروپیک بیشترین توجه رو جلب کرد و در قالب Project Glasswing روی بیش از پنجاه مخزن کد واقعی تست شد.

دو قابلیت از Mythos Preview برجسته‌تر از بقیه بود: اول، ساخت زنجیره اکسپلویت — یعنی گرفتن چند باگ کوچک و ترکیبشون به یک حمله قابل اجرا، مثل تبدیل یک باگ use-after-free به یک اکسپلویت کامل با کنترل جریان اجرا. دوم، تولید proof of concept — مدل کد می‌نویسه، اجراش می‌کنه، و اگه نتیجه با پیش‌بینیش فرق داشت، فرضیه رو اصلاح و دوباره امتحان می‌کنه. این حلقه خودکار یعنی دیگه لازم نیست محقق امنیتی وقتش رو صرف تأیید دستی باگ‌ها بکنه.

یکی از نکات جالب درباره رفتار خود مدل اینه که با اینکه Mythos Preview در این پروژه بدون محدودیت‌های معمول عرضه عمومی بود، گاهی خودش از انجام بعضی درخواست‌ها سر باز می‌زد — مثلاً ابتدا از آنالیز یک پروژه امتناع کرد، ولی بعد از یک تغییر نامربوط در محیط، همون کار رو انجام داد. این رفتار نشون می‌ده که «گاردهای ارگانیک» مدل ناپایدار هستن و نمی‌شه بهشون به‌عنوان مرز امنیتی قابل‌اطمینان تکیه کرد.

مشکل دیگه‌ای که Cloudflare باهاش دست‌وپنجه نرم کرد، نسبت سیگنال به نویز بود. مدل‌ها تمایل دارن هر چیز مشکوکی رو با عباراتی مثل «احتمالاً» یا «شاید» گزارش بدن و این یعنی هزینه زیادی برای بررسی یافته‌های کاذب. در اینجا هم Mythos Preview بهتر بود — یافته‌هایی که با PoC واقعی همراه بودن، خیلی سریع‌تر قابل اقدام بودن.

درس مهم دیگه اینه که «اشاره کردن به یک مخزن و گفتن باگ پیدا کن» جواب نمی‌ده. یک agent کدنویسی معمولی بیشتر از یک‌دهم درصد سطح یک کد بزرگ رو نمی‌تونه به‌درستی پوشش بده. راه‌حل Cloudflare ساخت یک هارنس بود: چارچوبی که وظایف را باریک و موازی تقسیم می‌کنه، یک agent دوم برای بررسی انتقادی یافته‌های اولی می‌ذاره، و سؤال «آیا این کد باگ داره؟» را از «آیا مهاجم می‌تونه به این باگ برسه؟» جدا می‌کنه.

در نهایت، Cloudflare به تیم‌های امنیتی هشدار می‌ده که فقط «تندتر پچ کردن» کافی نیست — اگه رگرسیون‌تست یک روز طول بکشه، نمی‌شه به SLA دو ساعته رسید بدون اینکه ریسک جدی قبول کنی. معماری باید طوری باشه که حتی وقتی باگ وجود داره، اکسپلویت کردنش برای مهاجم سخت‌تر باشه.

نکات کلیدی:

• Mythos Preview می‌تونه باگ‌های کم‌اهمیت را زنجیر کنه و به یک اکسپلویت جدی تبدیلشون کنه
• proof of concept خودکار، فاصله بین «پیدا کردن باگ» و «اثبات اینکه واقعیه» را از بین می‌بره
• رفتار خودمهارگری مدل ناپایدار است و نمی‌شه به‌تنهایی روش حساب کرد
• یک agent تکی روی یک مخزن بزرگ پوشش کافی نمی‌ده؛ هارنس موازی ضروریه
• معماری دفاعی مهم‌تر از سرعت پچ کردنه