‏موزیلا با کمک هوش مصنوعی، ده‌ها باگ امنیتی پنهان فایرفاکس رو پیدا کرد

تیم امنیتی موزیلا چند هفته پیش اعلام کرد که با کمک مدل‌های هوش مصنوعی، از جمله Claude Mythos Preview، موفق شده تعداد بی‌سابقه‌ای از باگ‌های امنیتی پنهان در فایرفاکس رو شناسایی و پچ کنه. این دستاورد نتیجه‌ی ترکیب دو عامل بود: پیشرفت چشمگیر توانایی مدل‌ها، و بهبود جدی تکنیک‌های هدایت، مقیاس‌بندی و ترکیب این مدل‌ها برای فیلتر کردن نتایج معتبر از نویز.

تا همین چند ماه پیش، گزارش‌های باگ امنیتی تولیدشده توسط هوش مصنوعی بیشتر به‌عنوان «اسلاپ» (محتوای بی‌کیفیت ولی قانع‌کننده) شناخته می‌شدن؛ چیزی که بار نامتقارنی روی نگهدارنده‌های پروژه می‌ذاشت چون رد کردن اون‌ها وقت و انرژی زیادی می‌بُرد. اما موزیلا می‌گه این دینامیک در چند ماه اخیر کاملاً تغییر کرده.

آسیب‌پذیری‌هایی که پیدا شدن طیف گسترده‌ای از زیرسیستم‌های مرورگر رو پوشش می‌دن. برای نمونه، یه باگ ۲۰ساله در XSLT پیدا شد که در اون فراخوانی‌های تودرتوی key() باعث می‌شدن جدول هَش در حین استفاده، حافظه‌اش آزاد بشه. یه باگ دیگه مربوط به rowspan=0 در جداول HTML بود که با اضافه کردن بیش از ۶۵۵۳۵ ردیف، یه فیلد ۱۶بیتی رو اورفلو می‌کرد — باگی که سال‌ها از دید فازرها پنهان مونده بود. تعدادی از این باگ‌ها sandbox escape بودن؛ یعنی یه پروسه‌ی محتوای کامپرومایزشده می‌تونست کنترل پروسه‌ی parent ممتاز رو به دست بگیره.

نکته‌ی جالب اینه که موزیلا در لاگ‌های هارنس دید که مدل‌ها بارها تلاش کردن از طریق prototype pollution از سندباکس فرار کنن، ولی به‌خاطر تغییر معماری که قبلاً موزیلا انجام داده بود (فریز کردن prototype‌ها به‌صورت پیش‌فرض)، همه‌ی این تلاش‌ها ناموفق بودن. این مستقیماً ثابت کرد که سخت‌سازی‌های معماری قبلی واقعاً جواب داده.

کلید اصلی این موفقیت، استفاده از یه هارنس عاملی (agentic harness) بود؛ نه صرفاً آنالیز استاتیک کد. این هارنس می‌تونه تست‌کیس‌های قابل بازتولید بسازه، فرضیه‌ها رو به‌صورت داینامیک اعتبارسنجی کنه، و بین باگ‌های واقعی و حدس‌وگمان‌های غیرقابل تکرار تمایز قائل بشه. آزمایش‌های قبلی موزیلا با مدل‌هایی مثل GPT-4 یا Sonnet 3.5 برای آنالیز استاتیک، نرخ false positive بالایی داشتن که مقیاس‌پذیری رو غیرممکن می‌کرد.

موزیلا بخشی از گزارش‌های این باگ‌ها رو زودتر از موعد معمول عمومی کرده تا سایر پروژه‌های نرم‌افزاری هم بتونن از این رویکرد الهام بگیرن. این تیم معتقده که اکوسیستم نرم‌افزاری باید فوری‌تر از همیشه این تکنیک‌ها رو برای تقویت امنیتشون به‌کار بگیره.

نکات کلیدی:

• موزیلا با ترکیب مدل‌های هوش مصنوعی و هارنس عاملی، باگ‌های امنیتی پنهان بسیاری در فایرفاکس پیدا کرد
• برخی باگ‌ها ۱۵ تا ۲۰ سال قدمت داشتن و فازرها موفق به کشف‌شون نشده بودن
• تفاوت کلیدی با روش‌های قبلی: ساخت تست‌کیس‌های قابل بازتولید برای اعتبارسنجی داینامیک فرضیه‌ها
• تعدادی از باگ‌ها sandbox escape بودن که یافتن‌شون با فازینگ بسیار دشوار است
• سخت‌سازی‌های معماری قبلی (مثل فریز کردن prototype‌ها) مستقیماً از حملات AI جلوگیری کرد
• موزیلا به سایر پروژه‌ها توصیه می‌کنه همین رویکرد رو برای تقویت امنیت خودشون اتخاذ کنن