ممنوعیت Mythos: یه سوءتفاهم بزرگ درباره‌ی امنیت سایبری هوش مصنوعی
هوش مصنوعیخلاصهٔ کامل‌تر
جاشوا ساکس، پژوهشگر امنیت سایبری، تو یه پست Substack می‌گه ممنوع کردن مدل هوش مصنوعی Mythos به خاطر نگرانی‌های امنیتی یه سوءتفاهم اساسیه. به گفته‌ی نویسنده، وقتی یه مدل جدید منتشر میشه، سیاست‌گذارها باید تصمیم بگیرن مهاجم‌ها یا مدافع‌ها بیشتر ازش سود می‌برن، و همین تصمیم‌هاست که به محدودیت‌های بیشتر و پایین آوردن سطح مدل‌های امنیتی منجر میشه.
نویسنده می‌گه حتی قبل از هوش مصنوعی هم مدافع‌ها تو موقعیت افتضاحی بودن. تجربه‌ش نشون داده تو تست‌های نفوذ، مهاجم‌ها تقریباً همیشه به هدفشون می‌رسیدن. هر سازمانی روی یه کوه از ریسک انباشته و بدهی فنی امنیتی نشسته، و تیم‌های امنیتی اونقدر غرق هشدارهای بی‌نتیجه‌ان که وقت رسیدگی به چیزی فراتر از بدیهی‌ترین ریسک‌ها رو ندارن.
به گفته‌ی ساکس، ورود ابزارهای هوش مصنوعی تا الان باعث افزایش موفقیت مهاجم‌ها فراتر از همون سطح بالای قبلی نشده. اگه مهاجم‌ها واقعاً به خاطر کمبود آسیب‌پذیری‌های روز صفر محدود بودن، الان باید یه موج بزرگ نفوذ می‌دیدیم که این‌طور نشده، و این نشون می‌ده فروریختن آسمون به خاطر هوش مصنوعی، حداقل تا الان، یه نگرانی اغراق‌شده‌ست.
نویسنده معتقده وعده‌ی اصلی هوش مصنوعی فرونتیر اینه که بالاخره تعادل رو به نفع مدافع‌ها برگردونه: بشه صدها ایجنت گذاشت که باگ پیدا کنن و پیکربندی‌های اشتباه رو رفع کنن. اما این فقط با مدل‌های قوی‌تر ممکن نمی‌شه؛ نیاز داره این مدل‌ها در اختیار طیف وسیعی از مدافع‌ها باشه، از مهندس‌های سازمان‌ها گرفته تا جامعه‌ی متن‌باز، اهالی DEF CON و دانشگاهیا.
ساکس بخشی از مشکل رو تو ترکیب فعلی گفتگوهای سیاست‌گذاری هوش مصنوعی می‌بینه: تحلیلگرهای فکرخانه‌ای بدون تجربه‌ی عملی، جامعه‌ی ایمنی هوش مصنوعی که رو سناریوهای فاجعه‌بار تمرکز داره، و چهره‌های شناخته‌شده‌ی یادگیری ماشین که کم‌تجربه‌ان اما نظر می‌دن. اون می‌گه راه‌حل، بیرون کردن این آدم‌ها نیست، بلکه اضافه کردن متخصص‌های بیشتری با پیشینه‌ی عملی امنیت سایبری به این گفتگوهاست.
در پایان، نویسنده به تاریخچه‌ی فناوری‌های دووجهی اشاره می‌کنه: جنگ‌های رمزنگاری دهه‌ی ۹۰ میلادی، و بعدها Metasploit، fuzzing، و Kali Linux. هر بار همین نگرانی مطرح شده که این ابزارها دست مهاجم‌ها رو بازتر می‌کنن، ولی هر بار هم ثابت شده سود مدافع‌ها بیشتره. به گفته‌ی ساکس، تصمیم درباره‌ی محدود کردن مدل‌های فرونتیر باید بر اساس شواهد باشه، نه ترس.
نکات کلیدی:
- جاشوا ساکس می‌گه ممنوعیت مدل Mythos برای مصارف امنیتی، یه سوءبرداشت از رابطه‌ی هوش مصنوعی و امنیت سایبریه
- مدافع‌ها قبل از هوش مصنوعی هم تو موقعیت ضعیفی بودن؛ AI هنوز باعث جهش قابل توجهی تو موفقیت مهاجم‌ها نشده
- وعده‌ی اصلی هوش مصنوعی، مقیاس‌پذیر کردن کار دفاعیه، نه دادن ابزار برتر به مهاجم‌ها
- رسیدن به این وعده فقط با در دسترس بودن گسترده‌ی مدل‌ها برای مدافع‌های واقعی ممکنه، نه با محدودسازی
- تاریخچه‌ی Metasploit و Kali Linux نشون می‌ده محدود کردن فناوری‌های دووجهی معمولاً به ضرر مدافع‌ها تموم شده
