سم آلتمن: پچ کردن باگ‌ها دیگه جواب نمی‌ده
هوش مصنوعیخلاصهٔ کامل‌تر
این مقاله از وبلاگ MindStudio حرف‌های اخیر سم آلتمن دربارهٔ AI و امنیت رو بررسی می‌کنه. آلتمن می‌گه دیگه باور نداره پچ کردن باگ‌ها یکی‌یکی بتونه جلوی حفره‌هایی رو بگیره که AI پیدا می‌کنه، و صنعت باید مدل دفاعش رو «کامل عوض کنه». منظورش مدلیه که توش سیستم‌های AI از شبکه‌ها دفاع می‌کنن، همون‌طور که از AI برای حمله استفاده میشه.
آلتمن به ماجرای Claude Mythos اشاره کرده، مدلی از Anthropic که تو پیدا کردن حفره‌های امنیتی خیلی قوی بود و حتی باگ‌هایی رو پیدا کرد که سال‌ها دیده نشده بودن. طبق گزارش‌ها، Anthropic دسترسی بهش رو به چندتا شریک محدود کرد. به گفتهٔ آلتمن، واکنش اون موقع یه موج کوتاه بود: چندتا باگ پچ شد و بعد مدیرها فکر کردن قضیه حل شده.
ایراد آلتمن اینه که مردم «رشد نمایی رو حس نکردن». یعنی توانایی AI رو یه عکس ثابت دیدن، نه یه منحنی که مدام بالا میره. اگه یه مدل الان کلی حفره پیدا می‌کنه، مدل بعدی بیشتر پیدا می‌کنه، حتی حفره‌هایی که معمولاً جزو تهدیدهای واقعی حساب نمی‌شن، مثل مشکلات سخت‌افزاری تو خود چیپ‌ها. یه جایی سرعت کشف از سرعت بررسی و پچ کردن تیم‌های انسانی جلو می‌زنه.
راه‌حل پیشنهادیش یه پروسهٔ پچ بهتر نیست، یه تغییر ساختاریه: AI به‌جای آدم‌ها تهدیدها رو زیر نظر بگیره، پیداشون کنه و با همون سرعت و مقیاس طرف حمله‌کننده جواب بده. پچ‌های انسانی هنوز لازمن، ولی به‌تنهایی کافی نیستن. آلتمن این رو یه مسئلهٔ جدی امنیتی می‌دونه که سازمان‌ها، دولت‌ها و آدم‌ها هنوز به اندازهٔ کافی جدی نگرفتن.
جدا از حرف‌های آلتمن، پژوهشگرها گزارش دادن فاصلهٔ بین عمومی شدن یه حفره و شروع سوءاستفاده ازش به حدود سه روز رسیده. برای بیشتر سازمان‌ها این زمان حتی برای برنامه‌ریزی بررسی پچ هم کمه، چه برسه به تست و استقرار. یعنی پچ وجود داره ولی هنوز نصب نشده، و آسیب دقیقاً همین‌جا اتفاق می‌افته.
مقاله تأکید می‌کنه که موج اخیر نفوذها (که بعضی‌ها اسمشو «Black October» گذاشتن و روی پلتفرم‌های ابری، ابزارهای توسعه و یه شرکت بزرگ آزمایش پزشکی اثر گذاشت) لزوماً کار AI نبوده و بعضی‌هاش ماه‌ها مخفی مونده بودن. ولی نکتهٔ اصلی پابرجاست: خیلی از نرم‌افزارها فقط چون پیدا کردن باگشون وقت‌گیر بود امن مونده بودن، و AI این کارو ارزون کرده.
نکات کلیدی:
- آلتمن می‌گه مدل پچ کردن تک‌تک باگ‌ها دیگه به پای AI نمی‌رسه
- پیشنهادش مدل دفاعی AI در برابر AI هست، نه پروسهٔ پچ سریع‌تر
- Claude Mythos از Anthropic حفره‌های چندساله پیدا کرد و دسترسیش محدود شد
- فاصلهٔ بین افشای حفره و سوءاستفاده به‌طور میانگین حدود سه روز گزارش شده
- همهٔ نفوذهای موسوم به «Black October» تأیید نشده که کار AI بوده باشن
- AI هزینهٔ پیدا کردن exploit رو به‌شدت پایین آورده
