الکس استاموس: هوش مصنوعی دنیای امنیت رو به هم ریخته
خلاصهٔ کاملتر
تو این قسمت از پادکست Decoder، نیلای پاتل با الکس استاموس (مدیر امنیت Cognition و مدرس دانشگاه استنفورد) درباره وضع امنیت سایبری حرف زده. استاموس میگه اکتبر پر از رخنه بوده: باگهای بزرگ PHP و Node، هک شدن پشتسرهم neocloudها، هک Binance و اتفاق Cursor. تو ماجرای Cursor کلیدهای API از شرکت Fireworks دزدیده شد، با اون به Cursor نفوذ کردن و یه پلاگین آلوده به حدود ۵۰۰۰ شرکت رسید.
به گفته استاموس، مدلهای open-weight حالا میتونن بیشتر kill chain رو خودکار کنن (یعنی همه مراحلی که مهاجم طی میکنه تا به هدفش برسه). قبلا اول تحقیق و نوشتن اکسپلویت انجام میشد و بعد آدمها اون رو اجرا میکردن. حالا یه سیستم AI همون لحظه هدف رو میگرده، باگ پیدا میکنه و اکسپلویت مینویسه. نمونهش ابزار چینی و متنباز ARTEX هست که با یه مدل مثل GLM-5.3 کار میکنه و از سه بانک کرهای شروع شد و حالا حدود ۲۰۰ شرکت دیگه رو زده.
استاموس معتقده دوران قبلی امنیت، که از یادداشت «trustworthy computing» بیل گیتس شروع شد، تموم شده. اون دوره روی این فرض بنا شده بود که فقط چندصد نفر مهارت سطح بالا دارن و هر حمله یه تیم بزرگ عملیاتی لازم داره. حالا چند نفر با چندتا Mac یا کارت H100 میتونن کلی agent رو راه بندازن. درباره مهاجمها هم میگه هک Binance کار کره شمالیه و بیشتر با مهندسی اجتماعی انجام شده، و نفوذ به شرکتهای AI کار پیمانکارهای کوچیک چینی بوده.
مشکل اصلی به نظرش اقتصادیه: هزینه هر توکن برای مهاجم داره صفر میشه ولی دفاع گرون مونده. مثلا یه بررسی امنیتی با یکی از مدلهای بزرگ سایبری حدود ۹۰۰ دلار خرج داره. استاموس میگه امنیت نرمافزار فقط ۲۵ درصد کار یه CISO هست و بقیهش، مثل کار SOC (یعنی تیمی که لاگها رو میپاد و به حملهها جواب میده)، باید با مدلهای ارزونتر خودکار بشه: اول classifierهای سریع و بعد LLMهای کوچیک.
استاموس نه کاملا بدبینه نه خوشبین و میگه وارد یه «عصر تاریکی» شدیم که باید کوتاهش کرد. پیشنهادش اینه که به جای پیدا کردن و پچ کردن تکتک باگها، کدهای پرباگ رو بازنویسی کنیم. حتی میگه گوگل و آمازون باید یه fork از کرنل لینوکس فقط برای سختافزار سرور رو با Rust و یه زبان memory-safe بازنویسی کنن؛ چیزی که به نظرش حدود ۱۰۰ میلیون دلار خرج داره ولی از هزینه پچهای بیپایان خیلی کمتره.
نکات کلیدی:
- رخنه Fireworks به Cursor رسید و یه پلاگین آلوده به حدود ۵۰۰۰ شرکت پخش شد
- ابزار متنباز ARTEX با مدل GLM-5.3 از سه بانک کرهای شروع کرد و حدود ۲۰۰ شرکت دیگه رو زد
- یه بررسی امنیتی با مدلهای بزرگ سایبری حدود ۹۰۰ دلار هزینه داره، در حالی که هزینه مهاجم نزدیک صفره
- به گفته استاموس امنیت نرمافزار فقط ۲۵ درصد کار یه CISO هست
- پیشنهاد اصلیش بازنویسی کرنل لینوکس برای سرورها با Rust توسط گوگل و آمازونه




