‏زیلوت: وقتی هوش مصنوعی خودش هکر می‌شه

تا همین اواخر، توانایی‌های تهاجمی مدل‌های زبانی بزرگ بیشتر یه بحث نظری بود؛ چیزی که توی کنفرانس‌های امنیتی زیاد ازش حرف می‌زدن ولی کمتر کسی عملاً نشونش داده بود. این داستان اما از نوامبر ۲۰۲۵ عوض شد، وقتی Anthropic گزارش داد که یه گروه جاسوسی تحت حمایت دولتی از هوش مصنوعی استفاده کرده و ۸۰ تا ۹۰ درصد عملیات رو به‌صورت کاملاً خودکار انجام داده. دیگه سوال «آیا این ممکنه؟» تبدیل شده به «این داره اتفاق می‌افته».

بعد از این افشاگری، تیم تحقیقاتی Palo Alto Networks تصمیم گرفت یه آزمایش عملی انجام بده تا بفهمه دقیقاً کجا هوش مصنوعی قوی‌ه و کجا هنوز به انسان نیاز داره. نتیجه‌ش ساختن یه سیستم چندعاملی به اسم «زیلوت» شد؛ اسمی که از یه نوع جنگجوی سریع و قدرتمند در یه بازی استراتژی محبوب گرفتن.

زیلوت بر پایه یه معماری سلسله‌مراتبی طراحی شده. یه «عامل ناظر» مرکزی داره که کل عملیات رو هماهنگ می‌کنه و سه عامل تخصصی زیرش کار می‌کنن: یکی برای زیرساخت، یکی برای امنیت اپلیکیشن، و یکی برای امنیت ابری. این عامل‌ها اطلاعاتشون رو با هم به اشتراک می‌ذارن و در طول عملیات وضعیت حمله رو به‌روز نگه می‌دارن.

چیزی که زیلوت رو از یه چت‌بات ساده جدا می‌کنه اینه که در یه «حلقه» کار می‌کنه. هدف می‌گیره، برنامه‌ریزی می‌کنه، ابزار اجرا می‌کنه، نتیجه رو ارزیابی می‌کنه و ادامه می‌ده تا به هدف برسه. در تست‌های sandbox روی Google Cloud Platform، این سیستم موفق شد یه زنجیره حمله کامل رو به‌صورت خودکار انجام بده: از سوءاستفاده از SSRF گرفته تا دزدیدن credential از سرویس متادیتا، جعل هویت سرویس اکانت و در نهایت استخراج داده از BigQuery.

محیط‌های ابری به چند دلیل برای این نوع حملات آماده‌ترن. اول اینکه همه چیز API-محوره و دقیقاً همین ساختار برنامه‌پذیر چیزیه که عامل‌های هوش مصنوعی باهاش راحتن. دوم، مکانیزم‌های کشف غنی مثل سرویس متادیتا و enumeration منابع به هوش مصنوعی اجازه می‌ده محیط رو بشناسه و مسیرهای دسترسی بالاتر رو پیدا کنه. سوم، پیچیدگی بالای این محیط‌ها باعث می‌شه misconfigurationها زیاد باشن و هوش مصنوعی می‌تونه مسیرهایی پیدا کنه که انسان از دستشون می‌ده.

نکته مهم اینه که هوش مصنوعی لزوماً آسیب‌پذیری جدیدی خلق نمی‌کنه. همون ضعف‌های قدیمی مثل IAM misconfiguration، سرویس‌های metadata نشتی، و مجوزهای بیش از حد هنوز هم قربانی می‌گیرن. تفاوت اینجاست که هوش مصنوعی می‌تونه این ضعف‌ها رو خیلی سریع‌تر از یه تیم انسانی شناسایی و بهره‌برداری کنه.

این تحقیق یه پیام روشن برای تیم‌های دفاعی داره: تهدید AI دیگه فقط یه بحث فلسفی نیست. سرعت و خودکاری که این سیستم‌ها ارائه می‌دن، پنجره زمانی برای واکنش دفاعی رو کوتاه‌تر می‌کنه. سازمان‌ها باید وضعیت امنیتی ابرشون رو جدی‌تر بگیرن و به‌ویژه روی IAM و misconfigurationها تمرکز کنن.

نکات کلیدی:

• زیلوت یه سیستم چندعاملی تهاجمیه که برای تست خودکار محیط‌های ابری ساخته شده
• معماری آن بر پایه یه عامل ناظر مرکزی و سه عامل تخصصی است که اطلاعات رو با هم به اشتراک می‌ذارن
• در آزمایش روی GCP، زنجیره کامل SSRF → دزدیدن credential → جعل هویت → استخراج داده به‌صورت خودکار اجرا شد
• هوش مصنوعی آسیب‌پذیری جدید نمی‌سازه، ولی بهره‌برداری از ضعف‌های موجود رو خیلی سریع‌تر می‌کنه
• محیط‌های ابری به دلیل API-محور بودن، پیچیدگی بالا و misconfigurationهای رایج هدف ایده‌آلی برای عامل‌های AI هستن
• این تحقیق نشون می‌ده تهدید AI دیگه نظری نیست و تیم‌های دفاعی باید آمادگی واقعی داشته باشن