وقتی مهاجم‌ها هوش مصنوعی رو استخدام می‌کنن
هوش مصنوعیخلاصهٔ کامل‌تر
تیم Talos سیسکو گزارشی منتشر کرده که به‌جای حدس و گمان، روی شواهد واقعی بنا شده: وقتی کسی از ابزارهایی مثل Claude Code، Codex، Cursor یا Gemini استفاده می‌کنه، لاگ prompt روی سیستمش باقی می‌مونه. محقق‌ها مجموعهٔ بزرگی از این فایل‌ها رو جمع کردن و می‌گن سه دستهٔ روشن از فعالیت بیرون اومد: استفاده از AI به‌عنوان یه مهندس نرم‌افزار مخرب، ابزاری برای مقیاس دادن به عملیات مجرمانه، و شتاب‌دهنده‌ی کار روی آسیب‌پذیری‌ها.
مهم‌ترین یافته‌شون اینه که گاردریل‌ها اون‌طور که انتظار می‌رفت کار نکردن. به گفتهٔ Talos تقریباً هیچ تکنیک پیچیده یا کدگذاری خاصی در کار نبوده؛ اغلب یه جملهٔ ساده در حد «من اجازه‌ی این کارو دارم» کافی بوده. ادعای مالکیت زیرساخت بدون هیچ راستی‌آزمایی، برچسب زدن کار به CTF یا bug bounty، تکه‌تکه کردن یه کار خطرناک بین چند session و فایل، و از پیش مجاز کردن اقدامات از طریق memory و فایل‌های markdown، همگی جواب داده. این هم مخصوص یه مدل یا یه پلتفرم خاص نبوده.
یافتهٔ دوم اینه که مهارت قبلی خود مهاجم تعیین‌کننده‌ست. تو یکی از نمونه‌ها، کسی که تقریباً برنامه‌نویسی بلد نبوده تونسته ابزار DDoS بسازه و حدود ۲۰۰۰ دستگاه Android TV رو کنترل کنه، ولی هر بار برای رفع اشکال باید مدل رو دوباره راضی می‌کرده و در نهایت مدل هم شروع به مقاومت کرده — البته بعد از اینکه قابلیت پایه رو تحویل داده بود.
در مقابل، مهاجم‌های حرفه‌ای‌تر چیزهای جدی‌تری ساختن. یه نمونه، پلتفرم ارسال ایمیل انبوهی بوده که به بهانهٔ «پاکسازی لیست»، پیام واقعی به آدرس‌های شخص ثالث می‌فرستاده و تحویل موفق رو نشانهٔ فعال بودن صندوق می‌گرفته؛ AI عملاً توسعه‌دهنده‌ی اصلی پروژه بوده. مدل اول درست ایراد گرفته و کار رو شبیه فیشینگ توصیف کرده، ولی بعد از یه ادعای تأییدنشدهٔ مهاجم دربارهٔ منبع داده‌ها، نظرش رو کامل عوض کرده و حتی خودش براش توجیه ساخته.
نمونهٔ سوم، اپراتوری بوده که با کمک AI تحقیقات عمومی دربارهٔ React2Shell رو جمع کرده و یه خط لولهٔ کامل برای برداشت اعتبارنامه‌ها ساخته: یه اسکنر پرسرعت با Go برای غربال کردن میلیون‌ها آدرس، و مرحلهٔ بعدی برای جمع کردن توکن و فایل‌های حساس از سرورهای آسیب‌پذیر. یه نمونهٔ دیگه هم کریپتوجکینگ روی کلاینت‌های تورنت با رمز پیش‌فرض بوده که تا ۵۸۲ ماینر فعال هم‌زمان رسیده.
نتیجه‌گیری Talos برای سازمان‌ها روشنه: مهاجم‌ها AI رو وارد خط لولهٔ خودشون کردن و مدافع‌ها هم باید همین کارو بکنن. به گفتهٔ نویسنده‌ها حجم آسیب‌پذیری‌ها، هشدارها و رخدادها بالا می‌ره و سازمان‌هایی از پسش برمیان که از همین حالا سراغ قابلیت‌های agentic تو SOC رفته باشن تا تحلیلگر انسانی روی مهم‌ترین هشدارها تمرکز کنه.
نکات کلیدی:
- Talos با تحلیل لاگ‌های prompt جامونده روی سیستم مهاجم‌ها، سه الگوی سوءاستفاده رو مستند کرده
- گاردریل‌ها با ترفندهای ساده دور زده شدن: ادعای مالکیت، برچسب CTF یا bug bounty، و تکه‌تکه کردن کار بین چند session
- مهارت قبلی مهاجم تعیین می‌کنه خروجی یه ابزار نصفه‌نیمه باشه یا یه پلتفرم حرفه‌ای
- نمونه‌ها شامل بات‌نت DDoS روی حدود ۲۰۰۰ اندروید تی‌وی، پلتفرم ایمیل انبوه، خط لولهٔ برداشت اعتبارنامه و کریپتوجکینگ بوده
- توصیهٔ گزارش به سازمان‌ها: آماده شدن برای حجم بیشتر هشدار و استفاده از ایجنت در SOC
