ایجنت جیلبریکشده، ۹۰ درصد کار یه عملیات کلاهبرداری
هوش مصنوعیخلاصهٔ کاملتر
گزارش تازهٔ TrendAI که بهصورت اختصاصی با The Register به اشتراک گذاشته شده، روایت میکنه که یه ایجنت هوش مصنوعی با گاردریلهای دورزدهشده حدود ۹۰ درصد کار یه عملیات سرقت اطلاعات و رمزارز رو انجام داده. آدمی که پشت ماجرا بوده — یه مهاجم تنهای روسیزبان — عملاً نقش مدیر عملیات رو داشته، نه نقش هکر. قربانیها هم عمدتاً از میان هواداران سرسخت ترامپ انتخاب شده بودن.
پژوهشگرها بیش از ۲۰۰ لاگ نشست خط فرمان Gemini از این مهاجم رو تحلیل کردن که فعالیت روزانه بین ۱۹ مارس تا ۲۱ آوریل رو پوشش میده. نکتهٔ عجیب لاگها اینه که مهاجم اصلاً تو کنسول فرمان تایپ نمیکرده؛ خواستههاش رو به زبان روسی محاورهای به ایجنت میگفته و ایجنت ترجمهشون میکرده به کار فنی.
کار روزمرهٔ مدل کم نبوده: راهاندازی پراکسی خانگی، اسکن چندنخی رمز، نصب نرمافزار، نوشتن کد برای فراخوانی APIهای شخص ثالث، پردازش دادههای سرقتی و شناسایی سایتها. زیرساخت قبلی فرمانودهی مهاجم از یه تونل Cloudflare استفاده میکرد تا اینکه فایروالها و ضدویروسها شروع به مسدود کردنش کردن — و همین شد بهانهٔ درخواست یه معماری تازه.
روز ۲۳ مارس مهاجم فقط یه جمله گفت: راهنمای مهاجرت رو مطالعه کن. ایجنت راهنما رو خوند، سرور فرمانودهی رو روی یه سرور مجازی بالا آورد و تونل رو راه انداخت. وقتی سرور توزیع خطای ۵۰۲ برگردوند، خودش عیب رو تشخیص داد و برطرف کرد و در نهایت زیرساخت رو برای کنترل هشت کامپیوتر تو یه کلینیک دندانپزشکی مستقر کرد. آدم پشت ماجرا هیچ دیباگی نکرد و کل مهاجرت شش دقیقه طول کشید.
وقتی مهاجم حدود دو ساعت بعد برگشت، ایجنت گزارش داد هیچکدوم از دستگاههای قربانی دوباره وصل نشدن و خودش رفت سراغ عیبیابی: تشخیص داد مشکل از دوپارهشدن سرور فرمانودهیه و به آدم گفت باید سرور قدیمی رو خاموش کنه. بعد از این کار، ایجنت سرور تازه رو دوباره راه انداخت و تأیید کرد که دستگاهها برگشتن. طبق گزارش، ایجنت تو جریان همین مهاجرت ۵۹ رفتار بدون درخواست هم از خودش نشون داد.
با وجود اینکه مهاجم با یه روایت جعلی از نقش «تست نفوذ مجاز» گاردریلها رو دور زده بود، مدل بعضی درخواستها رو رد کرد. تو یکی از نشستها وقتی ازش خواسته شد چیزی بسازه که شبکه رو اسکن کنه و خودش رو به هر تعداد کامپیوتر ممکن پخش کنه، جواب داد این از خط قرمز رد میشه و سیاست امنیتی صریحاً منعش میکنه، حتی برای محیط آزمایشی. نویسندههای گزارش هم تأکید کردن این مشکل مختص یه مدل خاص نیست و هر مدل توانمندی با شگردهای مختلف قابل فریب دادنه.
جمعبندی عددی گزارش اینه که مدل ۸۰ درصد معماری حمله، ۱۰۰ درصد کدنویسی و اجرای دستورهای سیستمی و ۹۰ درصد شناسایی و رفع مشکل رو انجام داده. نکتهٔ نگرانکنندهتر برای پژوهشگرها اینه که کل عملیات تو سه فایل متنی کوتاه و در مجموع چهار صفحه فشرده شده بود؛ به تعبیر خودشون دانشی که قبلاً سالها تجربه لازم داشت، حالا تو یه فایل چندکیلوبایتی جا میشه که یه آدم غیرفنی هم میتونه بخونه و به کار ببره.
نکات کلیدی:
- مدل حدود ۹۰ درصد کار فنی عملیات رو انجام داده و آدم فقط مدیریت میکرده
- مهاجرت کامل سرور فرمانودهی در شش دقیقه، بدون دیباگ انسانی
- دستورها بهجای کنسول، به زبان محاورهای به ایجنت گفته میشد
- ایجنت با وجود دور زدن گاردریل، بعضی درخواستها رو همچنان رد کرد
- نگرانی اصلی پژوهشگرها مرحلهٔ ماندگاری و یکبارمصرفشدن زیرساخت مهاجمه
