هوش مصنوعی داره به نیروگاهها و تاسیسات آب حمله میکنه
هوش مصنوعیخلاصهٔ کاملتر
یه هشدار مشترک از NSA، FBI، CISA، وزارت انرژی آمریکا و EPA میگه هکرها دارن از هوش مصنوعی برای نوشتن اسکریپتهای نفوذ پایتونی (بر پایه کتابخونههای متنباز) استفاده میکنن و هدفشون زیرساختهای انرژی و آبه. این آژانسها صریحاً گفتن این یه ریسک تئوری نیست، بلکه یه تهدید فعاله. توی این هشدار به PLC های زیمنس مدل S7 (یعنی کامپیوترهای صنعتیای که خط تولید، نیروگاهها و تصفیهخونههای آب رو کنترل میکنن) که به اینترنت وصلن، بهطور خاص اشاره شده.
به گفتهٔ این گزارش، چیزی که عوض شده سقف مهارت نیست، اقتصاد حملهست. قبلاً پیدا کردن یه اکسپلویت کاربردی برای سیستمهای صنعتی به دانش فنی بالا نیاز داشت، اما حالا یه مدل هوش مصنوعی میتونه اسکریپتهای نفوذ رو برای دستههای شناختهشده از آسیبپذیریها بسازه، کد رو اسکن کنه و این کارو مدام و ارزون انجام بده. آژانسها این الگو رو reconnaissance مداوم (یعنی اسکن پیوسته و خودکار سیستمها برای پیدا کردن نقطه ضعف) نامیدن؛ یعنی بهجای یه حمله مشخص، ابزارهای خودکار دائم دنبال یه راه نفوذ میگردن.
همزمان با این هشدار، یه خبر دیگه هم منتشر شده که میگه هکرهای مرتبط با ایران یه نیروگاه بریتانیا رو چهار روز از کار انداختن؛ این یکی از جدیترین حملههای سایبری علیه زیرساخت بریتانیاست. با این حال هیچ ارتباط رسمیای بین این حادثه و ابزارهای هوش مصنوعی تایید نشده و خود NSA و FBI هم روی این موضوع ادعای قطعی نکردن.
این هشدار درست همزمان با موج جدیدی از مدلهای پیشرفتهٔ هوش مصنوعی منتشر شده، از جمله بعد از اینکه آنتروپیک بهخاطر نگرانی از قابلیتهای خطرناک یه مدلو محدود کرد؛ خیلیها تو حوزهٔ ایمنی هوش مصنوعی این تصمیمو یه نقطه عطف میدونن. توضیح مقاله اینه که مدلهایی که برای کدنویسی خودکار و استدلال چندمرحلهای بهینه شدن، همزمان تو بازبینی دقیق و طاقتفرسای کد هم قوی میشن، یعنی همون کاری که برای پیدا کردن باگهای امنیتی لازمه.
توصیه عملی این هشدار چیز جدیدی نیست: سیستمهای صنعتی که به اینترنت وصلن (بهخصوص PLC های زیمنس S7) باید شناسایی، پچ و در صورت امکان از دسترس مستقیم اینترنت خارج بشن. چیزی که عوض شده حجم و پیوستگی اسکنهاست. برای تیمهایی که با ایجنتهای هوش مصنوعی کار میکنن، توصیه اینه که به دسترسی اجرای کد یا شبکهٔ این ایجنتها هم مثل یه پیمانکار انسانی نگاه کنن: کمترین دسترسی ممکن، لاگگیری و مانیتور کردن رفتارهای شبیه شناسایی، نه فقط حملههای آشکار.
نکات کلیدی:
- هشدار مشترک NSA، FBI، CISA، وزارت انرژی و EPA دربارهٔ اسکریپتهای نفوذ ساختهشده با هوش مصنوعی علیه زیرساخت انرژی و آب
- هدف مشخصشده: PLC های زیمنس S7 که به اینترنت وصلن
- ادعای هک نیروگاه بریتانیا توسط هکرهای مرتبط با ایران (چهار روز قطعی برق)، بدون تایید ارتباط با هوش مصنوعی
- همزمانی این هشدار با محدود کردن یه مدل توسط آنتروپیک بهخاطر نگرانیهای ایمنی
- توصیه: پچ سیستمهای در معرض دید و کمترین سطح دسترسی برای ایجنتهای هوش مصنوعی
