دسترسی بیحسابوکتاب عاملهای هوش مصنوعی
هوش مصنوعیخلاصهٔ کاملتر
به گزارش Help Net Security، شرکت ۱Password اواخر می و اوایل ژوئن ۲۰۲۶ از هزار نفر از کارکنان امنیت و مهندسی شرکتهای بزرگ آمریکایی نظرسنجی کرده. ۴۶٪ از توسعهدهندهها همین الان عامل هوش مصنوعی رو تو محیط production اجرا میکنن و ۷۱٪ میگن این عاملها به اطلاعات حساس دسترسی دارن — از پروندهٔ مشتریها تا سورسکد و فایلهای منابع انسانی.
مشکل اصلی اینه که دسترسی واقعی با چیزی که تأیید شده جور درنمیاد. تو حدود چهار سازمان از هر ده سازمان، عاملها به دادههایی میرسن که خارج از محدودهٔ تأییدشونه، و در کل نظرسنجی عاملها تقریباً دو برابر چیزی که کسی امضاش کرده به داده دست زدن. ابزارهایی که رصد میکنن چه کسی به دادهٔ حساس دست میزنه برای کارمند انسانی ساخته شدن و وقتی یه حساب نیمهخودمختار خودش شروع میکنه به بازکردن درها، رشتهٔ کار از دستشون درمیره.
۴۰٪ از توسعهدهندهها به عاملها دسترسی دائمی به سیستمها و secretها میدن، یعنی دسترسی بعد از تمومشدن کار هم زنده میمونه، و حدود یکچهارم credential رو مستقیم توی اسکریپت یا فایل کانفیگ hardcode میکنن. یکی از مدیران شبکه تو نظرسنجی تعریف کرده که یه قطعی بزرگ سیستم بهخاطر عاملی بوده که با یه credential منقضیشده کار میکرده، و چون audit trail حسابهای غیرانسانی عملاً وجود نداشته، پیداکردن ریشهش کلی طول کشیده.
یه ریسک جدا هم محتوای نامعتبره: ۴۷٪ از توسعهدهندهها تجربه کردن که عاملشون بعد از دنبالکردن دستورهای پنهانشده تو یه صفحهٔ وب، سند، ایمیل یا خروجی یه ابزار، کار ناخواستهای انجام داده. جیسون ملر، معاون محصول ۱Password، میگه تستهای خودشون نشون داده مدلها تو تشخیص فیشینگ تقریباً بینقصن، ولی تشخیص باعث نمیشه عامل وسط کار متوقف بشه؛ خیلی وقتها عامل اصلاً فریب نخورده، فقط داره درخواستی رو صادقانه اجرا میکنه که تهش جای خطرناکیه.
سر مسئولیت هم هیچ توافقی نیست. وقتی پرسیدن یه عامل که خسارت میزنه پای کیه، جوابها تو کل چارت سازمانی پخش شده و ۶۵٪ گفتن مسئولیت باید گردن یکی دیگه باشه. به گفتهٔ ملر نگرانکنندهترین عدد اون ۵ درصدیه که خود عامل رو مسئول میدونن، چون عامل رو نه میشه اخراج کرد نه ازش شکایت کرد. نظر خودش اینه که مسئولیت با کسیه که دسترسی عامل رو تأیید کرده. ۱Password هم داره یه credential broker میسازه که هر صدور credential رو به یه هویت مشخص و به آدمی که اجازهشو داده گره بزنه.
نکات کلیدی:
- ۴۶٪ توسعهدهندهها عامل هوش مصنوعی رو در production اجرا میکنن و ۷۱٪ میگن این عاملها به دادهٔ حساس میرسن
- در حدود ۴۰٪ سازمانها دسترسی عاملها از محدودهٔ تأییدشده فراتر میره؛ در مجموع حدود دو برابر چیزی که تأیید شده
- ۴۰٪ دسترسی دائمی میدن و حدود یکچهارم credential رو داخل اسکریپت یا کانفیگ hardcode میکنن
- ۴۷٪ دیدن عاملشون از دستور پنهانشده تو یه صفحه یا سند پیروی کرده و ۳۳٪ حادثهٔ امنیتی مرتبط با هویت غیرانسانی داشتن
- پیشنهاد ملر: مسئولیت با کسیه که دسترسی رو تأیید کرده، نه کسی که پرامپت رو تایپ کرده
