ایجنتهای هوش مصنوعی و مرز گمشدهٔ CIO، CISO و CRO
خلاصهٔ کاملتر
مقاله با یه سناریو شروع میشه: ساعت ۹:۲۴ یه ایجنت هوش مصنوعی فعالیت مشکوکی با دسترسی بالا میبینه و تصمیم میگیره سرویس هویت رو خاموش کنه. همهچیز طبق طراحیه؛ ایجنت هویت خودش رو داره، دسترسیهاش محدوده و کارش تو لاگ غیرقابلتغییر ثبت میشه. سیاست شرکت میگفت بدون تأیید سرویس production رو قطع نکن، ولی ایجنت «مهار تهدید» رو همون تأیید حساب کرد. ساعت ۹:۳۰ نه کالسنتر میتونه وارد بشه نه تیم پرداخت.
حالا سه مدیر تو یه اتاق هستن: CIO (مدیر ارشد IT) میخواد سرویس برگرده، CISO (مدیر ارشد امنیت) میخواد تا رفع کامل تهدید خاموش بمونه و CRO (مدیر ارشد ریسک) داره حساب میکنه کی از حد ریسکی که هیئتمدیره تأیید کرده رد میشن. نویسنده میگه سالها فکر میکرده مشکل آدمها هستن، ولی بعد فهمیده آدمها مشکلی نداشتن؛ تصمیم صاحب نداشت.
نویسنده به پیشبینی Gartner اشاره میکنه که تا ۲۰۲۹ دستکم ۷۰٪ سازمانهایی که ایجنت رو تو زیرساخت و عملیات اجرا میکنن، به یه حادثهٔ جدی سرویسی، امنیتی یا هزینهای میخورن. راهکار Gartner اینه که هر ایجنت هویت و مالک داشته باشه، دسترسی فقط برای همون کار داده بشه و یه لایهٔ کنترلی جدا تصمیم بگیره کار اجرا بشه یا نه. نویسنده با همهش موافقه، ولی میپرسه: وقتی لایهٔ کنترل از آدم تأیید میخواد، کدوم آدم؟
به گفتهٔ نویسنده باید سه چیز رو از هم جدا کرد: هویت میگه کدوم ایجنت کار رو کرد، دسترسی (permission) میگه از نظر فنی چه کاری میتونست بکنه و اختیار (authority) میگه آیا حق داشت همین الان با این پیامدها اون کار رو بکنه. دوتای اول رو ابزارهای IAM خوب پوشش میدن، ولی سومی تو ساختار سازمان زندگی میکنه. مشکل هم سه جا خودش رو نشون میده: قبل از اقدام (اختیار متناقض)، حین اقدام (تأییدی که ۴۰ دقیقه طول میکشه وقتی پنجره پنج دقیقهست، یا ابزار تأیید که خودش رو همون پلتفرم ازکارافتادهست) و بعدش (یکی میگه سرویس در دسترسه، یکی میگه قابل اعتماد نیست).
نویسنده راهحلهای رایج مثل گذاشتن یه Chief AI Officer، ساختن کمیتهٔ هوش مصنوعی یا خریدن پلتفرم امنیت ایجنت رو ناقص میدونه، چون همهشون جواب میدن «کی مسئول AI هست»، نه «کی مالک همین تصمیمه». پیشنهادش اینه که هر حادثه رو به چند تصمیم بشکنی و برای هرکدوم از قبل مالک تعیین کنی. برای ایجنت هم یه mandate بنویسی؛ مثل توجیه یه معاون تازهکار: کارش چیه، چه تصمیمهایی میتونه بگیره، کِی باید ارجاع بده. بعد این mandate رو قابل اجرا کنی تا لایهٔ کنترل علاوه بر دسترسی، اختیار رو هم چک کنه.
نکات کلیدی:
- Gartner پیشبینی کرده تا ۲۰۲۹ حداقل ۷۰٪ سازمانهایی که ایجنت رو تو عملیات زیرساخت اجرا میکنن، به حادثهٔ جدی میخورن.
- هویت، دسترسی و اختیار سه چیز جدان و ابزارهای IAM فقط دوتای اول رو پوشش میدن.
- بهجای audit trail باید decision trail داشت: چه شواهدی بود، چه اختیاری اعمال شد و کی ریسک باقیمونده رو پذیرفت.
- برای هر دسته از تصمیمها باید یه پنجرهٔ زمانی تعریف کرد و یه راه تصمیمگیری اضطراری برای وقتی سیستمهای اصلی پایینن.
- مقرراتهایی مثل DORA، NIS2 و EU AI Act انتظار دارن آخر زنجیره یه آدم مشخص جوابگو باشه.




