‏حاکمیت یکسان برای ایجنت‌های AI جواب نمی‌ده

با حرکت سازمان‌ها از چت‌بات‌های ساده به سمت ایجنت‌های خودمختاری که کار رو برنامه‌ریزی می‌کنن، API صدا می‌زنن، کد اجرایی می‌نویسن و دیتابیس سازمانی رو تغییر می‌دن، چارچوب‌های سنتی انطباق و حاکمیت دارن کم میارن. تو بلاگ JFrog به یه هشدار Gartner استناد شده: تا سال ۲۰۲۷ حدود ۴۰٪ سازمان‌ها ایجنت‌های خودمختارشون رو تنزل درجه می‌دن یا از رده خارج می‌کنن، چون ایرادهای حاکمیتی فقط بعد از یه حادثهٔ سنگین تو پروداکشن معلوم می‌شه.

به گفتهٔ Shiva Varma، تحلیل‌گر ارشد Gartner، ریشهٔ این نرخ شکست یه ضدالگو به اسم «حاکمیت دودویی»ه: ایجنت یا کاملاً قفله یا کاملاً مورد اعتماد. وقتی یه سیاست واحد روی کل پرتفوی AI اعمال می‌شه، دو جور شکست پیش میاد — فلج عملیاتی (یه بات کم‌ریسک که فقط کامیت‌های ریپو رو خلاصه می‌کنه، ماه‌ها تو صف انطباق گیر می‌کنه و مهندس‌ها رو به سمت shadow AI هل می‌ده) و در‌معرض‌بودن سیستمی (یه ایجنت پرقدرت با دسترسی به سیستم پرداخت یا زیرساخت ابری، فقط با مانیتورینگ عمومی سطح اپلیکیشن رصد می‌شه).

نویسنده می‌گه نکتهٔ اصلی اینه که ایجنت‌ها یه لایهٔ واحد نیستن و باید متناسب با مرزهای اعتمادی که رد می‌کنن و سطح خودمختاری‌شون کنترل بشن. ولی سیاست‌های منعطف با فیلترکردن پرامپت موقع اجرا ساخته نمی‌شه؛ باید سراغ خود اجزای نرم‌افزاری‌ای رفت که ایجنت رو می‌سازن.

زیر لایهٔ ارکستریشن، یه ایجنت مدرن از چند آرتیفکت نسخه‌دار تشکیل شده: مدل، سرورهای MCP، ابزارها، پلاگین‌ها و اسکیل‌ها. سرورهای MCP هم داده و هم قابلیت اجرایی رو به ایجنت می‌دن و مثل یه وابستگی معمولی از رجیستری‌های عمومی مثل npm، PyPI یا Docker Hub کشیده می‌شن؛ یه MCP تأییدنشده می‌تونه در پشتی به دادهٔ سازمان باز کنه یا به اجرای کد از راه دور و ترفیع دسترسی برسه.

پلاگین‌ها برخلاف MCP وابسته به پلتفرمن — چیزی که برای یکی نوشته شده، تو دیگری اجرا نمی‌شه — و چون معمولاً با دسترسی سطح‌بالای حساب سازمانی کار می‌کنن، یه پلاگین آلوده از مارکت‌پلیس عمومی می‌تونه تراکنش API غیرمجاز بزنه یا توکن نشت بده. اسکیل‌ها هم که منطق و گاردریل رفتاری ایجنت رو تعریف می‌کنن، به شکل بسته‌های اعلانی حول SKILL.md از رجیستری‌های عمومی دانلود می‌شن؛ یه اسکیل دستکاری‌شده می‌تونه با تزریق پرامپت مرزهای ایمنی ایجنت رو کلاً بازنویسی کنه.

پیشنهاد این مقاله یه ماتریس تأیید آرتیفکت بر پایهٔ چهار سطح خودمختاری Gartner ـه: هرچی ایجنت مرزهای حساس‌تری رو رد می‌کنه، کنترل‌ها سفت‌تر می‌شن. JFrog طبیعتاً محصول‌های خودش (Artifactory، Xray، AI Catalog و Agent Guard) رو به عنوان بستر این کار معرفی می‌کنه — از اسکن مدل‌ها و کانتینرها گرفته تا قطع‌کن مدار برای ایجنت‌های سطح ۴. ولی حرف اصلی مستقل از ابزاره: مدل و MCP و ابزار و پلاگین و اسکیل رو مثل آرتیفکت نرم‌افزاری درجه‌یک ببین و متناسب حکمرانی کن.

نکات کلیدی:

• پیش‌بینی Gartner: تا ۲۰۲۷، ۴۰٪ سازمان‌ها ایجنت‌های خودمختار رو تنزل می‌دن یا خاموش می‌کنن
• «حاکمیت دودویی» (قفل کامل یا اعتماد کامل) هم سرعت رو می‌کشه هم ریسک رو پنهان می‌کنه
• ایجنت یعنی مجموعه‌ای از آرتیفکت‌ها: مدل، MCP، ابزار، پلاگین و اسکیل
• MCP و پلاگین و اسکیلِ تأییدنشده یعنی در پشتی، نشت توکن و تزریق پرامپت
• کنترل‌ها باید متناسب با سطح خودمختاری و مرزهای اعتماد باشن، نه یکسان برای همه