‏ابزار مایکروسافت برای مهار ایجنت‌های هوش مصنوعی

مایکروسافت تو این پروژه می‌گه وقتی ایجنت‌های هوش مصنوعی به محیط واقعی می‌رن، خودشون ابزار صدا می‌زنن، وب رو می‌گردن، دیتابیس کوئری می‌زنن و به ایجنت‌های دیگه کار محول می‌کنن؛ یعنی مستقل تصمیم می‌گیرن. Agent Governance Toolkit (یا AGT) برای همینه و سه سؤال کلیدی رو جواب می‌ده: این کار مجازه؟ کدوم ایجنت انجامش داد؟ و آیا می‌تونی ثابت کنی چی شده؟

به گفتهٔ مستندات پروژه، تکیه به ایمنی در سطح پرامپت («لطفاً قانون رو رعایت کن») یک سطح کنترل واقعی نیست، چون یک درخواست مؤدبانه به یک سیستم احتمالاتیه. اونا به استاندارد OWASP LLM01 و مقاله‌های پژوهشی اشاره می‌کنن که نشون دادن حمله‌های جیلبریک می‌تونن روی مدل‌هایی مثل GPT-4o و Claude نرخ موفقیت بالایی داشته باشن، پس دفاع در لایهٔ مدل ذاتاً قطعی نیست.

راه‌حل AGT اینه که این جنگ رو داخل پرامپت نبره. هر فراخوانی ابزار، ارسال پیام و محول‌کردن کار، تو کد قطعی برنامه و قبل از این‌که نیت مدل به سیم برسه رهگیری می‌شه. به گفتهٔ نویسنده‌ها کارهایی که هستهٔ AGT رد می‌کنه «بعید» نیستن، بلکه «ساختاری غیرممکن»ـن؛ همین تفاوت بین خواهش از یک ایجنت برای رفتار درست، و ناتوان‌کردنش از رفتار غلطه.

استفادهٔ پایه خیلی ساده‌ست: با یک pip install نصب می‌شه و با دو خط می‌تونی هر تابع ابزار رو گاورن کنی. تابع govern یک ابزار و یک فایل سیاست می‌گیره و یک نسخهٔ امن برمی‌گردونه که هر فراخوانی‌ش طبق سیاست چک، لاگ و در صورت نیاز بلاک می‌شه:

from agentmesh.governance import govern

safe_tool = govern(my_tool, policy="policy.yaml")

سیاست‌ها هم تو یک فایل YAML ساده تعریف می‌شن؛ مثلاً می‌تونی قانونی بذاری که هر کنشی از نوع حذف یا truncate رو رد کنه، یا ارسال ایمیل رو منوط به تأیید تیم امنیت کنه. اگه کنشی بلاک بشه، AGT یک خطای GovernanceDenied بالا میاره و دلیلش رو هم می‌گه.

معماری AGT لایه‌لایه‌ست: موتور سیاست، هویت (با SPIFFE/DID/mTLS)، و یک لاگ ممیزی ضدتغییر. به گفتهٔ پروژه هر لایه اختیاریه؛ می‌تونی فقط با govern() شروع کنی و هرچی پروفایل ریسکت بزرگ‌تر شد لایه اضافه کنی. بیشتر تیم‌ها فقط سیاست‌گذاری به‌علاوهٔ لاگ ممیزی رو اجرا می‌کنن و هیچ‌وقت به استک کامل نیاز پیدا نمی‌کنن.

این تولکیت چندزبانه‌ست و SDK اصلیش برای پایتون، تایپ‌اسکریپت، دات‌نت، Rust و Go هست (استک کامل فقط روی پایتونه)، و با فریم‌ورک‌هایی مثل Semantic Kernel، AutoGen، LangGraph، CrewAI و حتی Claude Code یکپارچه می‌شه. ابزارهایی هم برای تشخیص آلودگی ابزار MCP، پیدا کردن ایجنت‌های ثبت‌نشده و انطباق با استانداردهایی مثل NIST AI RMF و EU AI Act داره. فعلاً هم تو مرحلهٔ Public Preview ـه و ممکنه قبل از نسخهٔ نهایی تغییرات شکننده داشته باشه.

نکات کلیدی:

• AGT یک تولکیت اوپن‌سورس مایکروسافت برای سیاست‌گذاری، هویت، سندباکس و SRE ایجنت‌های هوش مصنوعیه
• هر فراخوانی ابزار رو تو کد قطعی و قبل از اجرا چک می‌کنه، نه در سطح پرامپت
• نصب با یک pip install و گاورن‌کردن هر تابع با دو خط کد
• سیاست‌ها تو فایل YAML تعریف می‌شن و کنش بلاک‌شده خطای GovernanceDenied می‌ده
• از پایتون، تایپ‌اسکریپت، دات‌نت، Rust و Go و فریم‌ورک‌های رایج ایجنت پشتیبانی می‌کنه؛ فعلاً Public Preview ـه