ابتکار شفافیت AI مایکروسافت برای کنترل ایجنتها
خلاصهٔ کاملتر
مایکروسافت تو کنفرانس Ignite اعلام کرده یه برنامهٔ جدید به اسم AI Transparency Initiative راه انداخته. مشکلی که دنبال حلشه اینه: سازمانها ایجنتهای AI رو به داده، ابزار، اطلاعات ورود و زیرساخت وصل میکنن و این ایجنتها بدون تأیید انسان کار انجام میدن. ابزارهای فعلی فقط اطراف مدل رو میبینن و نمیتونن بازسازی کنن بین درخواست و نتیجه دقیقاً چی اتفاق افتاده.
به گفتهٔ مایکروسافت، همین «شکاف شواهد» ریسک امنیتی، حسابرسی و پاسخگویی درست میکنه. اونا ایجنتی که به داده و credential دسترسی داره رو شبیه یه insider با دسترسی بالا میدونن (یعنی کارمندی داخل سازمان که میتونه آسیب جدی بزنه)، با این فرق که با سرعت و مقیاس ماشین کار میکنه. حرفشون اینه که «به مدل اعتماد کن» کنترل امنیتی حساب نمیشه و مسئولیت آخرش با خود سازمانه.
این برنامه سه بخش داره. اول، مایکروسافت حضورش رو تو برنامهٔ استانداردهای ایجنت NIST (مؤسسهٔ ملی استاندارد آمریکا) بیشتر میکنه. دوم، با بیش از ۴۰ سازمان از جمله Accenture، Adobe، KPMG، Mastercard و Volvo Cars روی استانداردهای باز کار میکنه که به مدل یا ارائهدهندهٔ خاصی وابسته نیستن. سوم، نتیجهش رو وارد Microsoft AI، Microsoft Foundry و Microsoft Copilot میکنه تا مشتریها شواهد رو تو ابزارهای امنیتی خودشون، حتی غیرمایکروسافتی، استفاده کنن.
چارچوب پیشنهادی سه اصل داره: دیدن، تأیید کردن و کنترل کردن. یعنی باید معلوم باشه از AI چی خواسته شده، کدوم مدل و runtime استفاده شده، به چه داده و ابزاری دسترسی داشته و چه کاری کرده. نکتهٔ مهمش اینه که ایجنت نباید تنها منبع حقیقت دربارهٔ رفتار خودش باشه. هر شاهدی باید مشخص کنه از کجا اومده، از خود مدل، از runtime یا از سیستمهای مستقل مثل identity و policy، تا بشه حرف مدل رو با سوابق مستقل مقایسه کرد.
چون این رویکرد روی مدلهای بسته و open-weight هر دو کار میکنه، تیمهای توسعه میتونن مدل پشت ایجنتشون رو عوض کنن بدون اینکه تیم امنیت یا حسابرسی توانایی نظارتش رو از دست بده. یعنی سوابق و کنترلها با سازمان میمونن، نه با ارائهدهندهٔ مدل.
نکات کلیدی:
- ساتیا نادلا این برنامه رو ۱۷ نوامبر ۲۰۲۶ تو Microsoft Ignite معرفی کرد.
- بیش از ۴۰ سازمان شریک هستن، از جمله Accenture، Adobe، KPMG، Mastercard و Volvo Cars.
- سه بخش: مشارکت در برنامهٔ استاندارد ایجنت NIST، استانداردهای باز صنعتی و ادغام در Foundry و Copilot.
- چارچوب سهگانه: See، Verify و Control.
- برای مدلهای بسته و open-weight هر دو طراحی شده و به ارائهدهندهٔ خاصی قفل نیست.




