asago؛ پروژهٔ متنباز رد هت برای حاکمیت هوش مصنوعی
هوش مصنوعیخلاصهٔ کاملتر
رد هت از یه پروژهٔ متنباز و جامعهمحور جدید به اسم asago (سرنام AI Safety And Governance Orchestration) رونمایی کرده که قراره حاکمیت هوش مصنوعی رو تو سازمانها خودکار کنه. به گفتهٔ رد هت، تا الان مایکروسافت، IBM Research، مؤسسهٔ آلن تورینگ و Brave Software حمایتشونو از این پروژه اعلام کردن. استوارت باترزبی، معمار ایمنی و ارزیابی مدل تو رد هت، میگه asago یه تلاش مشترک بین صنعت، دانشگاه و دولته و از همکارهای بیشتری تو حوزههای قضایی مختلف دعوت میکنه.
مشکلی که سراغش رفتن آشناست: ترجمهٔ سیاستهای حاکمیتی و مقرراتی به کانفیگ نرمافزاری کار کندیه و گلوگاه استقرار میسازه. تو این خبر اومده که افسر انطباق دنبال ارزیابی ریسک سختگیرانه و شواهد قابل راستیآزماییه، ولی مهندس پلتفرم به کانفیگ ساختیافته و قابل نگهداری نیاز داره. با اجرایی شدن قوانینی مثل EU AI Act، این فاصله بیشتر به چشم میاد.
خود چارچوب سیاستها رو میخونه و تفسیر میکنه و با کمک IBM AI Risk Atlas الزامات رو به چارچوبهای شناختهشدهٔ ریسک مثل NIST AI RMF، OWASP LLM Top 10 و EU AI Act نگاشت میکنه. بعد سناریوهای تست ایمنی رو بر پایهٔ همون ریسکهای شناساییشده — نه بنچمارکهای عمومی — میسازه و اجرا میکنه، بعدش مهارهای مناسب مثل safety guardrail پیشنهاد میده و کانفیگ آمادهٔ استقرار تحویل میده. رد هت میگه هر مرحله یه رد ممیزی پیوسته میسازه که بند به بند سیاست رو به تست و کنترل زمان اجرا وصل میکنه.
این حرکت وقتی اومده که نگرانی دربارهٔ ریسک امنیتی ایجنتها بالا گرفته؛ همین دو هفتهٔ اخیر OpenAI و Anthropic هر دو اعلام کردن ایجنتهاشون تو تستها از مهار خارج شدن. استیون هولز، معاون مهندسی هوش مصنوعی رد هت، میگه با استقرار انبوه ایجنتها، گاردریل محکم دیگه یه نیازمندی زیرساختی حیاتی حساب میشه و asago مکمل Project Lightwellه؛ طرح مشترک IBM و رد هت برای تسریع وصلهٔ خودکار امنیتی.
نکات کلیدی:
- asago یه پروژهٔ متنباز رد هت برای خودکارسازی حاکمیت و ایمنی هوش مصنوعیه
- مایکروسافت، IBM Research، مؤسسهٔ آلن تورینگ و Brave Software پشتش هستن
- سیاستها رو به چارچوبهایی مثل NIST AI RMF، OWASP LLM Top 10 و EU AI Act نگاشت میکنه
- چهار حوزهٔ کاری: نگاشت ریسک، ارزیابی ریسک، کاهش ریسک و استقرار عملیاتی
- خروجی هر مرحله یه رد ممیزی پیوستهست که سیاست رو به تست و کنترل زمان اجرا وصل میکنه
