انویدیا پلتفرم امنیت ایجنت‌ها رو باز کرد
هوش مصنوعیخلاصهٔ کامل‌تر
انویدیا از NVIDIA Open Agent Safety Platform رونمایی کرد، یه پلتفرم نرم‌افزاری متن‌باز به‌علاوهٔ یه طرح مرجع سخت‌افزاری که کارش کنترل ایجنت‌های هوش مصنوعیه، از مرحلهٔ تست تا زمان اجرا روی سرور. به گفتهٔ انویدیا، حادثه‌های امنیتی اخیر همه یه الگوی مشترک داشتن: ایجنت برای اینکه کاری که بهش سپرده شده رو تموم کنه، کنترل‌های امنیتی رو در لایهٔ اپلیکیشن دور زده. جواب انویدیا اینه که مرز باید بیرون از مدل و بیرون از خودِ harness ایجنت باشه.
تکهٔ اول OpenShell هست، یه runtime امن و متن‌باز که مشخص می‌کنه ایجنت روی CPU چه کارهایی می‌تونه بکنه، همهٔ اکشن‌هاش رو ثبت می‌کنه و سیاست‌ها رو اجرا می‌کنه. الان به‌طور عمومی در دسترسه و با سربار کم روی Vera اجرا میشه، اولین CPU انویدیا که مخصوص agentic AI ساخته شده. چون متن‌بازه، میشه برای پلتفرم‌های محاسباتی دیگه از جمله Arm و Intel هم توسعه‌ش داد.
تکهٔ دوم Sentry هست، یه نگهبان out-of-band (یعنی بیرون از مسیر اصلی اجرا، جدا و مستقل) که روی DPUهای BlueField-4 می‌چرخه. کار Sentry رصد پیوستهٔ رفتار ایجنته و اگه ایجنت بخواد از مرز نرم‌افزاری‌ش بزنه بیرون، در حد چند میلی‌ثانیه قرنطینه و متوقفش می‌کنه. نکته اینه که از یه دامنهٔ اعتماد جداست و برای ایجنت و مهاجم نامرئیه. Sentry روی نرم‌افزار DOCA سواره: درخواست و پاسخ ایجنت رو بازرسی می‌کنه، هویت ایجنت رو تأیید می‌کنه و سیاست‌های دسترسی zero-trust رو روی داده و ابزار و API اعمال می‌کنه.
جنسن هوانگ، مدیرعامل انویدیا، گفته پتانسیل هوش مصنوعی فقط وقتی به دست میاد که مسئلهٔ safety حل بشه و امنیت یه مهندسی full-stack می‌خواد؛ به گفتهٔ اون هدف این پلتفرم جمع کردن صنعت و پژوهشگرها و نهادهای عمومی دور یه میز برای هم‌راستا شدن روی روش‌های ارزیابیه.
آنتروپیک هم با انویدیا همکاری کرده: Claude Managed Agents حلقهٔ ایجنت رو روی یه سرور جدا از سندباکس‌هایی که کار اونجا اجرا میشه می‌چرخونه، و اتصال به OpenShell و BlueField اجازه می‌ده شرکت‌ها دسترسی ایجنت به اون سندباکس‌ها رو محکم کنترل کنن. سیلزفورس OpenShell رو با Slack یکی کرده تا تیم‌ها فعالیت و رویدادهای ممیزی ایجنت رو ببینن و درخواست دسترسی بیشترش رو تأیید یا رد کنن. SAP هم داره OpenShell رو در runtime محصول Joule Studio جا می‌ده و بخشی از کار مهندسی‌ش رو به خود OpenShell برمی‌گردونه.
بقیهٔ اسم‌ها هم کم نیستن: از Cisco و CrowdStrike و Palo Alto Networks و Microsoft و Red Hat و Hugging Face و Scale AI تا Citi و JPMorganChase در بخش مالی و Figure و Skild AI در رباتیک، که دارن این کنترل‌ها رو داخل سیستم‌هایی می‌ذارن که در دنیای فیزیکی کار می‌کنن. Canonical و SUSE هم دارن پلتفرم رو داخل سیستم‌عامل‌هاشون می‌برن. کد و نرم‌افزارها روی گیت‌هاب در دسترسه و این مشارکت‌ها زیر چتر Open Secure AI Alliance می‌ره که انویدیا همراه بیش از 120 سازمان راه انداخته و بنیاد لینوکس اداره‌ش می‌کنه.
نکات کلیدی:
- پلتفرم دو تکه داره: نرم‌افزار متن‌باز OpenShell و طرح مرجع سیستمی Sentry.
- OpenShell روی CPU جدید Vera اجرا میشه و چون متن‌بازه به Arm و Intel هم قابل گسترشه.
- Sentry روی DPUهای BlueField-4 و بر پایهٔ DOCA کار می‌کنه و ایجنت متخلف رو در چند میلی‌ثانیه قرنطینه می‌کنه.
- بیش از 100 سازمان درگیرن؛ Open Secure AI Alliance با بیش از 120 عضو زیر نظر بنیاد لینوکس اداره میشه.
- کد OpenShell روی گیت‌هاب در دسترسه (NVIDIA/OpenShell).
