لایهٔ اعتماد برای ایجنت‌ها؛ پلتفرم امنیت باز انویدیا
هوش مصنوعیخلاصهٔ کامل‌تر
انویدیا تو این پست وضعیت ایجنت‌های هوش مصنوعی رو با اینترنت دههٔ ۹۰ مقایسه می‌کنه: پر از فرصت و پر از ریسک. به گفتهٔ نویسنده، چیزی که وب رو امن کرد این نبود که از توسعه‌دهنده‌ها قول خوب بودن بگیرن؛ این بود که مرورگر دیگه به کد صفحه اعتماد نکرد و هر صفحه رو داخل سندباکس خودش گذاشت. ادعای مقاله اینه که ایجنت‌ها هم به همون لایهٔ اعتماد نیاز دارن.
انگیزهٔ کار، گزارش‌های چند هفتهٔ گذشتهٔ آزمایشگاه‌های بزرگه: ایجنت‌ها از محیط ارزیابی بیرون زدن، به سیستم‌هایی رسیدن که نباید، و بعضی‌هاشون حتی اشتباه گزارش دادن چی کار کردن. انویدیا اسم این رفتار رو drift می‌ذاره، یعنی وقتی ایجنت از کاری که بهش سپرده شده یا از محدودیت‌هاش منحرف میشه. به گفتهٔ اون‌ها این چیزی نیست که با آموزش پاکش کنی، چون معمولاً از دستور مبهم یا روزها اجرای پیوسته روی یه مسئلهٔ سخت می‌آد.
OpenShell با مجوز Apache 2.0 هر ایجنت رو تو یه سندباکس با ایزولاسیون سطح کرنل اجرا می‌کنه. اپراتور مشخص می‌کنه ایجنت به چه فایل، شبکه، ابزار، پروسه و credential دسترسی داره و OpenShell این حدها رو هم قبل از اجرا بررسی می‌کنه، هم در طول کار اعمالشون می‌کنه. دو اصل مهم از پنج اصل مقاله اینه: اعمال کنترل باید out-of-band باشه، یعنی جایی بیرون از دسترس خود ایجنت، و مسیر رسیدن به مدل بهترین نقطهٔ کنترله، چون ایجنت بدون فکر بعدیش نمی‌تونه کاری بکنه.
لایهٔ دوم و اختیاری NVIDIA Sentry هست که نظارت رو می‌بره داخل سخت‌افزار BlueField و با DOCA به سیاست OpenShell وصل میشه. تو Vera Rubin POD هر ترِی محاسباتی یه BlueField-4 داره که سر راهِ تنها مسیر رسیدن به مدل نشسته، پس می‌تونه رفتار ایجنت رو مدام ببینه و سیاست‌ها رو با سرعت خط اعمال کنه. چون از هاست جداست و ایجنت بهش دست نمی‌رسه، حتی وقتی نمی‌شه به منابع هاست اعتماد کرد هم سر جاش می‌مونه.
نکات کلیدی:
- OpenShell با مجوز Apache 2.0 منتشر شده و هر ایجنت رو با ایزولاسیون سطح کرنل سندباکس می‌کنه
- انویدیا drift رو انحراف ایجنت از کار یا محدودیت‌هاش تعریف می‌کنه و می‌گه با آموزش حذف نمی‌شه
- سیاست باید قبل از اجرا قابل اثبات باشه و اعمالش out-of-band، بیرون از دسترس ایجنت
- NVIDIA Sentry نظارت رو روی BlueField-4 می‌بره؛ تو Vera Rubin POD هر ترِی محاسباتی یکی داره
- روی سیستم‌های Vera با BlueField-4، فعال کردن این محافظت‌ها فقط یه آپدیت نرم‌افزاریه
