Strands Box؛ سندباکس متن‌باز AWS برای مهار ایجنت‌های هوش مصنوعی
هوش مصنوعیخلاصهٔ کامل‌تر
AWS یه ابزار متن‌باز جدید به اسم Strands Box منتشر کرده که یه سندباکس کامل برای ایجنت‌های هوش مصنوعیه. به گفتهٔ تیم AWS، ایجنت‌ها روزبه‌روز بیشتر تو «YOLO mode» اجرا می‌شن، یعنی حالتی که هر کاری رو بدون بازبینی آدم تأیید می‌کنن. راه‌حل معمول برای این مشکل سندباکسه، ولی AWS می‌گه دسترسی فقط بخشی از چیزیه که باید کنترل بشه.
مشکل کانتینرها و microVMها (یعنی ماشین‌های مجازی خیلی سبک) اینه که ایزوله‌سازی قوی دارن ولی قوانین وابسته به موقعیت ندارن. یعنی وقتی ایجنت داخل کانتینر به یه ابزار دسترسی پیدا کرد، ممکنه چیزی جلوشو نگیره و مثلاً دیتابیس production رو پاک کنه یا به اینترنت وصل بشه.
Strands Box برای حل این مشکل از Dogwood Local Engine استفاده می‌کنه که به موتور policy حافظهٔ زمانی می‌ده. یعنی هر tool call هم با کاری که ایجنت می‌خواد بکنه سنجیده میشه و هم با کارهایی که قبلاً کرده. مثال خود AWS اینه که ایجنت می‌تونه تو Slack آپدیت وضعیت بفرسته، ولی نه بیشتر از سه بار تو هر ده دقیقه. همین‌طور میشه تعیین کرد کی اجازهٔ Git push داره یا برای API callهای گرون سقف گذاشت.
داخل Box دو مفسر هم هست: Strands Shell و Monty برای Python. این‌ها عملیات shell و پایتون (مثل پاک کردن فایل) رو به همون موتور policy و تاریخچهٔ رویدادها نشون می‌دن، و gatewayها هم درخواست‌های API و tool callها رو. Marc Brooker، معاون و مهندس ارشد AWS، به The Register گفته که این کار رفتار ایجنت رو قابل فهم‌تر می‌کنه و برنامه‌نویس می‌تونه policyهای دقیق‌تری بنویسه.
به گفتهٔ Brooker، Box قوانین رو به شکل قطعی اجرا می‌کنه و به این تکیه نمی‌کنه که ایجنت دستورها رو گوش بده؛ ایجنت نمی‌تونه با حرف زدن این قوانین رو دور بزنه. ولی خودش هم قبول داره که حتی با دسترسی‌های درست، یه کار ایجنت ممکنه نتیجهٔ ناخواسته داشته باشه و تصمیم دربارهٔ اینکه کجا بازبینی آدم لازمه هنوز با خود برنامه‌نویسه.
نکات کلیدی:
- Strands Box متن‌بازه و روی GitHub منتشر شده، فعلاً فقط برای macOS
- نسخهٔ Linux در دست ساخته‌ست و Windows فقط «تو برنامه»ست، هیچ‌کدوم تاریخ انتشار ندارن
- با Dogwood Local Engine قوانین به تاریخچهٔ کارهای ایجنت هم نگاه می‌کنن، مثل حداکثر سه پیام Slack در ده دقیقه
- Strands Shell و Monty عملیات shell و Python رو برای policy engine قابل دیدن می‌کنن
- با هر ایجنت یا harnessی کار می‌کنه و استقرار روی AgentCore، ECS و Kubernetes هم برنامه‌ریزی شده
