Agent Substrate: اجرای ایجنت‌های هوش مصنوعی روی Kubernetes با kagent
هوش مصنوعیخلاصهٔ کامل‌تر
حدود یه ماه پیش Solo.io از پشتیبانی NemoClaw روی kagent خبر داده بود و به چالش‌های اجرای ایجنت‌ها روی Kubernetes اشاره کرده بود: ایجنت‌ها عمر طولانی دارن، انفجاری کار می‌کنن و بیشتر وقت بیکارن، پس به ابزارهای ایزوله‌سازی سبک‌تری مثل microVMهای Firecracker، gVisor و Kata Containers و قابلیت‌هایی مثل suspend، snapshot، resume و scale-to-zero با حفظ state نیاز هست. حالا Solo.io می‌گه روی پروژهٔ Agent Substrate کار کرده که قراره همین مشکلات رو حل کنه و زیرساخت اجرای ایجنت‌های سندباکس‌شده توی kagent باشه.
به گفتهٔ نویسنده، Kubernetes یه موتور ارکستراسیون عالیه ولی نقطهٔ قوتش چیزهایی مثل scale-to-zero، بوت میلی‌ثانیه‌ای، تخریب سریع، workloadهای بیکار و سندباکس تک‌مستأجر نیست. Solo.io برای نسخهٔ سازمانی kagent خودش یه راه‌حل سفارشی با Bubblewrap و Landlock و seccomp ساخته بود، با گزینهٔ استفاده از microVMهای Firecracker و یه control plane جدا که کنار control plane کوبرنتیز اجرا می‌شد. این راه‌حل بهشون اجازه می‌داد چندتا نمونهٔ ایجنت رو توی یه پاد جا بدن و سندباکس سفت‌وسختی برای هر مستأجر فراهم کنن. کل ترافیک خروجی هم از پروژهٔ agentgateway رد می‌شد. اون‌ها می‌تونستن ایجنت‌ها رو به صفر اسکیل کنن، توی storage اسنپ‌شات بگیرن و خیلی سریع از سر بگیرن: ۵۰ میلی‌ثانیه برای Bubblewrap و ۲۰۰ میلی‌ثانیه برای Firecracker.
نویسنده می‌گه درست وقتی داشتن این فناوری رو open source می‌کردن، فهمیدن یه تیم تو گوگل روی یه راه‌حل خیلی شبیه به همین به اسم Agent Substrate کار می‌کنه؛ نه فقط «یه پروژهٔ سندباکس دیگه»، بلکه معماری‌ای که به‌طور عجیبی نزدیک به چیزی بود که خودشون ساخته بودن. به همین خاطر تصمیم گرفتن تجربه‌شون رو بیارن و با گوگل روی این پروژه کار کنن.
Agent Substrate چند مشکل رو حل می‌کنه: استفادهٔ بهتر از پادها (با معلق کردن ایجنت‌های بیکار و جابه‌جا کردن ایجنت‌های آمادهٔ کار)، دور زدن API کوبرنتیز توی مسیر داغ استقرار (چون API server برای میلیون‌ها نوشتن و آپدیت ساخته نشده)، کاهش زمان استارت‌آپ از چند ثانیه به میلی‌ثانیه، و مدیریت state با اسنپ‌شات گرفتن کل ایجنت توی storageای مثل GCS یا S3 و resume سریع. در سطح بالا، Agent Substrate بازیگرها (یعنی ایجنت‌ها) رو روی workerها (پادها) زمان‌بندی و معلق می‌کنه؛ یه مجموعه پاد از قبل به‌عنوان worker عمومی آماده می‌کنی که توی منبع WorkerPool تعریف می‌شن و ایجنت‌ها از روی یه ActorTemplate ساخته می‌شن.
در مورد kagent، نویسنده توضیح می‌ده که kagent از اجرای ایجنت‌های خودت (مثل Langchain، CrewAI، ADK)، ایجنت‌های اعلانی و harnessهایی مثل OpenClaw و Hermes پشتیبانی می‌کنه. معمولاً این‌ها به‌شکل سرویس‌های طولانی‌مدت روی پاد اجرا می‌شدن، ولی حالا با Agent Substrate میشه از مزایای routing، اسنپ‌شات و چرخهٔ سریع suspend/resume استفاده کرد. هر ایجنت توی یه VM از نوع gVisor یا Firecracker اجرا میشه و کاملاً قفل میشه؛ مثلاً ایجنتی که می‌خواد به OpenAI زنگ بزنه لازم نیست کلید API داشته باشه، چون اعتبارنامه‌ها می‌تونن موقع خروج از agentgateway تزریق بشن. نویسنده می‌گه ایجنت‌ها ممکنه رفتار خصمانه داشته باشن، پس باید قفل و کنترل بشن.
نکات کلیدی:
- Agent Substrate یه لایهٔ زیرساختی برای اجرای ایجنت‌های سندباکس‌شده روی Kubernetes از طریق kagent هست
- مشکل اصلی: ایجنت‌ها بیشتر وقت بیکارن و مدل یک‌پاد‌به‌ازای‌هر‌ایجنت منابع رو هدر می‌ده
- ایجنت‌ها معلق و اسنپ‌شات می‌شن و خیلی سریع از سر گرفته می‌شن (۵۰ تا ۲۰۰ میلی‌ثانیه)
- هر ایجنت توی sandbox مثل gVisor یا Firecracker اجرا و کاملاً قفل میشه
- پروژه حاصل همکاری Solo.io و یه تیم تو گوگله؛ کل ترافیک از agentgateway رد میشه
