Agent Substrate روی GKE اومد
هوش مصنوعیخلاصهٔ کاملتر
گوگل کلود اعلام کرده Agent Substrate روی Google Kubernetes Engine در دسترسه. این یه رانتایم اوپنسورس و secure-by-default برای اجرای ایجنتهاست، یعنی همون لایهای که کد تولیدشدهی مدل واقعاً توش اجرا میشه. به گفتهی نویسندههای پست، برای میلیونها سندباکس روی یک کلاستر ساخته شده، با تراکمی ۱۰ برابر رانتایمهای معمولی کانتینر.
تو این مقاله اومده که فرق اجرای محلی ابزارهایی مثل Claude Code یا Codex با چرخوندن صدها هزار ایجنت همزمان، چهار جاست: مرز اعتماد مبهم، چون مدل کد دلخواه تولید و اجرا میکنه؛ نیاز ایجنت به یه محیط کامل با ترمینال و مرورگر و فایلسیستم؛ انفجار ناگهانی هزاران سندباکس در دقیقه که زمانبند معمولی کم میآره؛ و بیکاری، چون ایجنت بیشتر وقتش منتظر جواب مدل یا ابزاره ولی CPU و RAMش رزرو مونده.
راهحلشون جدا کردن اجرای ایجنت از مدیریت ماشینه. ایزولیشن با microVMهای Cloud Hypervisor یا سندباکس gVisor انجام میشه، و یه گیتوی همهی ترافیک ورودی و خروجی رو کنترل میکنه و کلیدها رو بیرون از دسترس خود ایجنت تزریق میکنه تا دزدیده نشن.
ایجنت بیکار هم روی دیسک لوکال و Cloud Storage اسنپشات میشه، منابعش آزاد میشه و در کمتر از ۵۰۰ میلیثانیه دقیقاً از همون حالت قبلی ادامه میده. دیتاپلین بالای ۵۰۰ عمل suspend/resume در ثانیه رو میکشه و همین باعث میشه هر هاست بیش از هزار ایجنت خوابیده نگه داره. یعنی فقط برای ایجنت فعال پول میدی، نه برای ایجنتی که منتظر نشسته.
خود Kubernetes تو این معماری ماشینها رو میچرخونه: ترمیم خودکار نودها، اسکیل فلیت و زمانبندی چندزونه. روی GKE با custom ComputeClasses میشه بین شکلها و خانوادههای ماشین و پولهای spot و on-demand جابهجا شد، و Axion، پردازندهی Arm خود گوگل، پشتیبانی میشه که به گفتهی گوگل تا ۳۰ درصد قیمت-کارایی بهتری برای این نوع بار میده. برای بارهای stateful هم Filestore agent volumes مونت NFS رو در چند میلیثانیه وصل و قطع میکنه، با دسترسی RWX و قفل فایل POSIX.
Nous Research که Hermes رو میسازه، یکی از شرکای اولیهی طراحی بوده؛ Hervé Bizira از این تیم میگه تجربهشون نشون میده معماری با رشد بار ایجنتها خوب اسکیل میشه. Agent Substrate اوپنسورسه و برای همهی مشتریهای GKE روی بارهای غیرپروداکشن آزاده، ولی پشتیبانی GA برای پروداکشن فقط با allowlist میشه.
نکات کلیدی:
- تراکم ۱۰ برابر رانتایم استاندارد کانتینر و بیش از هزار ایجنت خوابیده روی هر هاست.
- resume در کمتر از ۵۰۰ میلیثانیه و بالای ۵۰۰ عمل suspend/resume در ثانیه.
- ایزولیشن به انتخاب خودت: microVMهای Cloud Hypervisor یا سندباکس gVisor.
- اوپنسورس و روی هر کلاستر Kubernetes اجرا میشه، فقط برای GKE بهینه شده.
- الان برای بارهای غیرپروداکشن آزاده؛ GA پروداکشن با allowlist.
- پشتیبانی از Axion با تا ۳۰ درصد قیمت-کارایی بهتر برای بار سندباکس.
