‏رانتایم اینستنس: زیرساخت دائمی برای ایجنت‌های AWS

به نوشتهٔ بلاگ AWS، وقتی ایجنت‌ها از نمونهٔ اولیه به production می‌رن، دردسر اصلی زیرساخته: باید state رو تو کارهای چندمرحله‌ای نگه داری، ایجنت‌ها با هم هماهنگ بشن و گاهی به GPU برسن. تا حالا AgentCore Runtime روی microVM اجرا می‌شد و هر فراخوانی حداکثر ۸ ساعت طول می‌کشید. حالا runtime instances اومده: زیرساخت EC2 که خود AWS مدیریتش می‌کنه و برای بارهای سنگین‌تر و طولانی‌تر ساخته شده.

تو یه runtime می‌تونی چند ایجنت با وابستگی‌ها و نوع artifact خودشون دیپلوی کنی و همه‌شون تو یه سشن مشترک تا ۱۴ روز کنار هم بمونن. اینستنس‌های GPU‌دار پشتیبانی می‌شن، سشن رو می‌شه موقع بیکاری متوقف و بعد دوباره اجرا کرد تا هزینه پایین بیاد، و دیپلوی کانتینری هم هست. برای دانشی که باید بعد از سشن هم بمونه، AWS ترکیبش با EBS و AgentCore Memory رو پیشنهاد می‌ده.

نویسنده برای نمونه دو تا ایجنت ساخته: یکی که از توضیح زبان طبیعی کد پایتون می‌نویسه و یکی که همون کد رو ری‌ویو می‌کنه. هر دو یه فایل‌سیستم مشترک دارن، برای همین ری‌ویوئر بدون هیچ فراخوانی API یا انتقال داده، فایل نویسنده رو می‌خونه. بسته‌بندی هم کمینه‌ست: یه دکوریتور @app.entrypoint و یه فایل zip یا ایمیج کانتینر.

@app.entrypoint
def handler(event, context):
    session_id = getattr(context, "session_id", None) or event.get("session_id")
    session_dir = SHARED_DIR / session_id
    code = str(writer(task))
    (session_dir / "code.py").write_text(code)

نکتهٔ جالب دمو اینه که دو ایجنت هیچ پیامی بین‌شون رد و بدل نمی‌کنن؛ فقط سشن آی‌دی یکسان دارن و از همون پوشهٔ مشترک استفاده می‌کنن. همین الگو رو می‌شه به هر تعداد ایجنت گسترش داد — یکی تست بگیره، یکی مستند بنویسه، یکی اسکن امنیتی کنه.

microVM و instances مکمل همن و از همون API، همون کنترل‌های هویتی و همون observability استفاده می‌کنن. به گفتهٔ AWS الگوی رایج اینه که یه ارکستریتور سبک روی microVM بشینه و کار سنگین رو بین ورکرهایی که روی instances هستن پخش کنه. لینوکس ARM64 و x86_64، پایتون ۳.۱۱ تا ۳.۱۴ و ۹ ریجن پشتیبانی می‌شن؛ هزینه هم قیمت استاندارد EC2 به‌علاوهٔ یه کارمزد مدیریتیه.

نکات کلیدی:

• runtime instances زیرساخت EC2 مدیریت‌شده برای ایجنت‌های طولانی‌مدته
• سشن مشترک تا ۱۴ روز باقی می‌مونه و ایجنت‌ها از فایل‌سیستم مشترک استفاده می‌کنن
• پشتیبانی از GPU، توقف و ادامهٔ سشن و دیپلوی کانتینری
• همون API، هویت و observability فعلی AgentCore
• هزینه: قیمت استاندارد EC2 به‌علاوهٔ کارمزد مدیریت