‏A10 Networks: یه دروازه برای همهٔ مدل‌های سازمان

A10 Networks از عرضهٔ عمومی محصولی به اسم A10 AI Gateway خبر داده؛ یه control plane متمرکز — یعنی یه نقطهٔ کنترل واحد که همهٔ درخواست‌های AI سازمان از توش رد می‌شه. تو این خبر اومده که وقتی هر تیم سراغ مدل زبانی بزرگ (LLM) خودش می‌ره، هیچ‌کس دقیق نمی‌دونه چه مدلی داره استفاده می‌شه، چقدر خرج برمی‌داره و چطور کار می‌کنه. این gateway دقیقاً همون نقطهٔ گمشده رو پر می‌کنه.

مهم‌ترین قابلیتش smart routing ـه: به جای قانون‌های ثابت، پیچیدگی و نوع هر درخواست رو می‌سنجه و بعد کارهای ساده رو به مدل‌های ارزون‌تر و کارهای سنگین و استدلالی رو به مدل‌های قوی‌تر می‌سپاره. کنارش دسترسی هویت‌محور هم هست؛ یعنی سیاست دسترسی و مسیریابی بر اساس کاربر و گروهش (مثلاً تیم مهندسی در برابر تیم مالی) و هماهنگ با دایرکتوری داخلی سازمان اعمال می‌شه.

بخش هزینه هم ریز شده: ردیابی لحظه‌ای هزینهٔ هر درخواست به دلار، بودجهٔ توکن به تفکیک مدل و تیم با سقف سخت و هشدار سقف نرم، و rate limiting در لایهٔ کسب‌وکار (TPM/RPM) که به ازای هر کلید یا هر تیم اعمال می‌شه. یعنی جلوی خرج بی‌حساب گرفته می‌شه بدون اینکه دسترسی توسعه‌دهنده قطع بشه.

این محصول کنار بقیهٔ سبد امنیت AI شرکت یعنی TrojAI و ThreatX می‌شینه تا مدل‌ها هم قبل از استقرار تست بشن، هم موقع اجرا و در لایهٔ شبکه و API محافظت بشن. هم به شکل نرم‌افزار عرضه می‌شه هم به‌صورت یکپارچه با سخت‌افزار، و کاملاً داخل محیط خود مشتری بالا میاد: on-premises، ابر خصوصی یا حتی air-gapped. به گفتهٔ شرکت، همین حاکمیت کامل روی داده و مدل چیزیه که gatewayهای ابری ندارن.

نکات کلیدی:

• A10 AI Gateway الان به‌صورت general availability در دسترسه.
• smart routing درخواست ساده رو به مدل ارزون‌تر و درخواست استدلالی رو به مدل قوی‌تر می‌فرسته.
• هزینهٔ هر درخواست لحظه‌ای و به دلار ردیابی می‌شه، به‌علاوهٔ بودجهٔ توکن با سقف سخت و هشدار سقف نرم.
• rate limiting کسب‌وکاری (TPM/RPM) به ازای هر کلید یا هر تیم اعمال می‌شه.
• اجرا کاملاً داخل محیط مشتری: on-premises، ابر خصوصی یا air-gapped.