اینتل: ایجنتها مسئلهٔ سیستمان، نه فقط inference
هوش مصنوعیخلاصهٔ کاملتر
این مطلب یه محتوای اسپانسریه که خود اینتل تولیدش کرده و نه تحریریهٔ MIT Technology Review. ادعای اصلیش اینه که ارزش agentic AI تو سازمان فقط به مدل و inference برنمیگرده، بلکه یه مسئلهٔ سیستمیه: ارکستراسیون کار، دسترسی به داده، اجرای ابزار، مدیریت تأخیر، حاکمیت و زیرساخت مقیاسپذیر. اینتل میگه هزاران آزمایش روی بار کاری ایجنتی انجام داده و از دلش پنج درس عملی برای مدیران بیرون کشیده.
به گفتهٔ اینتل، ایجنت یه فرایند خودکار هدفمحوره که یه کار چندمرحلهای رو پلن میکنه، ابزار صدا میزنه، نتیجه رو میخونه و وقتی چیزی شکست میخوره دوباره تلاش میکنه. برای همین بهجای متریکهای مدلمحور، شش متریک سیستمی پیشنهاد میکنه: نرخ موفقیت کار، هزینهٔ هر کار، زمان هر کار، توان عملیاتی، چگالی ایجنت (ایجنت به ازای هر vCPU) و تأخیر.
برای اندازهگیری، اینتل ابزار متنباز Terminal-Bench رو با پروفایلینگ، تلهمتری و قابلیت replay گسترش داده. ترفند کلیدی، ضبط و پخش قطعی پاسخهای LLM بوده: پاسخها یه بار ضبط میشن و بعد عیناً تو همهٔ اجراها پخش میشن تا نوسان مدل از عملکرد خود ایجنت جدا بشه. مجموعهکارها هم عمداً متنوع بوده — کامپایل، تست، عملیات دیتابیس، منطق بولی، ray tracing، فشردهسازی، جبر خطی، ترنسکد ویدیو و آموزش مدل.
نتیجهٔ اول: ظرفیت رو باید با چگالی ایجنت پلن کرد، نه با تعداد خام ایجنت. ۱۰ ایجنت روی سیستم ۸ vCPU و ۲۰ ایجنت روی ۱۶ vCPU رفتار مشابهی دارن، پس چگالی یه معیار قابلحمل برای مقایسهٔ ظرفیت بین اندازهها و نسلهای مختلف پردازندهست. چگالی مناسب هم به هدف کسبوکار بستگی داره: کوپایلتهای تعاملی باید چگالی پایینتری داشته باشن چون زمان پاسخ مهمه، ولی بارهای batch مثل ورکفلوهای IT چگالی بالاتر رو تحمل میکنن.
نتیجهٔ دوم دربارهٔ مانیتورینگه: میانگین مصرف CPU سیگنال ضعیفیه، چون ایجنتها مدام بین انتظار برای پاسخ مدل و انفجارهای کوتاه محاسباتی جابهجا میشن و به خاطر همین الگوی «بورستی»، میانگین حتی وقتی صفها دارن شکل میگیرن و تجربهٔ کاربر کند میشه هم نرمال به نظر میرسه. اینتل پیشنهاد میکنه اول روی تأخیر P95 آلارم بذاری و بعد با مدتزمان پایدار کارها تأییدش کنی.
نتیجهٔ سوم: پیشفرض رو بذار روی scale-out. ایجنتها نیمهمستقلان و انفجار محاسباتی هر کدوم متوسطه، پس اضافه کردن سیستم بیشتر معمولاً هم ارزونتره، هم دسترسپذیری بالاتری میده و هم حفظ نسبت هدف ایجنت به vCPU رو سادهتر میکنه. scale-up رو برای وقتی نگه دار که محاسبات موازی سنگینه، وضعیت اشتراکی جلوی پارتیشنبندی رو میگیره، جایگاه حافظه مهمه یا محدودیت لایسنس داری.
نکات کلیدی:
- agentic AI تو سازمان یه مسئلهٔ سیستمیه، نه صرفاً inference
- شش متریک پیشنهادی: نرخ موفقیت، هزینه، زمان، توان عملیاتی، چگالی و تأخیر
- Terminal-Bench با replay قطعی پاسخهای LLM گسترش داده شده تا نوسان مدل حذف بشه
- ظرفیت رو با ایجنت به ازای هر vCPU پلن کن، نه با تعداد خام ایجنت
- تأخیر P95 سیگنال بهتریه تا میانگین مصرف CPU
- scale-out پیشفرض باشه؛ scale-up برای محاسبات سنگین یا محدودیت لایسنس
- بیشترین ارزش اول تو کارهایی با قواعد مدون درمیاد: تولید کد، فارم تست رگرسیون، تریاژ تیکت، تحلیل بازار و بررسی امنیتی
