‏HybridAgent: ایجنتی که بی‌صدا فکر می‌کنه

ایده‌ی اصلی HybridAgent اینه که ایجنت لازم نیست همه‌ی فکرهاش رو به شکل متن بنویسه. فقط وقتی ابزار صدا می‌زنه یا با آدم حرف می‌زنه به متن نیاز داره. این روش کار تیم‌هایی از Stanford، UIUC و Together AI هست. مدل با برگردوندن hidden state خودش به ورودی فکر می‌کنه و هر وقت Python، جستجو یا جواب نهایی لازم داشت، برمی‌گرده به متن معمولی.

قبلاً روش‌هایی مثل Coconut نشون داده بودن که مدل می‌تونه با latent reasoning فکر کنه، یعنی hidden state لایه‌ی آخر رو مستقیم ورودی قدم بعد کنه و اصلاً توکن تولید نکنه. مشکلش این بود که این مدل‌ها نه می‌تونستن ابزار صدا بزنن، نه کسی می‌فهمید دارن چی کار می‌کنن. HybridAgent هر دو حالت رو تو یه جریان تولید نگه می‌داره و متن، فکرهای latent و خروجی ابزارها همه تو یه KV cache (یعنی حافظه‌ی موقت مدل) می‌مونن.

قطعه‌ی کلیدی HybridLink هست: یه adapter دولایه‌ی residual که hidden state رو به فضای embedding ورودی می‌بره و تو مدل 4B حدود ۱۰ میلیون پارامتر اضافه می‌کنه. همین residual بودن خیلی مهمه: نسخه‌ی ساده‌ی identity تو MATH500 امتیاز 71.4 می‌گیره و این نسخه 88.2. مدل هر وقت خروجی HybridLink به embedding توکن پایان latent نزدیک بشه، خودش از حالت latent بیرون میاد.

آموزش دو مرحله داره. HybridSFT با ۵۴ هزار مسیر نمونه که مرحله‌ی آخرش، یعنی یاد گرفتن استدلال روی latentهای خود مدل، از همه مهم‌تره و AIME25 رو تو Qwen3-14B از 23.8 به 32.5 می‌رسونه. بعد HybridRL با ۱۲ هزار نمونه‌ی استدلال و هزار نمونه‌ی جستجو. پاداش هیچ‌وقت مستقیم برای انتخاب حالت داده نمی‌شه، ولی مدل 14B کم‌کم خودش بیشتر می‌ره سمت latent.

نتیجه‌ها: مدل 14B تو GAIA امتیاز 52.4 در برابر 43.7 برای ARPO (ایجنت متنی هم‌اندازه) می‌گیره و تو WebWalker هم 49.5 در برابر 40.5. توکن‌ها ۳۵ تا ۵۵ درصد کمتره و inference ۱.۸ تا ۲.۶ برابر سریع‌تره. هزینه‌ی decoding برای یه میلیون سؤال تو 14B از ۴۷۰ به ۱۷۶ دلار و تو 4B از ۳۵۹ به ۹۸ دلار می‌رسه. وقتی latentهای یه مسئله‌ی دیگه رو جاش می‌ذارن، MATH500 از 88.2 به 48.6 می‌افته، یعنی این فکرها واقعاً محتوا دارن.

خود نویسنده چندتا محدودیت رو هم می‌گه. همه جا برنده نیست و تو 8B، ARPO روی HLE بهتره. «قابل تفسیر بودن» فقط یعنی latentها نزدیک embedding توکن‌ها هستن، نه یه توضیح وفادار از محاسبه. موتورهای inference فعلی ازش پشتیبانی نمی‌کنن و ارقام هزینه تخمینی‌ان. همه‌ی نتیجه‌ها فقط روی Qwen3 تا 14B هست. تازه کاربرها و حسابرس‌ها هم استدلال کمتری از ایجنت می‌بینن.

نکات کلیدی:

• HybridAgent استدلال رو تو hidden state انجام می‌ده و فقط برای ابزار و جواب متن تولید می‌کنه
• HybridLink یه adapter دولایه‌ی residual با حدود ۱۰ میلیون پارامتر اضافه (تو 4B) هست
• مدل 14B تو GAIA امتیاز 52.4 در برابر 43.7 برای ARPO گرفته
• هزینه‌ی decoding بسته به اندازه ۲.۷ تا ۳.۷ برابر کمتر شده
• جایگزینی latentها با latent یه مسئله‌ی دیگه، MATH500 رو از 88.2 به 48.6 می‌رسونه
• فعلاً موتورهای inference رایج ازش پشتیبانی نمی‌کنن و فقط روی Qwen3 تا 14B تست شده