‏ایجنتت یه بار موفق شد؛ دفعه‌ی بعد هم موفق می‌شه؟

تو این پست از IBM Research اومده که ایجنت‌های LLM یه مشکل قابل‌اعتماد بودن دارن که عدد دقت معمولی نشونش نمی‌ده. یه ایجنت ReAct (یعنی ایجنتی که قدم‌به‌قدم فکر می‌کنه و ابزار صدا می‌زنه) با GPT-4.1 روی بنچمارک AppWorld تو پنج بار اجرا، به‌طور میانگین 77.4 درصد موفق بوده. ولی فقط تو 53.0 درصد کارها هر پنج بار رو درست انجام داده. به این فاصله‌ی 24.4 واحد درصدی می‌گن consistency gap.

بیشتر بنچمارک‌ها Mean@k رو گزارش می‌کنن، یعنی k بار اجرا و میانگین نرخ موفقیت. ولی سؤال کاربر واقعی اینه که «اگه همین درخواست رو دوباره بدم، باز درست جواب می‌گیرم؟». برای این باید Pass^k رو دید، یعنی درصد کارهایی که ایجنت تو هر k اجرا موفق بوده. این رو با Pass@k یکی نگیرین؛ اون خوش‌بینانه‌ست و فقط می‌پرسه حداقل یکی از k تلاش موفق بوده یا نه. نویسنده‌ها معتقدن با مدل بزرگ‌تر هم این مشکل حل نمی‌شه، چون توانایی و ثبات دو محور جدا هستن.

دلیل این رفتار به شکل توزیع احتمال توکن‌ها برمی‌گرده. هر تصمیم ایجنت، مثلاً اینکه کدوم API رو صدا بزنه، از یه توزیع احتمال بیرون میاد. اگه توزیع «تیز» باشه، یه گزینه خیلی جلوتره و هر بار همون انتخاب می‌شه. اگه «صاف» باشه، چند گزینه تقریباً هم‌وزنن و چیزهای ریزی مثل خطای محاسبات ممیز شناور GPU یا batching درخواست‌ها می‌تونه برنده رو عوض کنه.

چون یه مسیر اجرا ده‌ها تصمیم پشت سر هم داره، این احتمال‌های کوچیک روی هم جمع می‌شن و بالاخره یکی از اجراها مسیر دیگه‌ای می‌ره. برای همین حتی با temperature صفر و seed ثابت هم مشکل سر جاشه؛ آزمایش‌های این تیم هم با temperature برابر 0.0 انجام شده. یعنی این نوسان از sampling معمولی نمیاد.

راه‌حلشون تو ابزار متن‌باز altk-evolve دو مرحله داره. اول Consistency Analyzer یه trajectory ضبط‌شده (یعنی لاگ قدم‌های یه اجرای ایجنت) رو می‌گیره و برای هر قدم تصمیم، یه فراخوانی اضافه به مدل می‌زنه که با همون context قبلی k جواب (پیش‌فرض 5) بگیره. اینجوری معلوم می‌شه کدوم قدم‌ها احتمال برگشتن دارن. نه ground truth لازمه، نه logits، نه اجرای دوباره‌ی کل کار؛ پس روی ترافیک production هم قابل استفاده‌ست. بعد از هر قدم پرریسک یه guideline ساخته می‌شه که موقع اجرا به ایجنت داده می‌شه.

روی 168 کار از AppWorld test_normal، مقدار Pass^5 از 53.0 به 69.0 درصد رسید و Mean@5 هم از 77.4 به 81.0 درصد رفت. یعنی شکاف از 24.4 به 12.0 واحد درصد اومد. بیشترین بهبود مال کارهای متوسط (22.9+) و سخت (14.3+) بوده. روی کارهای مشابه هم Pass^5 حدود 13.0 واحد بهتر شد. با مدل ضعیف‌تر gpt-oss-120b هم Pass^5 از 10.1 به 16.1 درصد رسید. توصیه‌ی نویسنده‌ها اینه که کنار Mean@k همیشه Pass^k رو هم گزارش کنین.

نکات کلیدی:

• ایجنت ReAct با GPT-4.1 روی AppWorld میانگین موفقیت 77.4 درصد داشت ولی Pass^5 فقط 53.0 درصد بود.
• Consistency Analyzer فقط به یه trajectory و یه فراخوانی اضافه برای هر قدم (با k=5) نیاز داره و کار رو دوباره اجرا نمی‌کنه.
• با consistency guidelines شکاف ثبات از 24.4 به 12.0 واحد درصد رسید و Mean@5 کم نشد.
• روی کارهای مشابه ولی متفاوت، Pass^5 حدود 13.0 واحد درصد بهتر شد.
• حتی temperature صفر و seed ثابت هم جلوی جابه‌جا شدن تصمیم‌های نزدیک به هم رو نمی‌گیره.