‏AREX-2: مدلی که خودش تلاش می‌کنه، چک می‌کنه و اصلاح می‌کنه

AREX-2 یه مدل زبانی اوپن‌ویته که BAAI (آکادمی هوش مصنوعی پکن) با دو دانشگاه دیگه ساخته. این مدل یه finetune از Qwen3.8-27B هست و با لایسنس Apache 2.0 منتشر شده. نکته‌ش اندازه نیست، چون ۲۷ میلیارد پارامتر این روزا عدد بزرگی حساب نمی‌شه. نکته اینه که مدل یاد گرفته حلقهٔ «امتحان کن، چک کن، اصلاح کن» رو خودش تو یه بازهٔ زمانی طولانی اجرا کنه. یعنی دیگه لازم نیست کد بیرونی (همون harness، یعنی کدی که دور مدل می‌پیچی تا کار رو مدیریت کنه) بهش بگه کی دوباره تلاش کنه یا کی تموم کنه.

به گفتهٔ مقاله، دادهٔ آموزشی این‌جوری ساخته شده: یه مدل معلم ریپوهای واقعی GitHub رو به محیط‌هایی با تسک و تابع امتیازدهی مشخص تبدیل کرده. بعد یه agent معلم ساعت‌ها، گاهی با صدها tool call، روی هر محیط کار کرده تا امتیاز رو بالا ببره. ترفند اصلی اینه که کل مسیر، حتی تلاش‌های شکست‌خورده، تو داده نگه داشته شده ولی loss فقط روی قدم‌هایی حساب شده که واقعاً کار رو جلو بردن. این‌جوری مدل یاد می‌گیره از اشتباه خودش برگرده، نه این‌که فقط جواب‌های تمیز رو تقلید کنه.

BAAI تو معرفی‌ش از کلمهٔ «reinforcing» استفاده کرده که آدم رو یاد reinforcement learning می‌ندازه. ولی روش واقعی supervised finetuning روی همین مسیرهای انتخاب‌شده‌ست، به‌علاوهٔ دادهٔ deep research از مدل قبلی AREX. دو حوزه هم عمداً انتخاب شدن: مهندسی یادگیری ماشین و برنامه‌نویسی الگوریتمی. دلیلش اینه که بازخوردشون شفافه: یا امتیاز بالا می‌ره یا نمی‌ره، یا تست پاس می‌شه یا نمی‌شه.

عددها: روی MLE-Bench Light امتیاز ۸۱.۸ گرفته، در برابر ۷۲.۷ برای GPT-5.6 Soul. روی Frontier CS امتیازش ۷۰.۷ه، یعنی حدود شش امتیاز پشت GPT-5.6 Soul ولی جلوتر از بقیهٔ مدل‌های اوپن‌ویت. مهم‌تر از اینا نمودار امتیاز بر حسب زمانه: AREX-2 از ۵۴ تو ساعت اول به ۶۶ تو ساعت دوم و ۷۰.۷ تو ساعت پنجم می‌رسه، ولی DeepSeek V3.2 Pro بعد از دو ساعت حدود ۴۵ گیر می‌کنه و دیگه جلو نمی‌ره.

یه ablation (یعنی آزمایشی که تیکه‌تیکه اجزا رو حذف می‌کنه تا سهم هرکدوم معلوم بشه) تصویر رو دقیق‌تر می‌کنه. مدل پایه بدون هیچی ۲۸.۸ می‌گیره، با skillهای عمومی ML می‌شه ۴۱.۲، با skillهای مخصوص همون تسک و دورهای بیشتر می‌رسه به ۶۸.۲. فقط وقتی خود finetune رو جایگزین می‌کنی عدد می‌شه ۸۱.۸. یعنی بیشتر پیشرفت از context میاد و آموزش حدود ۱۴ امتیاز روش اضافه می‌کنه.

نویسنده می‌گه این «خودبهبودی بازگشتی» به معنای قوی‌ش نیست، چون وزن‌های مدل وسط کار عوض نمی‌شن و بهبود فقط تو همون یه تسکه. خود BAAI هم برگردوندن مسیرهای موفق به دادهٔ آموزشی رو قدم بعدی می‌دونه. برای کسایی که harness می‌سازن، نویسنده معتقده کارشون عوض می‌شه: باید بازخورد واقعی، skillهای درست و بودجهٔ زمانی معقول بدن. اگه harness خودش حلقهٔ retry یا ریست کردن context داشته باشه، ممکنه با حلقهٔ داخلی مدل تداخل کنه و ضرر بزنه.

نکات کلیدی:

• AREX-2 یه finetune از Qwen3.8-27B با لایسنس Apache 2.0 هست.
• روی MLE-Bench Light امتیاز ۸۱.۸ گرفته، در برابر ۷۲.۷ برای GPT-5.6 Soul.
• روش آموزش supervised finetuning هست، نه reinforcement learning.
• skillهای داخل context مدل پایه رو از ۲۸.۸ به ۶۸.۲ می‌رسونن و finetune حدود ۱۴ امتیاز دیگه اضافه می‌کنه.
• وزن‌ها حین کار عوض نمی‌شن، پس این خودبهبودی فقط در زمان اجرا و داخل یه تسکه.