‏لاگونا S 2.1؛ مدل کوچکی که کوتاه نمی‌آد

poolside مدل جدیدش، Laguna S 2.1، رو منتشر کرده: یه مدل Mixture-of-Experts با ۱۱۸ میلیارد پارامتر کل و فقط ۸ میلیارد پارامتر فعال به‌ازای هر توکن، با پشتیبانی از پنجرهٔ متنی تا یک میلیون توکن در هر دو حالت با تفکر و بدون تفکر. جالب‌ترین عدد شاید زمان ساختش باشه: از شروع آموزش تا انتشار کمتر از ۹ هفته طول کشیده و پیش‌آموزش روی ۴۰۹۶ کارت NVIDIA H200 انجام شده.

ادعای مرکزی مقاله اینه که این مدل «با فاصلهٔ زیاد، تواناترین مدل کدنویسی ایجنتی تو ردهٔ وزنی خودشه». تو Terminal-Bench 2.1 امتیاز ۷۰.۲ گرفته و تو SWE-Bench Multilingual ‏۷۸.۵، که با مدل‌هایی چندبرابر بزرگ‌تر رقابت می‌کنه. اندازهٔ جمع‌وجورش هم یعنی می‌شه کارهای پیچیده رو روی ماشین محلی و حتی یه دستگاه DGX Spark اجرا کرد.

نویسنده‌ها صادقانه به یه نکتهٔ مهم دربارهٔ خودِ بنچمارک‌ها اشاره می‌کنن: هرچی مرز فناوری جلو می‌ره، نمرات بالا تو بازهٔ ۷۰ تا ۹۰ درصد جمع می‌شن و مدل‌هایی با رفتار کاملاً متفاوت فقط چند امتیاز فاصله می‌گیرن. برای همین DeepSWE رو مهم‌تر می‌دونن، چون تسک‌هاش طولانی‌ترن و امتیازها واقعاً پخش می‌شن؛ اونجا Laguna S 2.1 نمرهٔ ۴۰.۴ گرفته. تیم برای شفافیت، مسیر کامل (trajectory) تمام تلاش‌های ارزیابی نهایی رو هم منتشر کرده.

مهم‌ترین حرف مقاله دربارهٔ چیزیه که واقعاً عوض شده. به گفتهٔ تیم، «کاری که تو این مدل کردیم لزوماً اضافه کردن هوش بیشتر نبود، بلکه بهبود رفتارهایی بود که به مدل توانمندتر ختم می‌شن: راستی‌آزمایی بیشتر، بدیهی فرض نکردن چیزها، زود اعلام پیروزی نکردن و سماجت بیشتر». مدل‌های قبلی سری روی یه مجموعه‌تست نیمه‌قبول‌شده اعلام پیروزی می‌کردن یا دو قدم مونده به جواب، مسیر رو رها می‌کردن.

سه مطالعهٔ موردی این ادعا رو نشون می‌ده. تو اولی، مدل تو یه جلسهٔ ۵۰ دقیقه‌ای و ۱۸۱ مرحله‌ای و بدون هیچ دخالت انسانی، از یه پوشهٔ خالی یه موتور رندر HTML/CSS با جاوااسکریپت خالص ساخته — از توکنایزر و درخت DOM تا پارسر CSS و موتور چیدمان — و چون خودش قابلیت بینایی نداره، برای راستی‌آزمایی سراغ اجرای Chromium بدون رابط گرافیکی رفته و اسکرین‌شات‌ها رو عددی مقایسه کرده.

تو مطالعهٔ دوم، مدل روی خود هارنس ایجنت شرکت کار کرده و اونو ۵.۲٪ سریع‌تر و مصرف حافظه‌اش رو حدود ۷۰٪ کمتر کرده؛ مثلاً کشف کرده انباشت توکن‌های استریم از الحاق رشتهٔ درجه دو استفاده می‌کرده و با بافر جایگزینش کرده. نکتهٔ جالب اینه که وقتی بهبود سرعت دیگه قابل اندازه‌گیری نبوده، به‌جای توقف، تمرکزشو برده روی تخصیص حافظه که دقیق‌تر قابل سنجش بوده. تو سومی هم مدل به‌صورت مستقل و آفلاین، اثباتی برای مسئلهٔ ۳۹۷ اردیش پیدا کرده؛ سندباکس پایتون نداشته و مدل با Perl کار نظریهٔ اعداد رو انجام داده. تیم تأکید می‌کنه این یه کشف مجدده، نه حل اولیه، ولی خانوادهٔ جوابی که پیدا کرده ساختاری متفاوت از راه‌حل منتشرشدهٔ قبلیه.

از نظر فنی، بیشتر تفاوت این مدل با نسل قبل از پس‌آموزش می‌آد، نه دادهٔ جدید: مرحلهٔ SFT با کمک دادهٔ مصنوعی و بعد RL که فقط به تسک‌هایی اختصاص داده شده که مدل هنوز نمی‌تونست با نرخ قبولی بالا حل‌شون کنه. این اولین مدل‌شونه که RL روی دقت FP8 انجام شده. تو حلقهٔ آموزش هم بودجهٔ rollout سخاوتمندانه‌تر شده (تایم‌اوت طولانی‌تر و نوبت‌های بیشتر، که احتمالاً دلیل همون سماجته) و رول‌اوت چندهارنسی باعث شده رفتارها به یه اسکافولد خاص بیش‌برازش نکنن.

مقاله محدودیت‌ها رو هم پنهان نکرده: مدل گاهی تو هارنس‌های شخص ثالث به‌جای خوندن تعریف ابزار، به حافظه‌اش از رابط ابزار تکیه می‌کنه؛ ممکنه برای آرگومان‌هایی که آرایهٔ JSON می‌خوان، JSON نامعتبر تولید کنه؛ و مخصوصاً تو مسائل ریاضی رقابتی بیش‌ازحد فکر می‌کنه. کنترل سطح تلاش تفکر هم فعلاً در اختیار کاربر نیست. وزن‌های مدل از روز اول روی Hugging Face با مجوز OpenMDW-1.1 و فرمت‌های BF16، FP8، INT4 و NVFP4 منتشر شده و vLLM، SGLang و Ollama هم پشتیبانی می‌کنن.

نکات کلیدی:

• مدل MoE با ۱۱۸ میلیارد پارامتر کل و ۸ میلیارد فعال، پنجرهٔ متنی تا ۱ میلیون توکن، کمتر از ۹ هفته از آموزش تا انتشار
• امتیاز ۷۰.۲ در Terminal-Bench 2.1 و ۴۰.۴ در DeepSWE؛ رقابت با مدل‌های چندبرابر بزرگ‌تر
• تمرکز روی رفتار مدل (سماجت، راستی‌آزمایی، عقب‌گرد) به‌جای صرفاً افزایش هوش خام
• ساخت موتور رندر HTML/CSS از پوشهٔ خالی در ۱۸۱ مرحله و بدون دخالت انسان
• بهینه‌سازی هارنس خود شرکت: ۵.۲٪ سریع‌تر و ۷۰٪ تخصیص حافظهٔ کمتر
• حالت تفکر حداکثری امتیاز DeepSWE رو از ۱۶.۵ به ۴۰.۴ می‌رسونه
• وزن‌ها روی Hugging Face با مجوز OpenMDW-1.1 و مسیر کامل ارزیابی‌ها به‌صورت عمومی منتشر شده