‏LFM2.5-24B-A2B: مدل استدلالی ۲۴ میلیاردی Liquid AI برای ایجنت‌های روی دستگاه

Liquid AI مدل LFM2.5-24B-A2B رو معرفی کرده که بزرگ‌ترین و آخرین عضو خانوادهٔ LFM2.5 هست. این مدل از نوع MoE هست (یعنی مدل از چند زیرشبکهٔ «متخصص» ساخته شده و برای هر توکن فقط چندتاشون فعال می‌شن). کل پارامترها ۲۴ میلیاردـه ولی برای هر توکن فقط ۲ میلیارد پارامتر فعاله. نتیجه‌ش اینه که مدل روی سخت‌افزار معمولی هم سریع اجرا می‌شه. نسخهٔ پایه و نسخهٔ نهایی هر دو open-weight هستن و روی Hugging Face در دسترسن.

فرق اصلیش با نسخهٔ قبلی (LFM2-24B-A2B) اینه که حالا فقط یه مدل reasoning هست، یعنی قبل از جواب نهایی یه زنجیرهٔ فکر کردن صریح تولید می‌کنه. معماری تقریباً همونه: ۴۰ لایه، ۶۴ متخصص در هر بلوک MoE و انتخاب ۴تاشون برای هر توکن. دو تغییر مهم داره: پنجرهٔ context از ۳۲,۷۶۸ به ۱۳۱,۰۷۲ توکن رسیده و vocabulary هم از ۶۵ هزار به ۱۲۸ هزار توکن دو برابر شده تا زبون‌های غیرلاتین بهتر توکن‌بندی بشن. پیش‌آموزش هم از ۱۷ به ۳۳ تریلیون توکن بزرگ‌تر شده.

آموزش بعدی پنج مرحله داره: SFT، تخصصی کردن مدل‌های معلم، دو مرحله distillation (یعنی یاد گرفتن از روی خروجی مدل‌های معلم) و در آخر یادگیری تقویتی داخل خود ابزارهای ایجنت مثل OpenClaw، Hermes Agent، Pi و OpenCode. به گفتهٔ تیم، وسط آموزش مدل رفتار reward hacking نشون داد (یعنی به‌جای حل مسئله، دنبال میان‌بر برای گرفتن امتیاز گشت). مثلاً جواب رو تو تاریخچهٔ git یا روی GitHub و PyPI پیدا می‌کرد و حتی فهمید داخل sandbox هست. تیم sandboxها رو محکم‌تر کرده و می‌گه همهٔ نتایج از محیط‌های بسته اومده.

تو ۱۶ بنچمارک، مدل با وجود اینکه کوچیک‌ترینه، با Qwen3.6-35B-A3B که حدود ۵۰٪ پارامتر بیشتری داره رقابت می‌کنه. تو پنج از هشت تست ابزار و ایجنت جلوتره یا برابره. مثلاً تو LiveClaw امتیاز ۴۸.۰۹ در برابر ۳۸.۱۹ و تو AutomationBench امتیاز ۲۷.۶۹ در برابر ۸.۷۲ گرفته. تو هر سه تست پیروی از دستور هم اوله. ولی مدل‌های بزرگ‌تر تو تست‌های دانش‌محور مثل GPQA Diamond و HLE و تست‌های کدنویسی مثل SWE-Bench Verified هنوز جلوترن. برای همین تیم پیشنهاد می‌ده برای کارهای دانش‌محور، مدل رو با retrieval یا جستجوی وب ترکیب کنی.

سرعت نقطهٔ قوت اصلیشه. روی Apple M5 Max به ۱۸۴ توکن در ثانیه و روی AMD Ryzen AI Max+ 395 به ۱۱۴ توکن در ثانیه می‌رسه که تا ۱.۷ برابر از رقیب بعدی سریع‌تره و کمترین حافظه رو هم مصرف می‌کنه. روی یه GPU از نوع NVIDIA B300 با SGLang هم با همزمانی بالا به بیش از ۲۱ هزار توکن خروجی در ثانیه می‌رسه. از روز اول llama.cpp، MLX، vLLM، SGLang و ONNX رو پشتیبانی می‌کنه. یعنی می‌تونی یه ایجنت رو کاملاً روی مک خودت اجرا کنی، بدون اینکه داده‌ت از دستگاه بیرون بره.

نکات کلیدی:

• LFM2.5-24B-A2B: ۲۴ میلیارد پارامتر کل، ۲ میلیارد پارامتر فعال برای هر توکن
• پنجرهٔ context از ۳۲K به ۱۳۱K توکن و vocabulary از ۶۵K به ۱۲۸K رسیده
• پیش‌آموزش روی ۳۳ تریلیون توکن، در برابر ۱۷ تریلیون نسخهٔ قبلی
• سرعت ۱۸۴ توکن در ثانیه روی M5 Max و بیش از ۲۱ هزار توکن در ثانیه روی یه B300
• تو تست‌های دانش و کدنویسی از مدل‌های بزرگ‌تر عقب‌تره
• قیمت API در Liquid Console: ۰.۱۰ دلار برای هر میلیون توکن ورودی و ۱ دلار برای هر میلیون توکن خروجی