‏LFM2.5-24B-A2B: مدل ایجنتی LiquidAI برای سخت‌افزار محلی

LiquidAI مدل LFM2.5-24B-A2B رو به‌عنوان بزرگ‌ترین و آخرین عضو خانوادهٔ LFM2.5 منتشر کرده. این یه مدل mixture-of-experts یا MoE هست، یعنی مدلی که از بین چند زیرشبکهٔ متخصص برای هر توکن فقط چندتاش رو فعال می‌کنه. کل مدل ۲۴ میلیارد پارامتر داره ولی برای هر توکن حدود ۲.۴۵ میلیاردش کار می‌کنه. هدفش کارهای ایجنتیه: فراخوانی ابزار، استدلال چندمرحله‌ای و اجرا روی سخت‌افزار محلی به جای دیتاسنتر.

معماریش همون ساختار ترکیبی LFM2-24B-A2B قبلیه: ۴۰ لایه که ۳۰تاش بلوک کانولوشن کوتاه double-gated و ۱۰تاش grouped-query attention (GQA) هست. هر توکن به ۴ متخصص از ۶۴ متخصص فرستاده می‌شه. دو تا ارتقای اصلی هم داره: context window از ۳۲ هزار به ۱۳۱٬۰۷۲ توکن رسیده و vocabulary از ۶۵ هزار به ۱۲۸ هزار توکن دو برابر شده تا خط‌های غیرلاتین بهتر توکنایز بشن. ۱۶ زبان رو پشتیبانی می‌کنه.

ادعای اصلی LiquidAI امتیاز ۴۸.۰۹ تو بنچمارک ایجنتی LiveClaw در برابر ۳۸.۱۹ برای Qwen3.6-35B-A3B هست، مدلی که حدود ۵۰ درصد پارامتر کل و فعال بیشتری داره. مقاله تأکید می‌کنه این فقط یه بنچمارکه و دانش عمومی رو نمی‌سنجه. خود LiquidAI هم می‌گه مدل برای کارهای دانش‌محور تنها مناسب نیست و باید کنار RAG یا جستجوی وب استفاده بشه.

سرعت بخش مهم پیشنهاده: ۱۸۴ توکن در ثانیه روی Apple M5 Max، تا ۲۱ هزار توکن خروجی در ثانیه روی یه GPU انویدیا B300 و تا ۱.۷ برابر سریع‌تر از MoEهای مشابه روی دستگاه. این مهمه چون مدل یه reasoning model خالصه و همیشه قبل از جواب یه بلوک تولید می‌کنه. هزینهٔ کم هر توکن باعث می‌شه این توکن‌های اضافهٔ فکر کردن روی سخت‌افزار معمولی هم قابل‌تحمل باشن.

برای آموزش، pre-training روی حدود ۳۳ تریلیون توکن انجام شده، تقریباً دو برابر ۱۷ تریلیون LFM2. بعد ۲ تریلیون توکن با context ۳۲ هزار و ۳۰۰ میلیارد توکن داده‌های طولانی برای رسیدن به ۱۳۱ هزار اومده. یادگیری تقویتی ایجنتی مستقیم داخل ابزارهای OpenClaw، Hermes Agent، Pi و OpenCode انجام شده، یعنی مدل دقیقاً با schemaها و الگوهای ابزار همین فریم‌ورک‌ها آشناست.

به گفتهٔ نویسنده، این مدل برای تیم‌هایی که ایجنت محلی با تأخیر و هزینهٔ قابل‌پیش‌بینی می‌خوان ارزش امتحان داره، ولی بهتره اول روی سناریوهای خودشون تستش کنن. از روز اول نسخه‌های safetensors، FP8، GGUF (برای llama.cpp)، ONNX و MLX چهاربیتی (برای Apple Silicon) روی Hugging Face هست و یه draft model به اسم DSpark هم برای SGLang در راهه.

نکات کلیدی:

• ۲۴ میلیارد پارامتر کل، ۲.۴۵ میلیارد فعال برای هر توکن، با ۶۴ متخصص و مسیریابی top-4.
• امتیاز ۴۸.۰۹ تو LiveClaw در برابر ۳۸.۱۹ برای Qwen3.6-35B-A3B.
• context window از ۳۲ هزار به ۱۳۱٬۰۷۲ توکن و vocabulary از ۶۵ هزار به ۱۲۸ هزار رسیده.
• همیشه قبل از جواب یه بلوک می‌سازه، پس برای سؤال‌های ساده تأخیر بیشتری داره.
• برای کارهای دانش‌محور باید کنار RAG یا جستجوی وب استفاده بشه.