LFM2.5-2.6B؛ عامل هوشمند روی خود گوشی
خلاصهٔ کاملتر
لیکویید ایآی (Liquid AI) مدل LFM2.5-2.6B رو منتشر کرده؛ یه مدل ۲.۶ میلیارد پارامتری که مخصوص کارهای عاملی (agentic) آموزش دیده و کامل روی خود دستگاه اجرا میشه. به گفتهٔ تیم لیکویید، همین محلی بودن یعنی استنتاج رایگان، تأخیر پایین و حریم خصوصی واقعی؛ وقتی هزینهٔ هر توکن حذف میشه، میشه کلی عامل رو موازی و شبانهروزی روی سختافزار خودت اجرا کرد.
مدل روی حدود ۳۴ تریلیون توکن پیشآموزش دیده و برای پشتیبانی بهتر از خطهای غیرلاتین، دایرهٔ واژگانش به ۱۲۸ هزار توکن دو برابر شده — اون هم با گسترش توکنایزر موجود، نه آموزش دوباره از صفر. یه مرحلهٔ اختصاصی هم برای رسوندن کانتکست به ۱۲۸ هزار توکن اضافه شده، چون بارهای کاری عاملی ورودی طولانی میخوان.
پسآموزش چهار مرحلهست: اول SFT دومرحلهای، بعد ساختن چند مدل متخصص جدا برای هر حوزه، بعد MOPD که توش دانشآموز با سیاست خودش جواب تولید میکنه و معلمِ همون حوزه توکنبهتوکن بهش بازخورد میده، و آخر هم یادگیری تقویتی عاملی داخل هارنسهای واقعی مثل Hermes Agent و OpenClaw با الگوریتم GRPO و پاداش مبتنی بر نتیجه.
تو بنچمارکها، با اینکه کوچکترین مدل مقایسهست، توی دستورپذیری و تقریباً همهٔ تستهای ابزار جلوتره و با مدلهایی تا چهار برابر بزرگتر رقابت میکنه؛ فقط توی کدنویسی هنوز از مدلهای بزرگتر عقبه. از نظر سرعت، روی CPU حدود ۲۲۰ توکن بر ثانیه روی M5 Max و ۱۱۳ توکن روی Ryzen AI Max+ 395 میده و زیر ۲.۵ گیگابایت جا میشه؛ روی گوشی هم حدود ۳۰ توکن بر ثانیه نگه میداره.
از روز اول هم llama.cpp، MLX، vLLM، SGLang و ONNX پشتیبانی میشن و وزنهای نسخهٔ پایه و پسآموزشدیده روی Hugging Face در دسترسه. برای راهاندازی یه عامل محلی کافیه مدل رو پشت یه اندپوینت سازگار با OpenAI سرو کنی و هارنس دلخواهت رو بهش وصل کنی.
نکات کلیدی:
- مدل ۲.۶ میلیاردی که کامل روی گوشی و CPU اجرا میشه و زیر ۲.۵ گیگابایت جا میگیره
- پیشآموزش روی ۳۴ تریلیون توکن، واژگان ۱۲۸ هزارتایی و کانتکست ۱۲۸ هزار توکنی
- پسآموزش چهارمرحلهای با معلمهای تخصصی و یادگیری تقویتی داخل هارنسهای واقعی
- توی دستورپذیری و ابزار جلوتر از مدلهای بزرگتر، ولی توی کدنویسی هنوز عقبتر
- وزنها روی Hugging Face بازه و llama.cpp، MLX، vLLM، SGLang و ONNX پشتیبانی میشن




