MiniCPM5-2B: مدل ۲ میلیاردیه که ادعای شکست مدلهای ۴ میلیاردی رو داره
هوش مصنوعیClaude Sonnet 5خلاصهٔ کاملتر
MiniCPM5-2B یه مدل زبانی dense با ۲ میلیارد پارامتره که شرکت ModelBest (زیرمجموعهی دانشگاه Tsinghua تو پکن) منتشرش کرده. معماریش LlamaForCausalLM با ۴۲ لایهست و طول کانتکست بومیش ۱۳۱٬۰۷۲ توکنه که برای یه مدل به این کوچیکی عدد بزرگیه. ModelBest رو نمودار رادار خودش این مدل رو با میانگین امتیاز ۵۳.۹ در مقابل چند مدل همرده و بزرگتر گذاشته و میگه از همهشون جلوتره؛ حتی از یه مدل ۴ میلیاردی به اسم Qwen3.5-4B که امتیازش ۵۱.۱ـه.
اینجا یه نکتهی مهم هست: این برتری فقط رو یه مدل ۴ میلیاردی ثابت شده، نه رو کل مدلهای اون رده. هر محور تو نمودار رادار جدا نرمالایز میشه، یعنی مدلی که تعادل بهتری بین محورها داره، تو نمودار بزرگتر به نظر میرسه، حتی اگه اختلافش با بقیه کم باشه. یه نسخهی قدیمیتر از این نمودار هم مدلهای خیلی قدیمی مثل Qwen2.5-2B رو برای مقایسه گذاشته بود که با انتقاد روبهرو شد و بعداً بهروز شد.
تو تستهای عملی، مدل تو یه باگ سخت SQL روی Oracle که باعث میشد کوئری بدون خطا ولی از پارتیشن اشتباه داده بکشه، بعد از یه زنجیرهی استدلال طولانی درست جواب داد. تو یه سؤال تاریخی دربارهی معاهدهی نرچینسک هم درست گفت که متن اصلیش لاتین بوده و مذاکره از طریق مترجمهای ژزوئیت انجام شده. تو یه تست کدنویسی هم که ازش خواستن یه انیمیشن HTML از چرخیدن یه کباب رو گرداننده بسازه، خروجی بصریای داد که برای یه مدل اینقدر کوچیک واقعاً چشمگیر بود.
نقطهضعف اصلیش تو ترجمهی محاورهای بین زبانها بود؛ وقتی خواستن یه اصطلاح محبتآمیز رو به حدود ۱۲ زبان مختلف ترجمه کنه، چند تاشو درست گفت ولی تو خیلی از زبانهای دیگه، مثل چینی، کرهای، آلمانی و ایسلندی، کلمات الکی و غیرواقعی ساخت که اصلاً درست نبودن.
از نظر سختافزار، فقط وزنهای مدل حدود ۴ گیگابایت VRAM لازم داره که رو یه لپتاپ معمولی هم جواب میده، ولی اگه بخوای از کل ظرفیت کانتکست طولانیش استفاده کنی، مصرف حافظه میتونه تا ۴۴ گیگابایت هم بره. آموزشش هم سه مرحلهای بوده (پایه، میانی، پس از آموزش) بهعلاوهی یه مرحلهی یادگیری تقویتی و on-policy distillation که به گفتهی ModelBest حدود ۱۱ امتیاز رو بنچمارکهای استدلال بهبود آورده.
نکات کلیدی:
- MiniCPM5-2B میانگین امتیاز ۵۳.۹ گرفته و فقط از یه مدل ۴ میلیاردی (Qwen3.5-4B با امتیاز ۵۱.۱) جلوتره، نه از کل مدلهای اون رده
- طول کانتکست بومیش ۱۳۱٬۰۷۲ توکنه و وزنهاش فقط حدود ۴ گیگابایت VRAM لازم داره
- تو دیباگ کد و استدلال علمی و تاریخی خوب عمل کرد، ولی تو ترجمهی محاورهای بین زبانها ضعیف بود و جوابهای الکی ساخت
- با فرمتهای GGUF، GPTQ و MLX هم عرضه شده، پس رو سختافزار محدود هم قابل اجراست
