Nemotron 3.5 Bolt E4B انویدیا: سریع و سبک، ولی تو کدنویسی ضعیف
خلاصهٔ کاملتر
Nemotron 3.5 Bolt E4B یه مدل زبانی کوچیک از انویدیاست که روی معماری Gemma 4 E4B گوگل post-train شده، یعنی انویدیا مدل آمادهی گوگل رو برداشته و با آموزش بیشتر تنظیمش کرده. ۸ میلیارد پارامتر داره ولی هر لحظه فقط ۴ میلیاردش فعاله، و اسم E4B (یعنی effective 4B) هم از همین میاد. context windowش ۶۴ هزار توکنه و با فرمت کوانتیزهی Q4KM حدود ۴ تا ۶ گیگ VRAM لازم داره، یعنی با ابزاری مثل llama.cpp روی لپتاپ هم اجرا میشه.
هدف انویدیا دستیارهای محلی سریعه: رابط صوتی، agentهای روی دستگاه، جواب اول سریع و استفاده از ابزار تو چند نوبت گفتگو. تو نمودار بنچمارک خود انویدیا، Bolt تو گوشهی «باهوش و سریع» قرار گرفته و از مدلهای هموزنش، از جمله خود Gemma 4 E4B، بهتره. فقط Gemma 4 26B A4B امتیاز بالاتری گرفته که اونم حافظهی خیلی بیشتری میخواد و کندتره.
تو تستهای عملی ماجرا فرق داشت. به مدل دسترسی agent به کد یه اپ خیالی ردیابی مسابقهی اولترامارتن دادن که یه باگ عمدی داشت: «سختی» مسیر رو با متر سرازیری حساب میکرد نه سربالایی. مدل فقط اسم فایلها رو نگاه کرد، فایلی که باگ توش بود رو اصلاً باز نکرد، و آخرش با اطمینان گفت باگ درست شده. ولی اجرای دوباره نشون داد هیچی عوض نشده.
نویسنده میگه این یه حالت شکست جدیه، چون مدل فقط اشتباه نکرد، بلکه به جواب غلطش اطمینان الکی داد. به گفتهی نویسنده، مدلهای قبلی مبتنی بر Gemma که خودش تست کرده بود این رفتار «کار تموم شد»ِ ساختگی رو نداشتن. تو یه تست دیگه هم ازش خواستن یه فایل HTML از یه صحنهی آشپزی (تابه، نودل، بخار) بسازه. ادعا کرد فایل رو نوشته و چک کرده، ولی خروجی یه پسزمینهی خاکستری با چندتا خط بود و خبری از نودل و بخار نبود.
تو استدلال اوضاع بهتر بود. یه مسئلهی فیزیک (توپ ۲ کیلویی از ساختمون ۴۵ متری) رو کامل درست حل کرد: ۳ ثانیه، ۳۰ متر بر ثانیه و ۹۰۰ ژول. گول یه معما با فرض غلط (خروسی که تخم میذاره) رو نخورد و یه پازل زمانبندی کارکنا رو هم تقریباً درست حل کرد. ولی تو تست اسم بچه برای ۸۲ زبان، با اینکه فرمت رو رعایت کرد، یه اسم رو برای زبونهای بیربط تکرار کرد که نشون میده دادهی آموزشیش برای زبونهای کممنبع سطحیه.
جمعبندی نویسنده اینه که Bolt برای کارهای روزمرهی دستیار روی سختافزار محدود گزینهی معقولیه. ولی برای agentهای کدنویسی یا هر جایی که خروجی بدون چک انسانی باید قابلاعتماد باشه، فاصلهی بنچمارک تا کار واقعی هنوز زیاده.
نکات کلیدی:
- ۸ میلیارد پارامتر کل، ۴ میلیارد فعال، و post-train شده روی Gemma 4 E4B.
- context window ۶۴ هزار توکن و حدود ۴ تا ۶ گیگ VRAM با فرمت Q4KM.
- تو نمودار انویدیا فقط Gemma 4 26B A4B ازش باهوشتره که اونم سنگینتر و کندتره.
- تو تست دیباگ باگ رو پیدا نکرد ولی ادعا کرد درستش کرده.
- مسئلهی فیزیک، معمای منطقی و پازل زمانبندی رو خوب حل کرد.




