Spark-X2.6-4B: مدل ۴ میلیاردی برای اجرا روی دستگاه
هوش مصنوعیClaude Opus 5.5خلاصهٔ کامل‌تر
تیم SparkLLM نسخهٔ Spark-X2.6-4B رو منتشر کرده؛ یه مدل زبانی ۴ میلیارد پارامتری با وزن‌های باز (open-weight، یعنی هر کسی می‌تونه خود مدل رو دانلود و اجرا کنه) و لایسنس Apache 2.0. هدفش اجرا روی خود دستگاهه، یعنی لپ‌تاپ، گوشی یا سخت‌افزارهای embedded، نه سرورهای ابری. نکتهٔ جالبش اینه که معماریش دقیقاً همون Spark-X2.5-4B هست و همهٔ بهبودها از post-training اومده (یعنی آموزش تکمیلی بعد از آموزش اصلی مدل). تمرکز این آموزش روی کدنویسی، استفاده از ابزارها، متن‌های طولانی، چندزبانه بودن و استدلال بوده.
طبق model card، این مدل تو بنچمارک‌های agent، کد، ریاضی و دانش عمومی از دو رقیب هم‌وزنش یعنی Qwen3.5-4B و Gemma-E4B جلوتره. ادعای اصلی‌تر اینه که تو بعضی بنچمارک‌های agentic و کدنویسی به مدل‌های حدود ۹B می‌رسه یا ازشون جلو می‌زنه؛ یعنی مدلی با تقریباً نصف حجم. سرعت inference روی سخت‌افزار edge هم به گفتهٔ سازنده‌ها هم‌اندازه یا بهتر از اون دو رقیبه، پس این پیشرفت به قیمت مصرف حافظه یا کندی تموم نشده.
نویسنده یادآوری می‌کنه که این عددها رو خود سازنده منتشر کرده و model card حتی اسم مدل‌های ۹B مورد مقایسه رو نمی‌گه. پس بهتره هر کسی مدل رو روی کار واقعی خودش تست کنه و فقط به تیتر بنچمارک تکیه نکنه.
یه قابلیت مهمش thinking budget قابل تنظیمه؛ یعنی میشه برای هر درخواست تعیین کرد مدل چقدر قبل از جواب دادن فکر کنه: none، low یا high. برای یه دسته‌بندی ساده میشه فکر کردن رو خاموش کرد که سریع باشه، و برای یه کار چندمرحله‌ای کدنویسی یا برنامه‌ریزی، high رو گذاشت. فکر کردن به‌طور پیش‌فرض روشنه و اگه جواب کوتاه و سریع می‌خوای باید صریحاً enable_thinking: false رو بفرستی.
پشتیبانی از ابزارهای اجرا هم خیلی گسترده‌ست: Transformers (نسخهٔ 4.57.1 به بالا)، SGLang، vLLM، MLX برای Apple silicon، llama.cpp (از build b10828)، Ollama (از 0.34.1)، LM Studio (از 0.4.0) و Unsloth. تو تنظیمات مرجع SGLang، طول context تا 1,048,576 توکن تعریف شده، ولی اینکه عملاً چقدرش قابل استفاده‌ست به حافظهٔ دستگاه بستگی داره. به گفتهٔ نویسنده، همین پشتیبانی گسترده مقایسهٔ کنار هم با Qwen و Gemma رو خیلی راحت می‌کنه.
نکات کلیدی:
- Spark-X2.6-4B یه مدل ۴B با لایسنس Apache 2.0 هست و معماریش عین Spark-X2.5-4B مونده.
- رقیب‌های مستقیمش Qwen3.5-4B و Gemma-E4B هستن و سازنده ادعا می‌کنه از هر دو جلوتره.
- تو بعضی بنچمارک‌های agent و کد به مدل‌های حدود ۹B می‌رسه، ولی اسم اون مدل‌ها اعلام نشده.
- thinking budget سه سطح none، low و high داره و پیش‌فرضش روشنه.
- طول context تو تنظیمات SGLang تا 1,048,576 توکنه.
- از Ollama 0.34.1، LM Studio 0.4.0 و llama.cpp build b10828 به بعد پشتیبانی میشه.
