‏دیپ‌سیک V4.1 Flash: مدل ۵۵۲ میلیاردی که رو یه GPU معمولی هم جواب می‌ده

دیپ‌سیک V4.1 Flash یه مدل mixture-of-experts (MoE) با ۵۵۲ میلیارد پارامتره که وزن‌هاش تحت لایسنس MIT به‌صورت باز منتشر شده. با این‌که عدد کل پارامترها خیلی بزرگه، مدل هر بار فقط بخش کوچیکی از خودش رو فعال می‌کنه: ۸ میلیارد پارامتر موقع پردازش ورودی (prefill) و ۱۶ میلیارد موقع تولید خروجی (decode). این یعنی به‌جای این‌که کل شبکه برای هر توکن کار کنه، یه روتر فقط چندتا expert مرتبط رو صدا می‌زنه، دقیقاً همون چیزی که اجرای محلی این مدل رو رو سخت‌افزار خیلی کوچیک‌تر از حجم اسمیش ممکن می‌کنه.

اون چیزی که این کار رو واقعاً عملی می‌کنه، فشرده‌سازی سنگین KV cache هست؛ یعنی همون حافظه‌ای که مدل موقع تولید متن برای توکن‌های قبلی نگه می‌داره تا مجبور نشه محاسبات رو از اول تکرار کنه. تو مدل‌های با کانتکست بلند همین حافظه اغلب گلوگاه اصلیه، حتی بیشتر از حجم خود وزن‌ها. دیپ‌سیک با چندتا تکنیک روی هم مثل SWA Bounded Replay، Compressed Sparse Attention 2، و ذخیره KV با فرمت فشرده FP4، مصرف حافظه رو به حدود ۸۹۰ بایت به‌ازای هر توکن رسونده؛ یه‌چهارم V4-Flash و ۴۳۷ برابر کمتر از نسخه اول دیپ‌سیک.

برای اجرای محلی، هنوز باید کل ۵۵۲ میلیارد پارامتر یه‌جایی قابل دسترس ذخیره بشه، چون هر توکن ممکنه به expert متفاوتی نیاز داشته باشه؛ ولی سرعت و تأخیر رو همون ۸ تا ۱۶ میلیارد پارامتر فعال تعیین می‌کنه، نه عدد کل. دیپ‌سیک عدد مشخصی برای حداقل VRAM اعلام نکرده، و چون فرمت‌های کوانتایز مثل GGUF یا AWQ هنوز برای این مدل آماده نبودن، تا الان بیشتر اجراها رو سرورهای چندتا GPU یا سرویس‌های کلود انجام دادن نه کارت‌های خانگی. حجم ذخیره‌سازی روی دیسک هم حدود یک‌هشتم نسخه قبلی شده.

از نظر محک‌ها، مدل تو DeepSWE با نمره ۷۴.۲ کمی جلوتر از GPT-5.6 Sol (۷۳.۰) و تقریباً هم‌سطح Claude Opus 5 (۷۴.۰) ظاهر شده، و تو CyberGym با ۸۸.۱ از همه رقبا جلو زده. ولی تو Terminal-Bench 3.0 و 4.0 به‌وضوح از Opus 5 عقب می‌مونه (مثلاً ۳۰.۰ در برابر ۴۳.۳)، و تو ExploitGym هم نمره‌ش خیلی پایین‌تر از GPT-5.6 Sol‌ه. تست‌های دستی مستقل هم همین نوسان رو نشون دادن؛ مثلاً مدل تو شبیه‌سازی مکعب روبیک و بازسازی یه تصویر با سبک Paint، نتایج ضعیف‌تری نسبت به مدل‌های پیشرو داده.

اگه اجرای محلی به‌صرفه نباشه، قیمت API خود دیپ‌سیک هم چشمگیره: حدود ۱۵ سنت به‌ازای هر میلیون توکن ورودی تو ساعات کم‌ترافیک (که تو ساعات پرترافیک به ۳۰ سنت می‌رسه)، در برابر ده‌ها دلار برای مدل‌های بسته‌ی رده‌بالا. این فاصله قیمتی نشون می‌ده خیلی از کارهای روزمره مثل نوشتن متن یا کدنویسی معمولی، اصلاً نیازی به بهترین مدل ممکن ندارن و یه مدل باز و کارآمد مثل این می‌تونه جواب بده.

نکات کلیدی:

• ۵۵۲ میلیارد پارامتر کل، ولی فقط ۸ میلیارد موقع ورودی و ۱۶ میلیارد موقع خروجی فعال می‌شه.
• حافظه KV حدود ۸۹۰ بایت به‌ازای هر توکن، ۴۳۷ برابر کمتر از نسخه اول دیپ‌سیک.
• تو DeepSWE (۷۴.۲) و CyberGym (۸۸.۱) جلوتر از Claude Opus 5 و GPT-5.6 Sol‌ه، ولی تو Terminal-Bench و ExploitGym عقب می‌مونه.
• وزن‌ها MIT و بازن، ولی فرمت کوانتایز برای GPU خانگی هنوز آماده نیست.
• قیمت API از ۱۵ سنت هر میلیون توکن ورودی شروع می‌شه، خیلی ارزون‌تر از مدل‌های بسته.