مک مینی M6: ۳.۵ برابر سریع‌تر تو AI محلی
هوش مصنوعیخلاصهٔ کامل‌تر
به نوشتهٔ مقاله، M6 فقط یه بالا بردن فرکانس روی M4 نیست. اپل ساختار CPU رو عوض کرده و برای اولین بار سه نوع هسته قاطی کرده: دو «سوپر کور»، چهار هستهٔ performance و شش هستهٔ efficiency. GPU هم از ۱۰ هسته به ۱۲ هسته رسیده و مهم‌تر اینکه هر هستهٔ GPU یه neural accelerator داره (یعنی سخت‌افزار مخصوص کارهای AI) که از نسل M5 اومده و تو M4 اصلاً نبوده. تعداد neural engine هم دو برابر شده و این اولین چیپ ۲ نانومتری اپله.
عددهای تست روشنه. با یه مدل ۹ میلیارد پارامتری با کوانتایز Q4K و فرمت GGUF تو llama.cpp، پردازش پرامپت (یعنی همون مرحله‌ای که مدل ورودی تو رو می‌خونه) از ۲۱۰ به ۷۴۲ توکن در ثانیه رفته، حدوداً ۳.۵ برابر. زمان تا اولین توکن از ۲.۵ ثانیه به ۷۲۱ میلی‌ثانیه اومده. ساخت عکس با Flux.1 Schnell هم از ۱ دقیقه و ۳۴ ثانیه به ۳۵ ثانیه رسیده.
ولی تولید توکن، یعنی سرعتی که مدل جوابش رو می‌نویسه، فقط از ۱۸ به حدود ۲۶.۹ توکن در ثانیه رفته. نویسنده می‌گه دلیلش اینه که این بخش به پهنای باند حافظه بنده نه به توان محاسباتی. اپل پهنای باند M4 رو حدود ۱۲۰ GB/s می‌گه و برای M6 بسته به کانفیگ ۱۵۳ GB/s با ۱۶ گیگ رم یا ۱۷۰ GB/s با ۳۲ گیگ. تست مستقل با بنچمارک STREAM ولی روی نسخهٔ ۳۲ گیگ حدود ۱۴۳ تا ۱۴۴ GB/s درآورده، یعنی محسوس کمتر از عددِ اعلامی.
ظرفیت رم یه بحث جداست و صفر و یکیه: مدل یا تو حافظه جا میشه یا نه. پهنای باند تعیین می‌کنه مدل چقدر سریع اجرا بشه، ظرفیت رم تعیین می‌کنه اصلاً اجرا بشه یا نه. مدل ۹ میلیاردی تست و مدل تصویر Schnell هر دو راحت تو ۱۶ گیگ جا شدن و هیچ‌کدوم از دو دستگاه به فشار حافظه نخوردن، ولی برای مدل‌های بالای ۲۰ میلیارد پارامتر یا کوانتایزهای دقیق‌تر باید سراغ نسخهٔ ۳۲ گیگ رفت؛ همون نسخه‌ای که تنها راه فعال شدن بالاترین ردهٔ پهنای باند هم هست.
مصرف برق هم بهتر شده: زیر بار کامل GPU، M6 حداکثر ۳۸ وات کشیده مقابل ۴۴ وات M4، و تصویر دوربین حرارتی نشون داده چند درجه خنک‌تر هم می‌مونه، با اینکه کار رو سریع‌تر تموم می‌کنه. نتیجه‌گیری نویسنده متعادله: اگه مدل‌های کوانتایزشدهٔ کوچیک رو راحت روی M4 اجرا می‌کنی و سرعت جواب اذیتت نمی‌کنه، این آپگرید لازم نیست؛ اگه به سقف حافظه خوردی یا سر پردازش پرامپت معطل می‌شی، تفاوتش واقعی و قابل اندازه‌گیریه.
نکات کلیدی:
- پردازش پرامپت: ۷۴۲ توکن در ثانیه روی M6 مقابل ۲۱۰ روی M4 (مدل ۹B، کوانت Q4K، llama.cpp).
- تولید توکن: ۱۸ به حدود ۲۶.۹ توکن در ثانیه؛ گلوگاهش پهنای باند حافظه‌ست.
- زمان تا اولین توکن از ۲.۵ ثانیه به ۷۲۱ میلی‌ثانیه رسیده.
- Flux.1 Schnell: ۳۵ ثانیه روی M6 مقابل ۹۴ ثانیه روی M4.
- پهنای باند: ۱۵۳ GB/s با ۱۶ گیگ رم، ۱۷۰ GB/s با ۳۲ گیگ؛ تست STREAM حدود ۱۴۳ تا ۱۴۴ GB/s داده.
- مصرف برق زیر بار کامل GPU: ۳۸ وات مقابل ۴۴ وات M4.
- Thunderbolt روی M6 مک مینی همون نسخهٔ ۴ مونده؛ Thunderbolt 5 مالِ مدل Pro ـه.
