‏Muse Spark Open: مدل باز متا که روی دو تا Mac Studio اجرا می‌شه

متا وزن‌های مدل Muse Spark Open رو منتشر کرده؛ وزن‌ها (weights) یعنی همون پارامترهای آموزش‌دیدهٔ مدل که می‌شه دانلود و اجراشون کرد. به گفتهٔ متا، این قوی‌ترین مدل open-weight آمریکایی تا امروزه. مدل natively multimodal هست، یعنی از اول برای کار با متن و تصویر با هم ساخته شده. ۸۱۶ میلیارد پارامتر کل داره که فقط ۴۲ میلیاردش برای هر توکن فعاله، و context window یک میلیون توکنی داره.

بخش جالب ماجرا اجرای محلیه. متا مدل رو با آخرین نسخهٔ فریم‌ورک MLX اپل برای Mac Studio با چیپ M5 Ultra بهینه کرده. تو معماری unified memory اپل (یعنی CPU و GPU از یه حافظهٔ مشترک استفاده می‌کنن)، GPU هر Mac Studio تا ۵۱۲ گیگابایت حافظه در اختیار داره. پس دو تا دستگاه کل مدل رو جا می‌دن و پهنای باند ۱.۲ ترابایت بر ثانیه هم برای خوندن تیکهٔ کوچیکی که هر توکن لازم داره کافیه. به گفتهٔ متا، این دو تا مک مثل یه ابرکامپیوتر با یه ترابایت حافظه رفتار می‌کنن.

تمرکز مدل روی کدنویسی و کارهای agentic هست؛ یعنی کارهایی که مدل خودش چند قدم پشت‌سرهم برمی‌داره و ابزار صدا می‌زنه. متا چند workflow کاملاً روی دستگاه رو تست کرده: با Muse Code روی همین مدل، تغییرات واقعی iOS (رفع باگ، فیچر جدید و build کامل) رو روی Ice Cubes انجام داده که یه کلاینت متن‌باز Mastodon هست. یه تست دیگه هم کنترل کامل DaVinci Resolve بوده؛ مدل فوتیج رو فریم به فریم بررسی کرده تا بهترین لحظه‌ها رو پیدا کنه و عمودی کراپ‌شون کنه.

مدل روی SGLang، vLLM، TensorRT-LLM، Hugging Face Transformers، MLX، llama.cpp و Unsloth اجرا می‌شه و برای سخت‌افزار AMD، اپل، Intel و NVIDIA بهینه شده. نسخهٔ باز با kernelهای GPU سفارشی Helion توی SGLang میاد که خودشون رو خودکار تنظیم می‌کنن. این kernelها به‌تنهایی بین ۱.۰۳ تا ۳.۹۵ برابر سریع‌ترن و روی AMD MI350 حدود ۳ درصد سرعت end-to-end اضافه می‌کنن.

وزن‌ها روی Hugging Face، Amazon SageMaker AI، Google Cloud Model Garden و Microsoft Foundry هستن و API هم از طریق Baseten، Fireworks AI، Groq، Modal، Nebius، OpenRouter و Together AI در دسترسه. برای fine-tune هم متا TorchTitan توی PyTorch رو پیشنهاد می‌کنه. مجوزش Muse Model License هست که شرایط تجاری محدودی داره ولی برای خیلی از توسعه‌دهنده‌ها رایگانه.

متا می‌گه به‌خاطر ریسک‌های خاص مدل‌های باز، یه مرحلهٔ safety post-training اضافه روش انجام داده. مدل طبق Meta Superintelligence Scaling Framework ارزیابی شده و آستانه‌های لازم برای انتشار رو پاس کرده. جزئیات تو model card روی Hugging Face هست و گزارش کامل ارزیابی هم به‌زودی منتشر می‌شه.

نکات کلیدی:

• ۸۱۶ میلیارد پارامتر کل، ۴۲ میلیارد فعال و context یک میلیون توکنی
• اجرای کامل روی دو Mac Studio با M5 Ultra (هرکدوم تا ۵۱۲ گیگ حافظه برای GPU) با MLX
• kernelهای Helion توی SGLang بین ۱.۰۳ تا ۳.۹۵ برابر سرعت در سطح kernel می‌دن
• مجوز Muse Model License: شرایط تجاری محدود، رایگان برای خیلی از توسعه‌دهنده‌ها