مون‌شات دنبال بلک‌ول‌های بیشتر برای Kimi K4
هوش مصنوعیخلاصهٔ کامل‌تر
به نوشتهٔ این مقاله، مون‌شات بعد از موفقیت گستردهٔ Kimi K3 حالا سراغ انبار بزرگ‌تری از پردازنده‌های بلک‌ول انویدیا رفته تا نسل بعدی مدلش یعنی Kimi K4 رو آموزش بده. منبع این خبر گزارشی از The Information هست و نویسنده تأکید می‌کنه که شرکت ظاهراً حاضره برای رسیدن به این حجم از محاسبات، محدودیت‌های صادراتی آمریکا رو هم نادیده بگیره.
Kimi K3 که تازه به‌صورت اوپن‌سورس منتشر شده، ۲.۸ تریلیون پارامتر داره، چندوجهیه و پنجرهٔ متنی‌اش حدود یک میلیون توکنه. نکتهٔ مهمش بهره‌وریه: با پخش‌کردن ۸۹۶ متخصص (expert) روی تعداد زیادی GPU و کوچیک‌کردن چشمگیر KV cache، مصرف حافظه به‌ازای هر توکن پایین اومده. مایکروسافت حساب کرده با جایگزینی مدل‌های OpenAI و Anthropic با Kimi K3 در Copilot می‌تونه تا ۶۰۰ میلیون دلار در هزینهٔ اینفرنس صرفه‌جویی کنه.
همین موفقیت، مون‌شات رو وسط کشمکش فناورانهٔ چین و آمریکا انداخته. یک مقام دولت ترامپ ادعا کرده این شرکت مخفیانه صاحب سرورهای GB300 انویدیاست و از طریق تایلند هم به تعداد بیشتری از این سرورها دسترسی پیدا کرده. نویسنده اما ادعای دیستیل‌شدن Kimi K3 از مدل Fable شرکت Anthropic رو باورپذیر نمی‌دونه؛ به گفتهٔ او فاصلهٔ زمانی خیلی کم بوده و معماری خاص Kimi K3 هم اصلاً در Fable وجود نداره — حداکثر بخشی از پاسخ‌های مدل با Fable فاین‌تیون شده.
مون‌شات از تراشه‌های داخلی چین هم استفاده می‌کنه و مهندس‌هاش تونستن چند سرور هشت‌تراشه‌ای رو بین دیتاسنترهای جدا از هم وصل کنن تا K3 رو آموزش بدن. ولی چون K4 قراره از ۲.۸ تریلیون پارامتر هم بزرگ‌تر باشه، عطش شرکت برای محاسبات بیشتر شده. در طرف مقابل، دولت ترامپ داره ممنوعیت کامل مدل‌های اوپن‌ویت چینی رو بررسی می‌کنه، در حالی که انویدیا، مایکروسافت، متا، دل، پرپلکسیتی، پلنتیر و میسترال در نامه‌ای خواستار زنده موندن این اکوسیستم شدن.
نکات کلیدی:
- مون‌شات دنبال پردازنده‌های بلک‌ول بیشتری برای آموزش Kimi K4 هست
- Kimi K3 با ۲.۸ تریلیون پارامتر و پنجرهٔ حدود یک میلیون توکنی اوپن‌سورس عرضه شده
- مایکروسافت با مهاجرت Copilot به Kimi K3 تا ۶۰۰ میلیون دلار صرفه‌جویی می‌کنه
- ادعای دیستیل‌شدن K3 از Fable طبق تحلیل مقاله بعیده
- دولت ترامپ ممنوعیت مدل‌های اوپن‌ویت چینی رو بررسی می‌کنه
