مدل اوپنویت چینی رو خودت میزبانی کنی یا نه؟
هوش مصنوعیخلاصهٔ کاملتر
این مطلب سراغ یه سؤال عملی میره: کِی منطقیه که یه مدل اوپنویت چینی رو خودت میزبانی کنی؟ جواب نویسنده اینه که دانلود چکپوینت راحتترین بخش ماجراست، و «اوپنویت» یه ویژگی واحد نیست. قبل از تصمیم باید چهار چیز جدا رو چک کنی: اصلاً API داره یا نه، وزنها واقعاً دانلودشدنیان یا هنوز وعدهان، لایسنس کاربرد تو رو مجاز میدونه، و سختافزارت با طول کانتکست و سرعت موردنیازت از پسش برمیاد.
کلید فهم هزینه، فرق پارامتر کل و پارامتر فعاله. تو معماری MoE یه روتر برای هر توکن فقط بخشی از شبکه رو فعال میکنه؛ MiniMax M3 حدود ۴۲۷ میلیارد پارامتر کل داره ولی نزدیک ۲۳ میلیارد رو برای هر توکن به کار میگیره، و DeepSeek V4 Pro هم ۱.۶ تریلیون پارامتر کل داره. پارامتر فعال هزینهٔ محاسبات هر توکن رو توضیح میده، ولی حافظه، استوریج و شبکه رو پارامتر کل تعیین میکنه — برای همین یه مدل میتونه روی API ارزون باشه و روی سرور خودت کمرشکن. چکپوینت BF16 مدل GLM 5.2 حدود ۱.۵ ترابایته.
به گفتهٔ نویسنده، میزبانی شخصی فقط تو دو حالت جواب میده: مدلهای کوچیک یا distillشده روی سختافزار شخصی و تیمی، و استقرار سازمانی بزرگ که هم سختافزارش هست هم تیمش. برای باقی موارد API معمولاً مسیر عملیتریه، مگر اینکه حجم کار یا الزامات حاکمیت داده مجبورت کنه. نکتهٔ مهم اینه که حاکمیت داده به نحوهٔ استقرار بستگی داره نه کشور سازنده: همون مدل روی سرور خودت پشت فایروال، پروفایل ریسک کاملاً متفاوتی از سرویس میزبانیشده داره.
لایسنسها هم اصلاً یکدست نیستن و باید مدلبهمدل چک بشن. GLM 5.2 از Z.ai زیر لایسنس MIT منتشر شده و روی کارهای کدنویسی بلندافق خوب کار میکنه، ولی MiniMax M3 لایسنس اختصاصی داره که ذکر منبع میخواد، برای سازمانهای بالای ۲۰ میلیون دلار درآمد سالانه مجوز کتبی قبلی لازم داره و استفادهٔ نظامی رو ممنوع کرده. Kimi K3 هم قبل از اینکه وزنهاش واقعاً منتشر بشه، اوپنویت معرفی شده بود.
حرف آخر دربارهٔ هزینهست: قیمت هر توکن با هزینهٔ کار تمامشده یکی نیست. یه مدل ارزونتر اگه زنجیرهٔ استدلال طولانیتری لازم داشته باشه یا کار رو به آدم پاس بده، عملاً گرونتر درمیاد. یه ارزیابی دولتی آمریکا (CAISI) روی هفت بنچمارک نشون داد DeepSeek V4 Pro بهازای هر مسئلهٔ درستحلشده بین ۵۳٪ ارزونتر تا ۴۱٪ گرونتر از مدلهای پیشرو آمریکایی درمیاد و در مجموع حدود هشت ماه از مرز فناوری عقبتره.
نکات کلیدی:
- «اوپنویت» تضمین نمیکنه که مدل قابلدانلود، مجاز و قابلاجرا روی سختافزار تو باشه
- تو مدلهای MoE پارامتر فعال هزینهٔ محاسبات رو میسازه، ولی پارامتر کل صورتحساب سختافزار رو
- لایسنسها از MIT تا شرط درآمد و منع کاربرد نظامی فرق دارن و باید نسخهبهنسخه چک بشن
- حاکمیت داده به محل اجرای مدل بستگی داره، نه کشور سازنده
- معیار درست مقایسه، هزینهٔ هر نتیجهٔ پذیرفتهشدهست نه هزینهٔ هر توکن
