Model Factory از Prime Intellect: آموزش و دیپلوی مدل اختصاصی تو یه پلتفرم
خلاصهٔ کاملتر
Prime Intellect از Model Factory رونمایی کرده؛ پلتفرمی که reinforcement learning (یعنی آموزش مدل با امتیاز دادن به تلاشهاش)، supervised fine-tuning یا SFT، پیشآموزش و inference رو زیر یه کنترلپنل واحد میاره. تیم سازنده میگه این همون چرخهایه که آزمایشگاههای بزرگ باهاش کار میکنن: مدل رو آموزش میدن، دیپلوی میکنن، رفتارش رو بررسی میکنن و از نتیجهش برای نسخه بعدی استفاده میکنن.
به گفته نویسندهها، اجاره کردن مدل سه تا هزینه داره: نمیتونی مدل رو با سیگنال پاداش خودت آموزش بدی، داده و پرامپتهات دست ارائهدهنده میافته، و اون ارائهدهنده هر وقت بخواد میتونه نسخهای که محصولت بهش وابستهست رو عوض یا حذف کنه. در مقابل، داشتن مدل خودت یعنی وزنها، داده و تجربههای production مال خودته. بیشتر تیمها هم از یه مدل open-weights شروع میکنن و روش fine-tune یا RL اجرا میکنن.
تو بخش آموزش، مدل رو از کاتالوگ مدلهای اوپنسورس انتخاب میکنی یا مدل خودت رو میاری، بعد تسکها و environment (یعنی محیطی که ابزار و زمینه کار رو به agent میده و بهش امتیاز میده) رو تعریف میکنی. پلتفرم trainer، inference مربوط به rolloutها و هماهنگی بینشون رو خودش مدیریت میکنه. برای agentهایی که کد مینویسن یا از ابزار استفاده میکنن، تا دهها هزار sandbox همزمان از نوع microVM هم به آموزش وصل میشه.
پیشآموزش و mid-training (یعنی ادامه آموزش یه مدل پایه موجود) هم پشتیبانی میشه. به عنوان نمونه، Prime Mega MoE روی H200 با معماری MoE دویست و سی و پنج میلیارد پارامتری Qwen به ۴۸ درصد MFU (یعنی میزان استفاده واقعی از توان محاسباتی GPU) رسیده.
بعد از آموزش، با یه کلیک میشه endpoint برای inference ساخت، چون آموزش و inference روی یه زیرساخت هستن. ابزار Prime Traces هم ردپای اجرای agent تو production رو ثبت میکنه؛ یعنی کدوم ابزار رو صدا زده، چه مسیری رفته و کجا شکست خورده. این خطاها بعداً میشن ورودی دور بعدی آموزش و چرخه Deploy → Improve → Train ادامه پیدا میکنه.
نسخه اختصاصی هم برای تیمهایی هست که کنترل بیشتری میخوان. توش health check، جایگزینی خودکار نودهای خراب و برگشت از آخرین checkpoint هست و همه از طریق CLI به اسم prime factory مدیریت میشه. این تیمها دسترسی مستقیم به Slurm و Kubernetes هم دارن و میتونن فریمورکهای زیرین رو تغییر بدن.
نکات کلیدی:
- Model Factory آموزش RL، SFT، پیشآموزش و inference رو تو یه کنترلپنل جمع میکنه.
- نسخه on-demand بر اساس ساعت GPU حساب میشه و نسخه اختصاصی ظرفیت رزروشده و دسترسی Slurm و Kubernetes داره.
- تا دهها هزار sandbox همزمان microVM برای آموزش agentهای کدنویس پشتیبانی میشه.
- Prime Mega MoE روی H200 با معماری 235B MoE مدل Qwen به ۴۸ درصد MFU رسیده.
- Prime Traces خطاهای agent تو production رو ثبت میکنه تا داده دور بعدی آموزش بشه.




