‏Ember-1؛ کیفیت Kimi K3 با ۴۰ درصد توکن کمتر

Fireworks Research مدل جدیدش Ember-1 رو معرفی کرده؛ مدلی که روی Kimi K3 ساخته شده و طبق اعلام این شرکت همون کیفیت رو با ۴۰ درصد توکن کمتر می‌ده. تیم Fireworks می‌گه درخواست کاربرها این بود که قدرت کدنویسی K3 رو با هزینه‌ی کمتر داشته باشن، و کم کردن دستی reasoning effort (همون تنظیمی که تعیین می‌کنه مدل چقدر فکر کنه) جواب نمی‌داد، چون کیفیت زیادی از دست می‌رفت.

ریشه‌ی مشکل اینه که مدل‌های استدلالی گاهی بیشتر از ۹۰ درصد توکن‌هاشون رو خرج فکر کردن داخلی می‌کنن نه خود جواب. تو کارهای agentic چندمرحله‌ای این خیلی بدتر می‌شه، چون هر مرحله تمام استدلال مرحله‌های قبل رو دوباره به مدل می‌ده؛ یعنی context تقریباً به شکل درجه‌دو بزرگ می‌شه و بابت متن‌های قدیمی بارها پول می‌دید.

به گفته‌ی تیم، رسیدن به این نقطه بیشتر از ۵۰ آزمایش آموزشی و بیشتر از ۲۰۰ ارزیابی لازم داشته و همه‌ش روی Fireworks Serverless Training انجام شده. آموزش روی طیف گسترده‌ای از کارها بوده، از ریاضی و کدنویسی تا جست‌وجو و کار با ابزار، تا صرفه‌جویی توکن فقط به یه نوع کار محدود نمونه. نکته‌ی مهم اینه که بخش مفید استدلال، یعنی بازبینی فرض‌ها و اصلاح مسیر، حفظ شده.

تو بنچمارک‌ها Ember-1 روی Terminal Bench 2.1 امتیاز ۸۲ درصد گرفته در برابر ۸۰.۹ درصد K3 با حداکثر استدلال، و روی SWE-bench Verified با ۹۲.۲ درصد کمی پایین‌تر از ۹۳.۲ درصد K3 مونده ولی هزینه‌ی اجراش حدود ۶۸ دلار کمتر دراومده. تو تست A/B زنده با دو مشتری هم حدود ۳۵ درصد توکن کمتر مصرف شده و توکن‌های استدلال ۷۱ درصد کم شدن.

Ember-1 فعلاً به شکل Research Preview کنار خود Kimi K3 روی Serverless سرو می‌شه و Fireworks می‌گه مدل‌های پژوهشی جدیدش رو دو هفته در دسترس می‌ذاره و بسته به استقبال جامعه دائمی‌شون می‌کنه. آموزش اختصاصی روی Ember-1 هم برای شرکت‌ها باز شده تا با داده‌ی خودشون نسخه‌ی کم‌توکن مخصوص کار خودشون رو بسازن.

نکات کلیدی:

• Ember-1 روی Kimi K3 ساخته شده و طبق گزارش Fireworks با ۴۰ درصد توکن کمتر به همون کیفیت می‌رسه
• مدل‌های استدلالی تا بیش از ۹۰ درصد توکن‌هاشون رو صرف فکر کردن داخلی می‌کنن
• Terminal Bench 2.1: ۸۲ درصد در برابر ۸۰.۹ درصد K3 max، با حدود ۵۲ درصد هزینه‌ی کمتر
• تست A/B زنده با دو مشتری: حدود ۳۵ درصد توکن کمتر و کیفیت تقریباً بدون تغییر
• انتشار به شکل Research Preview روی Serverless، به همراه امکان آموزش اختصاصی برای شرکت‌ها