رایتر با Palmyra X6 هزینهها رو نصف میکنه
هوش مصنوعیخلاصهٔ کاملتر
رایتر — شرکتی که ابزار و ایجنت هوش مصنوعی برای تیمهای مارکتینگ میسازه — پنجشنبه مدل پرچمدار جدیدش Palmyra X6 رو منتشر کرد. این مدل از صفر ساخته نشده؛ یه نسخهٔ post-trainشده از GLM-5.2، مدل متنبازِ Z.ai هست. تو گزارش TechCrunch اومده که هدفش رسیدن به کیفیتِ آمادهٔ استقرار با قیمتی خیلی پایینتره.
همراه مدل، رایتر یه بهروزرسانی بزرگ هم برای harness استانداردش داد — harness یعنی همون لایهای که مدل رو اجرا میکنه و مرحلهها، ابزارها و ردوبدل شدن توکنها رو مدیریت میکنه. شرکت تخمین میزنه ترکیب مدل جدید و این تغییرات زیرساختی تا ۵۰٪ هزینهٔ کارهای ساده رو کم میکنه. تمرکز اصلی هم روی کارهای چندمرحلهایِ پیچیدهست که باید سریعتر و با توکن کمتر انجام بشن. هر دو از همون پنجشنبه برای مشتریهای رایتر فعالن.
یه مقالهٔ تازه از پژوهشگرای رایتر همین رویکرد رو تأیید میکنه: اونها تغییرات کوچیک در کارایی harness رو روی چند مدل مختلف تست کردن و دیدن تو خیلی از موارد، دستکاری harness راه مطمئنتری برای کم کردن هزینهست تا عوض کردن مدل — بهطور میانگین ۴۰٪ کاهش هزینه تو تستهاشون. به نوشتهٔ پژوهشگرا، harness تنها بخشیه که بهبود کاراییش روی همهٔ مدلهای فعلی و آیندهٔ یه سازمان ضرب میشه.
از نگاه مشتری چیزی عوض نمیشه: Palmyra X6 کنار بقیهٔ مدلهای رایتر یا مدلهای بیرونی که از راه Azure یا Amazon Bedrock وارد میشن قرار میگیره. May Habib، مدیرعامل رایتر، میگه سازمانها از دنبال کردن بنچمارک بعدی خسته شدن و چیزی که میخوان صاف شدن نمودار هزینهست. به گفتهٔ اون، همین فشار هزینه باعث شده CIOها به آزمایشگاههای بزرگ هوش مصنوعی بیاعتماد بشن، چون خودشون از مصرف بیشتر توکن سود میبرن.
نکات کلیدی:
- Palmyra X6 یه نسخهٔ post-trainشده از GLM-5.2، مدل متنباز Z.ai، هست و از صفر ساخته نشده
- رایتر میگه مدل جدید بهعلاوهٔ harness بهروزشده تا ۵۰٪ هزینهٔ کارهای ساده رو کم میکنه
- مقالهٔ پژوهشی رایتر بهطور میانگین ۴۰٪ کاهش هزینه از بهینهسازی harness گزارش کرده
- Palmyra X6 کنار مدلهای واردشده از Azure و Amazon Bedrock کار میکنه
- مدل و harness جدید از پنجشنبه در دسترس مشتریهای رایتر قرار گرفتن
