‏pplx-decider-v1.1؛ مدل تصمیم‌گیر جدید Perplexity

Perplexity مدل pplx-decider-v1.1-27b رو روی Hugging Face گذاشته که نسخهٔ به‌روز شدهٔ pplx-decider-v1-27b هست. این یه decision model ه، یعنی مدلی که به جای نوشتن جواب آزاد، از بین چند گزینهٔ از پیش تعریف شده یکی رو انتخاب می‌کنه و به هر گزینه یه احتمال می‌ده. مدل پایه‌ش همون Qwen3.8-27B مونده.

به گفتهٔ تیم سازنده، امتیاز کلی Decision Index از 56.4 به 61.56 رسیده و Jev (با امتیاز 57.9) رو پشت سر گذاشته. بیشترین رشد تو دسته‌های Language (69.45)، Retrieval (61.26) و Arts (44.66) بوده. ولی تو Knowledge هنوز Jev با 51.4 جلوتره و تو Tools هم نسخهٔ قبلی کمی بهتر بوده. دو عامل اصلی این پیشرفت: برداشتن causal mask (یعنی هر توکن می‌تونه کل ورودی رو ببینه، نه فقط توکن‌های قبلی‌ش رو) و آموزش با دادهٔ بیشتر، مخصوصاً از مجموعهٔ tasksource.

یه نکتهٔ مهم برای کسایی که می‌خوان سرو کنن: این چک‌پوینت یه lm_head کامل نداره و به جاش یه فایل readout.safetensors با یه decision head به ابعاد [255, 5120] داره. لایه‌های full-attention هم باید تو حالت noncausal اجرا بشن، وگرنه نتیجه‌ها با ارزیابی منتشر شده جور درنمیاد. برای همین پیشنهاد شده از همون کد inference که کنار مدل اومده استفاده کنید. اگه سیستم سروتون Qwen3_5ForConditionalGeneration می‌خواد، باید یه export جدا بسازید که هم readout رو به ردیف‌های vocabulary نگاشت کنه و هم رفتار attention رو نگه داره.

استفاده‌ش ساده‌ست: یه سؤال با چند معیار تعریف می‌کنید، متن ورودی رو می‌دید و احتمال هر گزینه رو می‌گیرید:

model = DecisionModel(checkpoint, device="cuda")
row = {"state": "My integration keeps failing. Please help.", "question": question}
probabilities = model.predict([row])[0]
print(answer(question, probabilities))

مدل تصویر هم قبول می‌کنه. هر تکهٔ 32×32 پیکسلی یه توکن حساب می‌شه و سقف پیش‌فرض max_image_pixels حدود 2048×2048 هست. ولی کل متن و تصویرهای یه تصمیم باید زیر 8,192 توکن باشه و اگه بیشتر بشه ورودی رد می‌شه، نه کوتاه. آموزش و ارزیابی با سقف 512×512 انجام شده، پس رزولوشن بالاتر جزئیات بیشتری نگه می‌داره ولی از توزیع آموزش بیرون می‌زنه و حافظه و تأخیر بیشتری می‌خواد.

نکات کلیدی:

• امتیاز Decision Index از 56.4 به 61.56 رسیده، در مقابل 57.9 برای Jev.
• مدل پایه Qwen3.8-27B ه و وزن‌ها حدود 49 GiB حافظهٔ GPU می‌خوان.
• خروجی یه decision head با ابعاد [255, 5120] هست، نه lm_head کامل.
• سقف ورودی هر تصمیم 8,192 توکنه و ورودی بلندتر رد می‌شه.
• برای بازتولید دقیق ارزیابی باید max_image_pixels=512 * 512 بذارید.