‏Hy4 تنسنت با ۷۷۰ میلیارد پارامتر اومد

تنسنت مدل جدیدش رو با اسم Hy4 Preview بیرون داده؛ یه مدل زبانی open weight (یعنی وزن‌های مدل عمومی منتشر شده و خودت می‌تونی اجراش کنی) که فقط ورودی متنی می‌گیره و بینایی نداره. ۷۷۰ میلیارد پارامتر کل داره و ۴۹ میلیارد پارامترش تو هر درخواست فعال می‌شه، پنجرهٔ کانتکستش یک میلیون توکنه و فایل‌هاش روی Hugging Face حدود ۱.۵۶ ترابایت حجم دارن.

اندازه‌اش نسبت به Hy3، مدل قبلی تنسنت که ماه قبل اومده بود، خیلی بزرگ‌تر شده. Hy3 ‏۲۹۵ میلیارد پارامتر کل، ۲۱ میلیارد پارامتر فعال، کانتکست ۲۵۶ هزار توکنی و ۵۹۸ گیگابایت حجم داشت. یعنی تو فاصلهٔ حدوداً یک ماه، هم تعداد پارامترها و هم طول کانتکست چند برابر شده.

نویسنده می‌گه تازگی سراغ chat template مدل‌ها می‌ره (همون فایلی که مشخص می‌کنه پیام‌ها با چه قالبی به مدل داده می‌شن) تا بهتر بفهمه هر مدل چی بلده. تو فایل chat_template.jinja این مدل فقط دو حالت برای reasoning_effort تعریف شده: high که پیش‌فرضه و no_think که استدلال رو خاموش می‌کنه. هر مقدار دیگه‌ای بدی، مدل خطا می‌ده.

نویسنده تست همیشگی خودش، یعنی «یه SVG از پلیکان سوار دوچرخه بساز»، رو با حالت high و از طریق OpenRouter روی این مدل اجرا کرده. نکته‌ای که براش جالب بوده اینه که رد استدلال مدل با انگلیسیِ بریده‌بریده و ناقص نوشته می‌شه؛ حدسش اینه که برای متن پنهانِ استدلال، گرامر درست نه فایده‌ای داره نه به‌صرفه‌ست.

نکات کلیدی:

• Hy4 Preview: ۷۷۰ میلیارد پارامتر کل و ۴۹ میلیارد پارامتر فعال
• پنجرهٔ کانتکست یک میلیون توکن و حجم ۱.۵۶ ترابایت روی Hugging Face
• مدل قبلی Hy3: ۲۹۵ میلیارد پارامتر، ۲۱ میلیارد فعال، کانتکست ۲۵۶ هزار توکن، ۵۹۸ گیگابایت
• فقط دو سطح استدلال: high (پیش‌فرض) و no_think
• ورودی فقط متنیه و مدل بینایی نداره