NeoHorse-1-4B: مدل کوچیکی که از تجربهی خودش درس میگیره
هوش مصنوعیخلاصهٔ کاملتر
NeoHorse-1-4B یه مدل ۴ میلیاردی از TokenRhythm هست که روی Qwen3.5-4B سوار شده و با لایسنس Apache 2.0 منتشر شده. چیزی که این مدل رو خاص میکنه معماریش نیست، روش آموزششه: بهجای یادگیری از یه دیتاست ثابت، از لاگ تصمیمهای یه سیستم routing (یعنی زیرساختی که تعیین میکنه کدوم درخواست به کدوم مدل بره) آموزش دیده.
طبق توضیح TokenRhythm، این لاگها اول از ساده به سخت مرتب شدن تا مدل رفتهرفته قویتر بشه، بعد یه مدل معلم قویتر تلاشهای NeoHorse رو زنده و همون لحظه تصحیح کرده، نه فقط جواب درست رو بعدا نشون بده. بعد از استقرار هم، نسخهی بهتر شده لاگ جدید تولید میکنه که خودش تبدیل به دیتای آموزش نسخهی بعدی میشه؛ این چرخه فعلا فقط بین دورههای آموزشیه، نه حین جواب دادن مدل به کاربر.
برای اجرای محلی، مدل رو Hugging Face با فرمت safetensors موجوده و چون تگ معماریش qwen3_5_text هست، هر ابزاری که از Qwen3.5 پشتیبانی کنه باهاش کار میکنه. رایجترین راه سرو کردنش vLLM هست: نصب vLLM با CUDA سازگار، اشاره به ریپازیتوری مدل، بالا آوردن یه سرور سازگار با OpenAI API، و بعد وصل کردن کلاینت یا ایجنت بهش. چون مدل دنسه و فقط ۴ میلیارد پارامتر داره، مصرف VRAM کمه و رو یه GPU مصرفی هم جا میشه.
تو یه تست agentic coding، مدل رو وصل کردن به یه اپ دمو (یه داشبورد هشدار سیل یخچالی) و فقط گفتن هر باگی هست پیدا کن و درستش کن، بدون هیچ اشارهای به اینکه باگ کجاست. مدل یه باگ خطرناک پیدا کرد: بعد از شبیهسازی شکست یخچال، جزئیات درست نشون داده میشد ولی هدر بالای صفحه هنوز صفر نفر تو منطقهی خطر نشون میداد. مدل با استدلال چندمرحلهای، چند فرضیه رو رد کرد تا بالاخره باگ رو پیدا و درست کرد.
تو تست خلاقانهنویسی، وضع فرق داشت. نویسنده میگه متن تولیدشده از نظر سبک و لحن قوی بود، ولی تو حفظ جزئیات مثل کشور، زبان و رابطهی خانوادگی شخصیتها ناپایدار بود و شخصیتها قاطی میشدن. تو بنچمارکهای رسمی TokenRhythm هم، NeoHorse در مقایسه با پنج مدل هموزن دیگه تو کارهای agentic و کدنویسی بالای جدوله.
نکات کلیدی:
- NeoHorse-1-4B فاینتیون Qwen3.5-4B با لایسنس Apache 2.0 هست
- بهجای دیتاست ثابت، از لاگ تصمیمهای سیستم روتینگ آموزش دیده
- چرخهی self-improvement فقط بین دورههای آموزشیه، نه حین اجرای مدل
- تو تست agentic coding یه باگ «false all clear» رو بدون راهنمایی پیدا و رفع کرد
- تو خلاقانهنویسی، سبک قوی بود ولی پیوستگی شخصیت و مکان ضعیف بود
- با vLLM و VRAM کم، رو یه GPU مصرفی هم قابل اجراست
