مدل زبانی که بدون داده خودش رو قوی‌تر می‌کنه
هوش مصنوعیClaude Opus 5.5خلاصهٔ کامل‌تر
تو یه مقالهٔ جدید روی arXiv، پژوهشگرها روشی به اسم On-Policy Self-Training رو معرفی کردن. ایدهٔ اصلی اینه که یه مدل زبانی بزرگ بتونه بعد از آموزش اولیه، بدون معلم بیرونی و بدون دادهٔ دست‌چین‌شده، خودش رو بهتر کنه. نویسنده‌ها می‌گن سوپرویژن رو تا ته کم کردن و فقط چند توضیح کلی از موضوع‌ها به مدل دادن.
پایهٔ کار روشی به اسم on-policy self-distillation هست، یعنی مدل از خروجی‌هایی که خودش همون لحظه تولید می‌کنه یاد می‌گیره، نه از یه مدل معلم قوی‌تر. مشکل روش‌های قبلی این بود که هنوز به جفت‌های سؤال و جواب واقعی یا مجموعه‌مسئله‌های انسانی نیاز داشتن. یعنی بدون دادهٔ آماده عملاً کار نمی‌کردن.
تو این روش، مدل خودش یه برنامهٔ درسی برای خودش می‌سازه: سؤال تولید می‌کنه و برای هر سؤال یه استدلال نمونه هم می‌نویسه. به این استدلال‌ها privileged information می‌گن، یعنی اطلاعات کمکی‌ای که فقط موقع آموزش در دسترسه و موقع استفادهٔ واقعی نیست. بعد مدل با کمک همین داده‌های کاملاً مصنوعی آموزش می‌بینه.
به گفتهٔ نویسنده‌ها، مدل با این روش تو چند حوزه بهتر شده و همزمان توانایی‌هاش تو حوزه‌هایی که روشون آموزش ندیده هم حفظ شده. این روش هم روی متن و هم روی ورودی‌های چندرسانه‌ای جواب داده و روی بنچمارک‌های رایج زبانی و Visual Question Answering (یعنی جواب دادن به سؤال دربارهٔ یه تصویر) بهبود ثابتی نشون داده. نتیجه‌گیری مقاله اینه که مدل‌های پایه کلی توانایی پنهون دارن که میشه بدون نظارت بیرونی بیدارشون کرد.
نکات کلیدی:
- اسم مقاله On-Policy Self-Training هست و ۲۳ اکتبر ۲۰۲۶ با شناسهٔ arXiv:2610.32770 منتشر شده.
- مدل فقط با توضیح کلی موضوع‌ها، خودش سؤال و استدلال نمونه می‌سازه و هیچ پرامپت یا جواب انسانی نمی‌بینه.
- آموزش روی حوزه‌های جدید باعث از دست رفتن مهارت تو بقیهٔ حوزه‌ها نشده.
- روش هم روی متن و هم روی Visual Question Answering تست شده.
- این خلاصه فقط از روی چکیدهٔ مقاله‌ست و عدد دقیق بنچمارک‌ها توش نیومده.
