‏مدل‌های زبانی حالا وزن‌های شبکه عصبی رو مستقیم می‌خونن و می‌نویسن

تو این مقاله چهار محقق از MIT CSAIL ادعا می‌کنن مدل‌های زبانی پیشرفته (اینجا GPT-6 Astra) می‌تونن وزن‌های یه شبکهٔ عصبی رو مستقیم بخونن و بنویسن. یعنی نه با optimizer و gradient descent (روش معمول آموزش که وزن‌ها رو کم‌کم با محاسبهٔ خطا تنظیم می‌کنه)، بلکه با استدلال دربارهٔ اینکه هر بخش شبکه چی حساب می‌کنه. اسم این ایده رو گذاشتن Weight-Space Programming.

بخش اول دربارهٔ خوندنه. Astra فقط از روی وزن‌های خام فهمیده چهار شبکه‌ای که با PPO (یه الگوریتم یادگیری تقویتی) آموزش دیدن، کدوم بازی رو بازی می‌کنن، بدون اینکه گزینه‌ها رو بهش بگن. از وزن‌های چند مدل diffusion شکلی که می‌سازن (دایره، مثلث، مربع) رو درآورده. حتی وقتی لایه‌های اول و آخر سه مدل زبانی کوچیک (۷٫۲ میلیون پارامتر) رو برداشتن، زبان آموزشی هر کدوم (Python، رومَجی ژاپنی، انگلیسی) رو درست گفته و همهٔ induction headها (یعنی headهایی که به مدل اجازه می‌دن متن قبلی رو تکرار کنه) رو پیدا کرده.

بخش دوم دربارهٔ نوشتنه. یه شبکهٔ PPO که ماشین رو مستقیم به سمت سراشیبی می‌برد و گیر می‌کرد، با یه بار تغییر ۳٫۵ درصد وزن‌ها توسط Astra تو همهٔ ۱۰۲۴ اجرا موفق شد. Astra برای سه بازی MinAtar از صفر شبکه نوشت که از PPO با ۱۰۰ میلیون قدم آموزش بهتر بازی می‌کرد. یه شبکهٔ Go با ۱٫۵ میلیون پارامتر هم نوشت که با ۵۰ بار اجرای آزمایشی، شبکهٔ PPO هم‌اندازه با ۲۰ میلیون بازی آموزش رو شکست داد.

مهم‌ترین آزمایش روی Qwen3.5-0.8B بود. این مدل خیلی وقتا تو یه حلقه گیر می‌کنه و یه متن رو تکرار می‌کنه تا به سقف ۳۲٬۷۶۸ توکن برسه. Astra ریشه‌ش رو به یه جهت خاص تو MLPهای لایه‌های ۱۵ و ۱۹ رسوند و فقط ۱۳۱٬۰۷۲ وزن رو عوض کرد. نتیجه: MATH-500 از ۷٫۹ به ۴۸٫۱ درصد، GSM8K از ۱۳٫۸ به ۶۷٫۱ درصد و IFEval از ۲۱ به ۶۲٫۳ درصد رسید.

محدودیت‌ها هم کم نبودن. Astra فقط از روی وزن‌ها نتونست بفهمه کدوم نسخهٔ Gemma 3 270M چاپلوس (sycophantic) آموزش دیده و فقط با دیدن الگوی attention موفق شد. روی Gemma که گیر حلقه نمی‌افته هم نتونست ریاضی رو بهتر کنه. نویسنده‌ها می‌گن ویرایش وزن می‌تونه مانعی که یه توانایی رو پنهان کرده برداره، ولی توانایی جدید اضافه نمی‌کنه. به گفتهٔ اونا محدودیت فعلی بیشتر طول context و harness هست و دارن یه benchmark براش می‌سازن.

نکات کلیدی:

• ویرایش فقط ۰٫۰۱۶ درصد وزن‌های Qwen3.5-0.8B نمرهٔ MATH-500 رو از ۷٫۹ به ۴۸٫۱ درصد رسوند.
• شبکه‌هایی که Astra از صفر برای سه بازی MinAtar نوشت، از PPO با ۱۰۰ میلیون قدم آموزش بهتر بودن.
• هیچ‌جا training loop یا گرادیان استفاده نشده؛ فقط استدلال و بعضی جاها تعداد محدودی forward pass.
• روی Gemma 3 270M ویرایش وزن هیچ پیشرفت معناداری تو ریاضی نداشت.
• همهٔ لاگ‌ها و مدل ویرایش‌شدهٔ Qwen منتشر شدن.