دو نوع test-time scaling: وقتی مدل از سقف آموزشش جلوتر میره
خلاصهٔ کاملتر
جیمز تیلمن تو این مقاله از Forethought یه تفکیک مهم رو مطرح میکنه. test-time scaling (یعنی مدل موقع جواب دادن محاسبهٔ بیشتری خرج کنه تا جواب بهتری بده) معمولاً یه مهارت یادگرفتهست. مثلاً طول chain-of-thought تو مدلهایی که با RLVR (یادگیری تقویتی با پاداشی که درستیش قابل بررسیه) آموزش دیدن، یا تعداد ایجنتها تو یه swarm. این روشها موقع آموزش برای هر تسک یه سقف محاسبه دارن.
حالا دو حالت پیش میاد. فرض کن مدل موقع آموزش حداکثر ۱۰۰ هزار توکن فکر کرده. تو حالت اول، بیشتر از ۱۰۰ هزار توکن دیگه کمکی نمیکنه؛ نویسنده میگه o1 و R1 با روشهای اولیهٔ RLVR همین وضع رو داشتن. تو حالت دوم، یه میلیون یا یه میلیارد توکن هم هنوز عملکرد رو بهتر میکنه. اسم این حالت دوم compute extrapolation هست. برای سنجیدنش دو معیار پیشنهاد میده: سقف (تا چند برابر محاسبهٔ آموزش، عملکرد هنوز بالا میره) و شیب (بعد از اون مرز، رشد چقدر کندتر میشه).
به گفتهٔ نویسنده، اولین پیامدش اینه که سقف کارهای خیلی بزرگ AI سریعتر بالا میره. دیگه لازم نیست برای هر تسک سنگین، همونقدر موقع آموزش هم خرج کرده باشی. مثالش AlphaGo Zero هست که موقع آموزش حدود ۰.۴ ثانیه برای هر حرکت فکر میکرد، ولی تو مسابقه حدود یه دقیقه؛ یعنی سقفی دستکم ۱۰۰ برابری. نویسنده تخمین میزنه بدون این ویژگی، آموزشش ۱۰ تا ۵۰ برابر گرونتر درمیاومد.
پیامد دوم مربوط به ایمنیه. برای اینکه مطمئن بشی یه مدل نمیتونه یه کار خطرناک (مثلاً تو حوزهٔ CBRN) انجام بده، قبلاً کافی بود تا سقف محاسبهٔ آموزش امتحانش کنی. حالا معلوم نیست تا کجا باید خرج کنی، پس این ارزیابیها خیلی گرون یا عملاً ناممکن میشن. پیامد سوم اینه که رقابت خرج کردن از زمان آموزش میره سمت زمان استفاده، و ممکنه میلیونها دلار فقط روی یه تسک تحقیقاتی خرج بشه تا یه شرکت اول برسه.
نویسنده میگه RLVR اواخر ۲۰۲۴ تقریباً این ویژگی رو نداشت، ولی از اواخر ۲۰۲۵ تکنیکهای compaction (یعنی فشرده و خلاصه کردن کانتکست مدل وسط کار) اونو ممکن کردن. مقالهٔ The Markovian Thinker نشون داد روشی به اسم Delethink، که بعد از هر ۸ هزار توکن همهچیز جز ۴ هزار توکن آخر رو پاک میکنه، با بیش از ۴ برابر بودجهٔ آموزش هم هنوز بهتر میشه. Reasoning Cache هم از آموزش با ۱۶ هزار توکن به نیم میلیون توکن رسیده.
برای مدلهای تجاری شواهد غیرمستقیمه: OpenAI مدل GPT-5.1-Codex-Max (نوامبر ۲۰۲۵) رو اولین مدلی معرفی کرد که ذاتاً با compaction آموزش دیده، و Opus 4.6 (فوریهٔ ۲۰۲۶) تو بنچمارک MirrorCode بعد از یه میلیارد توکن و دهها compaction هنوز داشت نتیجهش رو بهتر میکرد. نویسنده فکر میکنه سیستمهای چندایجنتی این سقف رو از این هم بالاتر میبرن، و این پدیده باید جدی اندازهگیری بشه.
نکات کلیدی:
- compute extrapolation یعنی بهتر شدن مدل با محاسبهای بیشتر از سقف محاسبهٔ هر تسک تو آموزش
- مرز مقایسه، صدک ۹۹ محاسبهٔ آموزش تعریف شده تا چند تسک استثنایی نتیجه رو خراب نکنن
- AlphaGo Zero سقف دستکم ۱۰۰ برابری داشت: ۰.۴ ثانیه در آموزش در برابر حدود یه دقیقه تو مسابقه
- Delethink با بیش از ۴ برابر بودجهٔ آموزش هنوز بهتر میشد و سقف مشخصی نشون نداد
- ارزیابی قابلیتهای خطرناک ممکنه فقط بتونه بگه «تا فلان بودجه، مدل این کارو نمیتونه»




