Ajeya Cotra: هوش مصنوعی همین الان تحقیقات AI رو دو برابر سریعتر کرده
خلاصهٔ کاملتر
Ajeya Cotra تو این پست گزارش عمومی METR دربارهٔ شتاب تحقیقات AI تو Anthropic رو بررسی کرده. خودش رو این پروژه کار نکرده و نسخهٔ کامل گزارش رو هم ندیده. Anthropic تو S1 خودش گفته ممکنه بهزودی به آستانهٔ «پیشرفت بهشدت شتابگرفته به خاطر AI» تو Responsible Scaling Policy (سیاستی که مشخص میکنه با هر سطح خطر چه اقدامهایی لازمه) برسه. این آستانه یعنی سرعت پیشرفت دو برابر سریعترین روند قبل از کمک AI بشه و این شتاب عمدتاً به خاطر خودکارسازی تحقیق با AI باشه.
طبق گزارش METR، از اکتبر ۲۰۲۵ تا اکتبر ۲۰۲۶ پیشرفت تواناییها تو Anthropic حدوداً دو برابر سریعتر از ۱۲ ماه قبلش بوده. این با یه نسخهٔ داخلی از Epoch Capabilities Index به اسم AECI اندازهگیری شده. گزارش میگه حدود ۸۰٪ این شتاب کار AI هست، ولی بیشتر شواهد اصلی سانسور شده. نویسنده معتقده آستانه عملاً رد شده و این مهمترین خبر چند سال اخیر دربارهٔ ریسک AI هست.
نکتهٔ مهم اینه که اگه کل پیشرفت دو برابر شده، سرعت خود محققها باید خیلی بیشتر بالا رفته باشه. توانایی کلی حاصل ضرب compute multiplier ها (یعنی بهبودهای الگوریتم و معماری) و کامپیوت آموزشه. پس رشد multiplierها باید حدود ۲ تا ۳ برابر بشه. با یه مدل ساده Cobb-Douglas که نیروی کار و کامپیوت آزمایش رو هموزن میگیره، شتاب نیروی کار باید مربع اون باشه، یعنی ۴ تا ۹ برابر. چون ایدهها هم سختتر پیدا میشن، نویسنده حدس میزنه الان حدود ۱۰ برابر لازمه. کارمندهای Anthropic هم بهطور غیررسمی از حدود ۱۲ برابر حرف زدن.
به گفتهٔ نویسنده، ۱۰ برابر یعنی انگار هر محقق تو یه حباب زمانیه که به ازای هر روز بیرون، ده روز کار میکنه، نه اینکه یه تیم دهنفره داشته باشه. گزارش METR هم گلوگاه یا بازده نزولی شدیدی پیدا نکرده که جلوی جمع شدن شتاب رو بگیره. اگه شتاب نرم ادامه پیدا کنه، دو برابر شدن بعدی ۶ ماه، بعدی ۳ ماه و بعدی ۶ هفته طول میکشه که بهصورت ساده یعنی رسیدن به ابرهوش تو یه سال.
نویسنده میگه صنعت برای این وضعیت آماده نیست. حداقل پیشنیاز، امنیت در حد محافظت از وزنهای مدل در برابر دولتهاست، در حالی که OpenAI و Anthropic اخیراً توسط گروههای آماتور هک شدن. به نظرش مانیتورینگ کامل، روشهای قابل اعتماد برای alignment و زیرساخت حکمرانی برای کند کردن پیشرفت هم لازمه. در آخر هم گله میکنه که بیشتر شواهد سانسور شده و محققهای بیرونی نمیتونن خودشون دادهها رو بررسی کنن.
نکات کلیدی:
- طبق گزارش METR، پیشرفت تواناییها تو Anthropic بین اکتبر ۲۰۲۵ و اکتبر ۲۰۲۶ حدود ۲ برابر شده.
- حدود ۸۰٪ این شتاب به AI نسبت داده شده؛ یعنی حدود ۱.۸ برابر نسبت به حالت بدون AI.
- برآورد نویسنده از شتاب لازم برای محققها حدود ۱۰ برابره؛ گزارشهای غیررسمی کارمندها حدود ۱۲ برابر.
- METR گلوگاه یا بازده نزولی شدیدی پیدا نکرده که جلوی شتاب فزاینده رو بگیره.
- RSP قبلی (مه ۲۰۲۵) برای سطح AI R&D-5 حداقل امنیت ASL-4 رو لازم میدونست.




