‏آنتروپیک نزدیک خط قرمز خودش: شتاب ۱.۹ برابری تحقیقات با کمک AI

طبق این مقاله، آنتروپیک فرم S1 خودش رو (یعنی مدارکی که شرکت‌ها قبل از عرضهٔ عمومی سهام ثبت می‌کنن) اصلاح کرده و توش نوشته که recursive self-improvement (یعنی وقتی AI خودش سرعت ساختن AIهای بعدی رو بالا می‌بره) زودتر از انتظار داره نزدیک می‌شه. به گفتهٔ گزارش، AI الان بعضی از پروژه‌های تحقیقاتی داخلی رو عملاً رهبری می‌کنه.

هم‌زمان METR، یه سازمان تحقیقاتی مستقل، نتیجهٔ بررسی حدوداً ۱۱ هفته‌ای خودش رو داخل آنتروپیک منتشر کرده. اونا یه معیار به اسم ضریب شتاب ساختن، یعنی تخمین اینکه تحقیقات با کمک AI چقدر سریع‌تر از حالت بدون AI جلو می‌ره. ضریب ۱ یعنی هیچ شتابی نیست. آنتروپیک ۲ برابر رو به‌عنوان خط قرمز ایمنی تو Responsible Scaling Policy خودش گذاشته، یعنی همون قوانینی که می‌گه کی باید اقدامات ایمنی بیشتری فعال بشه.

تخمین فعلی حدود 1.9x هست، ولی بازهٔ اطمینانش خیلی پهنه و عدد واقعی ممکنه تا ۳ برابر هم برسه. نویسنده می‌گه خود این عدم قطعیت هم بخشی از ماجراست: وقتی AI بیشتر کار تحقیق رو انجام می‌ده، همون سیستم‌ها دارن شواهد سرعت خودشون رو هم تولید می‌کنن و بررسی مستقلش سخت‌تر می‌شه.

آنتروپیک می‌گه این شتاب از زیاد کردن compute آموزش نیومده. این یعنی دلیلش احتمالاً تغییرات الگوریتمی، روش‌های جدید آموزش یا workflowهای جدید agentهاست. نویسنده معتقده پیش‌بینی و کند کردن این نوع پیشرفت سخت‌تره، چون به ساختن دیتاسنتر و خریدن چیپ بستگی نداره.

بخش بزرگی از شواهدی که METR «آموزنده‌ترین» می‌دونست سانسور شده: داده‌های بهره‌وری الگوریتمی و inference، اشاره‌ها به یه agent scaffold خاص (یعنی ابزارها و محیطی که مدل باهاش مثل یه agent مستقل کار می‌کنه)، و حتی بررسی تخصیص compute که وسط کار لغو شد. گزارش‌ها از مدل‌های داخلی منتشرنشده‌ای به اسم Model 2، 3 و 4 هم حرف می‌زنن و Model 4 ظاهراً بنچمارک‌های داخلی رو طوری شکسته که اندازه‌گیری دقیقش سخت شده.

نویسنده تأکید می‌کنه که هنوز هیچ‌کس بیرون از آنتروپیک و METR نمی‌تونه ثابت کنه رشد hyperbolic (یعنی شتابی که مدام خودش تندتر می‌شه) شروع شده، چون شواهدش حذف شده. یکی از هم‌بنیان‌گذارهای آنتروپیک هم گفته افشای جزئیات به رقبا نقشهٔ راه می‌ده. منتقدها اما می‌گن این حجم سانسور، هدف یه بررسی مستقل رو زیر سؤال می‌بره.

نکات کلیدی:

• تخمین ضریب شتاب تحقیقات آنتروپیک حدود 1.9x هست و ممکنه تا 3x باشه.
• خط قرمز ایمنی آنتروپیک تو Responsible Scaling Policy روی 2x تنظیم شده.
• آنتروپیک می‌گه این شتاب از افزایش compute آموزش نیومده.
• بررسی METR حدود ۱۱ هفته طول کشید و بخش تخصیص compute وسط کار لغو شد.
• شواهد مربوط به agent scaffold و بهره‌وری الگوریتمی سانسور شده.
• Model 4 طبق گزارش‌ها حدود سپتامبر تا اکتبر آموزشش تموم شده و بنچمارک‌های داخلی رو شکسته.