آستانه دو برابری Anthropic: آیا هوش مصنوعی خط قرمز رو رد کرده؟
خلاصهٔ کاملتر
Responsible Scaling Policy چارچوب داخلی Anthropic برای تصمیمگیری درباره اینه که کِی توانایی مدلها اقدامات ایمنی سختتری لازم داره. یکی از محرکهاش آستانه دو برابریه: اگه مدلها سرعت تحقیق و توسعه هوش مصنوعی رو حدوداً دو برابر کنن، دیگه روند عادی بررسی کافی نیست و باید کنترلها سفتتر بشن.
گروه مستقل METR حدود یازده هفته، از اواسط آگوست تا اواخر اکتبر ۲۰۲۶، داخل سیستمهای Anthropic کار کرده. این گروه به بنچمارکهای داخلی، آمار compute، نظرسنجیهای کارمندان و مصاحبه با حدود ۱۵ محقق دسترسی داشته. سؤال اصلیش این بود که آیا هوش مصنوعی داره ساختن هوش مصنوعی رو سریعتر میکنه یا نه. این همون چرخه recursive self-improvementه، یعنی هوش مصنوعی به ساخت نسخه بهتر خودش کمک کنه و این چرخه از توان انسان برای بررسی ایمنی جلو بزنه.
به گفته METR، سرعت بهتر شدن مدلهای Anthropic حدود ۱.۹ برابر دوره مارس ۲۰۲۴ تا اکتبر ۲۰۲۵ هست، با بازه ۱.۵ تا ۲.۸. حدود ۸۰ درصد این شتاب به کمک هوش مصنوعی به تحقیق نسبت داده شده، نه به compute بیشتر. METR گلوگاه مشخصی هم تو داده، الگوریتم یا compute پیدا نکرده که تا ۱۲ ماه آینده جلوی این روند رو بگیره، هرچند خودش میگه نظرش درباره این موضوع چند بار عوض شده.
مشکل اینجاست که Anthropic بخشی از مهمترین شواهد رو سانسور کرده، از جمله جزئیات ادعای compute و تحلیل گلوگاهها. یعنی مردم نتیجهگیریها رو میبینن ولی مدرکش رو نه. برای گزارشی که دقیقاً داره رد شدن یه خط ایمنی رو میسنجه، همین فاصله بین ادعا و مدرک باعث نگرانی محققهای بیرونی شده.
گزارش از سه مدل داخلی منتشرنشده به اسم Model 2، Model 3 و Model 4 هم اسم میبره. Model 4 اولین مدلیه که تو هر ۱۵ بنچمارک بالای ۵۰ درصد گرفته. کارمندا هم گفتن بهرهوریشون از ۱.۲ برابر با Claude 3.7 Sonnet به حدود ۱۲ برابر با Model 4 رسیده، ولی METR این داده خوداظهاری رو ضعیف میدونه و تو مصاحبهها عدد نزدیک ۲ برابر بود. Dario Amodei اوایل سال این اثر رو فقط ۱۵ تا ۲۰ درصد تخمین زده بود.
پس آیا خط رد شده؟ هنوز معلوم نیست. عدد وسط نزدیک دو برابره ولی بازه از دو طرف ازش رد میشه و METR میگه عدد واقعی میتونه حتی ۱.۳ باشه. system card مدل Haiku 5.5 هم عدد ۱.۷ رو گزارش کرده بود و METR فاصله رو به حساب کردن مدلهای داخلی نسبت میده. با اضافه کردن OpenAI و Google، عدد کل صنعت حدود ۱.۴ برابر دراومد.
نکات کلیدی:
- آستانه ایمنی Anthropic روی شتاب دو برابری تحقیق و توسعه هوش مصنوعی تنظیم شده.
- تخمین METR حدود ۱.۹ برابره، با بازه ۱.۵ تا ۲.۸.
- حدود ۸۰ درصد شتاب به کمک هوش مصنوعی نسبت داده شده، نه افزایش compute.
- system card مدل Haiku 5.5 عدد ۱.۷ برابر رو گزارش کرده بود.
- عدد کل صنعت با حساب OpenAI و Google حدود ۱.۴ برابره.
- شواهد مربوط به compute و گلوگاهها توسط Anthropic سانسور شده.




