پیشبینیهای ابرهوش جلو افتادن
خلاصهٔ کاملتر
به گفته مقاله، تو ماه نوامبر چند تا از محتاطترین صداها تو پیشبینی هوش مصنوعی، زمان رسیدن به superintelligence رو جلو کشیدن. Dwarkesh Patel که یه سال پیش میگفت AGI نزدیک نیست، حالا میگه هوش مصنوعی همسطح بهترین پژوهشگرهای انسانی شاید «چند ماه» فاصله داشته باشه. تیم AI Futures Project هم گفته واقعیت حدود پنج ماه از سناریوی AI 2027 جلوتره.
Anthropic یه responsible scaling policy داره، یعنی چند آستانه که با رد شدنشون اقدامات ایمنی سختتر میشه. یکیش وقتیه که هوش مصنوعی پژوهش شرکت رو حدود دو برابر سریعتر کنه. تو پروندهای که ۱۰ نوامبر برای IPO اصلاح شد، Anthropic گفت این آستانه رد شده؛ بر اساس انتظار از مدلهای آینده، نه یه اندازهگیری قطعی. خودش هم قبول کرده که بیشتر شواهدش با تأخیر خودشون رو نشون میدن و شاید سرعت گرفتن رو دیر ببینه.
دو روز بعد، بنیانگذارهای Anthropic تو یه نامه نوشتن که ساختن ایمن هوش مصنوعی شاید لازم کنه سرعت پیشرفت عمداً کم بشه، حتی به قیمت عقب افتادن از رقبا. طبق شاخص داخلی R&D automation، سهم Claude از کارهای توسعه مدل از کمتر از ۱٪ به ۲۶٪ رسیده. تو گزارش «When AI Builds Itself» هم اومده که بیش از ۸۰٪ کد merge شده تو Anthropic رو Claude نوشته.
METR که توانایی مدلهای پیشرو رو مستقل ارزیابی میکنه، بعد از چند ماه بررسی دادههای Anthropic گفته سرعت رشد امتیازها از اکتبر پارسال حدود ۱.۹ برابر شده (بازه ۱.۵ تا ۲.۸) و حدود ۸۰٪ این شتاب کار خود هوش مصنوعیه. Ryan Greenblatt گفته «جدی اشتباه کرده» و قبلاً فقط ۱.۱۵ تا ۱.۳ برابر انتظار داشته. ولی خودش هم یادآوری کرده که بخش زیادی از شواهد METR سانسور شده و باید به نویسندههاش اعتماد کرد.
تیم AI 2027 حالا میگه پژوهشگر فوقانسانی احتمالاً تو ۲۰۲۷ میرسه، مگه اینکه کسی عمداً سرعت رو کم کنه. اونا ۳۵ تا ۶۵ درصد احتمال میدن که تا قبل از ۲۰۲۸ همه کارهای اداری خودکار بشه. Jack Clark هم حالا خودبهبودی کامل رو تو ۲۰۲۷ محتملتر از ۲۰۲۸ میدونه.
استدلال Patel روی verifiability هست، یعنی اینکه درستی جواب رو بشه خودکار چک کرد. هوش مصنوعی تو ریاضی و برنامهنویسی ظرف چند سال از ضعیف به فوقانسانی رسید، چون جوابها قابل بررسی بودن. به نظر اون پژوهش هوش مصنوعی هم همینطوره: کم شدن test loss، سرعت و مصرف حافظه همه قابل اندازهگیرین. مقاله تأکید میکنه که خیلی از عددهای بزرگ برونیابی هستن، نه نتیجه قطعی.
نکات کلیدی:
- Anthropic تو پرونده IPO (اصلاح ۱۰ نوامبر) گفت از آستانه شتاب دو برابری پژوهش رد شده
- سهم Claude از کارهای توسعه مدل Anthropic از کمتر از ۱٪ به ۲۶٪ رسیده
- METR: شتاب ۱.۹ برابری (بازه ۱.۵ تا ۲.۸) و حدود ۸۰٪ این شتاب از خود هوش مصنوعیه
- Ryan Greenblatt تخمین شتاب نرمافزاری رو حدود ۴.۵ برابر میدونه
- هزینه روزانه پژوهشگرهای OpenAI روی agentهای کدنویسی از حدود ۱۰۰۰ به بیش از ۷۰۰۰ دلار رسیده
- بخش زیادی از شواهد METR منتشر نشده و برخی عددها برونیابیان




