جدال بر سر خودبهبودی بازگشتی هوش مصنوعی
هوش مصنوعیClaude Opus 5خلاصهٔ کاملتر
زوی موشوویتز تو این پست، پادکست دورکش پاتل با رایان گرینبلت رو نکتهبهنکته باز کرده؛ موضوع مرکزی هم recursive self-improvement یا همون RSI هست — یعنی وقتی خودِ هوش مصنوعی، تحقیق و توسعهٔ نسل بعدی هوش مصنوعی رو انجام بده و چرخه سریعتر و سریعتر بشه. گرینبلت از Redwood Research نقش مدافع رو داره و پاتل نقش منتقد.
به گفتهٔ نویسنده، استدلال گرینبلت اینه که تحقیق ML برخلاف ریاضیات بازخورد قابلسنجش داره: میشه دید یه تغییر واقعاً loss رو کم کرده یا نه. تخمین اون اینه که خودکارسازی کامل AI R&D حدود ۲۰۳۰ تا ۲۰۳۱ میرسه و میانهٔ تخمینش برای اینکه هوش مصنوعی تو همهٔ شغلها از آدمها بهتر بشه، سال ۲۰۳۳ هست. اگه مدلها به سطح متخصص انسانی برسن، انتظارش اینه که هر سال تقویمی معادل ۴ تا ۵ سال پیشرفت جمع بشه.
پاتل چند جا مقاومت میکنه: میگه جهشهای مفهومی رو هنوز از مدلها ندیدیم، تا ۲۰۳۰ میوههای در دسترس چیده شدن، و بخش زیادی از راز موفقیت همون «قضاوت تخصصی کدگذاریشدهٔ انسان» هست که نمیشه تکثیرش کرد. گرینبلت جواب میده که حالا محیطهای RL مهمتر از دادهٔ انسانیان و گلوگاه داده داره کمرنگ میشه. نویسنده هم طرف گرینبلته و دیدگاه پاتل رو «انکار هوش» میخونه.
عددهایی که تو بحث میاد: ظرفیت compute سالی حدود ۳.۳ برابر میشه و بهرهوری الگوریتمی هم شتاب گرفته — ۳ برابر در ۲۰۲۲ و حدود ۱۰ برابر در ۲۰۲۴ و ۲۰۲۵. گوگل هم سر خرید Mechanize با رقم ۱.۵ میلیارد دلار مذاکره میکنه، ولی هر دو طرف قبول دارن که خرج آزمایشگاهها عمدتاً compute هست، نه داده. قیمت هر توکن خروجی هم از ۲۰۲۳ تقریباً ثابت مونده؛ گرینبلت دلیلش رو ناکامی رانهای بزرگ میدونه و پاتل باگهای ریز رو مقصر میدونه.
بخش پایانی مناظره دربارهٔ اینه که «همترازی به نفع کی؟». پاتل ایراد میگیره که قانون اساسی Claude اون رو وکیلمدافع کاربر نمیدونه؛ نویسنده مخالفه و میگه دقیقاً همین که مدل یه سری خط قرمز داشته باشه، کار یه وکیل درسته. نکتهای که نویسنده باهاش موافقه اینه که ماهیت دوکاربردهٔ هوش مصنوعی، دسترسی کاملاً باز و همگانی به توانمندیهای خطرناک رو عملاً غیرممکن میکنه.
نکات کلیدی:
- گرینبلت خودکارسازی کامل AI R&D رو حدود ۲۰۳۰ تا ۲۰۳۱ و برتری هوش مصنوعی در همهٔ شغلها رو حدود ۲۰۳۳ میبینه
- اگه مدل به سطح متخصص انسانی برسه، تخمین گرینبلت ۴ تا ۵ سال پیشرفت در یک سال تقویمیه
- ظرفیت compute سالی حدود ۳.۳ برابر میشه؛ بهرهوری الگوریتمی از ۳ برابر در ۲۰۲۲ به حدود ۱۰ برابر در ۲۰۲۴ و ۲۰۲۵ رسیده
- گوگل برای خرید Mechanize سر رقم ۱.۵ میلیارد دلار مذاکره میکنه، که بیشتر یه acquihire هست تا خرید داده
- قیمت هر توکن خروجی از ۲۰۲۳ تقریباً ثابت مونده، نه اینکه بالا بره
