اگه تا ابرهوش فقط یکی دو سال مونده باشه
خلاصهٔ کاملتر
نیکولا یورکوویچ تو این پست LessWrong میگه زمان رسیدن به ابرهوش (ASI، یعنی هوشی که تو تقریباً همهچیز از آدمها جلوتره) خیلی کوتاه شده. شاهد اصلیش گزارش METR دربارهٔ خودکار شدن تحقیق و توسعهٔ AI تو Anthropic هست. Anthropic هم ۱۰ نوامبر تو سند S-1 خودش نوشته به آستانهٔ RSP رسیده؛ یعنی انتظار داره سرعت پیشرفت تواناییهای AI دو برابر بشه و این بیشتر به خاطر خودکار شدن خود تحقیقات باشه.
نویسنده واکنش پیشبینیکنندهها رو مهمترین شاهد میدونه. تیم Sentinel میانهٔ پیشبینیش رو فوریه ۲۰۲۸ گذاشته، AI Futures Project یه بهروزرسانی اضطراری داده، و چند پژوهشگر شناختهشده هم گفتن احتمال ابرهوش تا ۱۸ ماه آینده بالای ۵۰ درصده. میانهٔ پیشبینی خود نویسنده، بدون هیچ کند کردن یا مداخلهای، حدود مارس ۲۰۲۸ هست. اون تخمین میزنه اگه ابرهوش تو این بازه برسه، احتمال تسلط AI حدود ۷۵ درصده.
به گفتهٔ نویسنده سه راه برای کند کردن یا توقف تو ۶ تا ۱۲ ماه هست. اول، فشار به آزمایشگاهها تا خودشون، بدون دخالت دولت، سرعت رو کم کنن. دوم، قانون یا فرمان اجرایی تو کالیفرنیا. سوم، لابی با کنگره یا دولت فدرال که به نظرش فقط بعد از یه حادثهٔ خیلی جدیتر از هک Hugging Face شدنیه. هدف دستکم یه سال عقب انداختن ابرهوشه؛ مثلاً با سقف ۱۰ درصدی compute برای تحقیقات AI یا یه سال توقف فقط در حد استفاده از مدلها (inference-only).
نویسنده میگه تلاشهای فعلی کافی نیست: حدود ۲۰ نفر تماموقت روی فشار به آزمایشگاهها، ۱۵ نفر روی کالیفرنیا و ۱۰۰ نفر روی لابی فدرال کار میکنن، و خیلیهاشون هم استراتژیای ندارن که تو ۶ تا ۱۲ ماه جواب بده. تخمینش برای موفقیت از مسیر کالیفرنیا حدود ۲۰ درصد و از مسیر فدرال ۱۰ درصده. به نظرش کار روی کنترل صادرات، جامعهسازی و پژوهش سیاستی سبک اندیشکدهها با این زمانبندی اولویت کمتری داره.
برای آدمهای فنی هم نویسنده چند اولویت پیشنهاد میده. یکی ارزیابیهای مستقل از بیرون آزمایشگاهها برای جمع کردن شواهد ریسک، مثل بررسی حادثهها و misalignment (یعنی وقتی مدل دنبال چیزی غیر از خواستهٔ ما میره). دیگه آماده کردن زیرساخت فنی توقف، مثل اندازهگیری تخصیص compute و سرعت خودکار شدن تحقیقات. سوم هم کار روی alignment و کنترل اولین «پژوهشگرهای خودکار» برای وقتی که توقف اتفاق نیفته. کارمندهای آزمایشگاهها هم به نظرش باید بیشترین دسترسی رو به ارزیابهای مستقل بدن.
خود نویسنده قبول میکنه که شرطبندیهای بلندمدت رو نباید کاملاً کنار گذاشت. تو کامنتها هم انتقاد جدی هست: ریچارد انگو میگه پست کل ادعاش رو روی برونیابی یه مدل گذاشته و خطای مدل رو حساب نکرده. آستین چن هم برعکس، احتمال کند شدن توسعه رو خیلی بالاتر، حدود ۶۰ تا ۹۰ درصد، میدونه.
نکات کلیدی:
- میانهٔ پیشبینی نویسنده برای رسیدن به ابرهوش، بدون مداخله، حدود مارس ۲۰۲۸ هست.
- Anthropic تو سند S-1 در ۱۰ نوامبر گفته به آستانهٔ تحقیق و توسعهٔ AI در RSP خودش رسیده.
- سه مسیر پیشنهادی: فشار مستقیم به آزمایشگاهها، قانونگذاری تو کالیفرنیا و لابی فدرال.
- تخمین نویسنده برای موفقیت: حدود ۲۰ درصد از مسیر کالیفرنیا و ۱۰ درصد از مسیر فدرال.
- منتقدها، از جمله ریچارد انگو، میگن این پیشبینی به یه مدل وابستهست و خطای مدل رو نادیده گرفته.




