‏دیرو آمودی خواسته صنعت هوش مصنوعی آروم‌تر پیش بره

دیرو آمودی، مدیرعامل آنتروپیک، تو یه مقاله از کل صنعت هوش مصنوعی خواسته سرعت پیشرفتشو کم کنه. اما این مقاله هیچ عدد یا سرعت مشخصی نمی‌ده؛ فقط می‌گه باید ناظرای مستقل باشن، لب‌ها با هم هماهنگ بشن، و کشورای متحد هم وارد ماجرا بشن. نویسنده‌ی این مطلب می‌گه پنج گروه مختلف هرکدوم یه برداشت متفاوت از «آروم‌تر شدن» دارن، ولی هیچ‌کدوم عدد نمی‌دن.

گروه اول پژوهشگرای تفسیرپذیریِ مدل‌ها هستن؛ ایوان هابینگر که مسئول تیم ایمنی آنتروپیکه می‌گه احتمال فاجعه‌ی هوش مصنوعی تو ده سال آینده بالای ده درصده و هنوز برنامه‌ای براش نیست. گروه دوم طرفدارای کارگرا مثل برنی سندرزن که خواستار توقف ساخت دیتاسنترهای جدیده. گروه سوم اقتصادیه، مثل اسکات بسنت که می‌گه رشد هوش مصنوعی تنها راه کنترل بدهی ملی آمریکاست.

گروه چهارم نگاه ژئوپلیتیکی داره؛ ترامپ گفته آمریکا داره تو مسابقه‌ی هوش مصنوعی از چین جلوئه و نباید عقب بمونه. گروه پنجم هم می‌گه این طرح فقط یه بهونه برای گرفتن انحصاره؛ دیوید ساکس و لینا خان -با اینکه دیدگاه‌های متفاوتی دارن- هر دو می‌گن این طرح یعنی چند شرکت بزرگ می‌خوان با اسم ایمنی، رقبای کوچیک‌تر رو از میدون به در کنن.

تنها راهی که تا حالا برای عدد گذاشتن روی سرعت پیشرفت امتحان شده، محدود کردن قدرت محاسباتی مدل‌ها بوده. تو سال ۲۰۲۳ آمریکا یه سقف ۱۰ به توان ۲۶ فلاپس گذاشت، ولی این قانون قبل از اینکه هیچ مدلی ازش رد بشه لغو شد. چند هفته بعد Grok-3 از همون سقف رد شد و امسال حدود ده مدل دیگه هم ردش می‌کنن، چون قدرت محاسباتی هرسال حدود پنج برابر می‌شه.

نکات کلیدی:

• دیرو آمودی، مدیرعامل آنتروپیک، خواستار کندتر شدن پیشرفت هوش مصنوعی شده ولی سرعت مشخصی تعیین نکرده
• پنج گروه -تفسیرپذیری مدل، کارگری، اقتصادی، ژئوپلیتیک، و مخالفان انحصار- هرکدوم یه تعبیر متفاوت از «آروم‌تر شدن» دارن
• تنها تلاش قبلی برای عدد گذاشتن، سقف محاسباتی ۱۰ به توان ۲۶ فلاپس در سال ۲۰۲۳ بود که قبل از رسیدن هیچ مدلی بهش لغو شد
• قدرت محاسباتی مدل‌ها هرسال حدود پنج برابر می‌شه، پس هر سقف ثابتی به‌سرعت بی‌اثر می‌شه