‏هوش مصنوعی کِی دیگه به آدم‌ها نیاز نداره؟

این مطلب یه گفت‌وگوی ویرایش‌شده بین Ajeya Cotra (پژوهشگر METR که روی ریسک از دست رفتن کنترل هوش مصنوعی کار می‌کنه) و Timothy B. Lee (روزنامه‌نگار و نویسنده خبرنامه Understanding AI) هست. موضوع، مفهومیه که Cotra اسمش رو گذاشته «هوش مصنوعی خودکفا»: سیستم‌هایی که با زیرساخت فیزیکی (کارخونه، معدن، فب و ربات) یکپارچه شدن، طوری که هیچ ورودی فکری یا فیزیکی از کار انسان نیاز ندارن تا جمعیت خودشون رو حفظ کنن و رشد بدن.

Cotra این رو یه نقطه مهم برای پیش‌بینی می‌دونه، چون خودکفایی یه پیش‌نیاز برای سناریوهای نگران‌کننده‌ایه که توشون هوش مصنوعی ممکنه بشر رو منقرض کنه. به گفته اون، احتمالش بیشتر از ۵۰٪ هست که این اتفاق تو ۱۰ سال آینده بیفته. در مقابل، Lee این بازه رو خیلی بعید می‌دونه؛ اون می‌گه میانه تخمینش ۵۰ ساله و کمتر از ۱۰٪ احتمال می‌ده که تو ۲۰ سال آینده اتفاق بیفته.

استدلال اصلی Lee اینه که کارهای دنیای فیزیکی همیشه بیشتر از اون چیزی که فکر می‌کنی طول می‌کشن. اون مثال ربات‌های پیک پیاده‌روِ Starship رو می‌زنه که شش سال پیش به‌نظر می‌رسید قراره همه‌جا باشن، ولی هنوز نشدن؛ مشکل بیشتر قابلیت اطمینان، هزینه تعمیر و حاشیه سود کم بوده، نه یه مانع فناورانه بزرگ.

یه محور کلیدی بحث اینه: چرا ربات‌های انسان‌نما الان به درد نمی‌خورن؟ به‌خاطر بدن بدشون یا مغز بدشون؟ Cotra بیشتر فکر می‌کنه گلوگاه، توانایی شناختیه (مثل چیزی که برای ماشین‌های خودران بود). ولی Lee دو کمبود سخت‌افزاری رو هم برجسته می‌کنه: یکی دست انسان که حسگرهای لمسی فوق‌العاده و دقت بالایی داره و برداشتنِ یه چیز بدون لهش، کار سختیه؛ و دیگری بازده انرژی، قابلیت اطمینان و هزینه تعمیر، چون بدن انسان با ورودی درست می‌تونه ده‌ها سال کار کنه ولی یه ربات نمونه‌اولیه بعد چند روز خراب می‌شه.

بحث بعدی سر مقیاسه. Cotra می‌پرسه اگه بدن‌ها به‌اندازه کافی خوب بودن و تولیدشون هر سال دو برابر می‌شد، نباید مثل پنل خورشیدی این روند رو ادامه داد؟ Lee می‌گه دو مشکل هست: پایین آوردن هزینه که با منحنی یادگیری قابل پیش‌بینیه، و قابلیت تعمیر که اگه رباتی هر هفته خراب بشه، اقتصادی نیست. اون می‌گه برای بیشتر کارها هنوز ربات‌های تخصصی ارزون‌تر و بادوام‌تر به‌علاوه یه انسان برای ۱٪ کار باقیمونده، منطقی‌تره؛ پس آدم و ربات تا مدت‌ها مکمل هم می‌مونن.

Lee یه نکته دیگه هم مطرح می‌کنه: دانش ضمنی (tacit knowledge). اون می‌گه اگه همه کارکنان صنعت نیمه‌هادی یه‌دفعه غیب بشن، حتی با وجود کتاب‌های راهنما و ماشین‌ها، شاید ده‌ها سال طول بکشه تا بقیه بشریت فب‌ها رو دوباره راه بندازن، چون کلی دانش ضمنی فقط تو ذهن آدم‌های متخصص (مثلاً تو تایوان) هست. Cotra دو پاسخ می‌ده: یا با یادگیری تقویتی این دانش رو به مدل‌ها یاد می‌دن چون اتوماتیک‌کردنش سودآوره، یا مدل‌ها انقدر به‌طور عمومی هوشمند می‌شن که با آزمون‌وخطا چیزهای جدید رو سریع کشف کنن.

در بخش پیش‌بینی، هر دو می‌گن چی رو باید تو دو سه سال آینده تماشا کرد: نمودار بهبود دست‌های رباتیک، نرخ تولید ربات‌های انسان‌نما و هزینه و قابلیت تعمیرشون. نکته جالب اینه که Lee ربات انسان‌نما رو یه «شاخص هشدار» می‌دونه: اگه پیشرفت رباتیک زیاد باشه ولی ربات انسان‌نما کم تولید بشه، یعنی آدم‌ها هنوز نقش ضروری دارن. Cotra هم می‌خواد یه نقشه دقیق از کل زنجیره تولید هوش مصنوعی داشته باشه تا ببینه چند میلیون آدم الان لازمه و این عدد چطور با گذر زمان کوچیک می‌شه.

نکات کلیدی:

• بحث سر اینه که کِی هوش مصنوعی می‌تونه بدون هیچ آدمی خودش رو سرپا نگه داره و رشد کنه
• Cotra می‌گه احتمالاً تو ۱۰ سال، Lee می‌گه میانه‌ش ۵۰ ساله و شاید هیچ‌وقت
• اختلاف اصلی: گلوگاه ربات انسان‌نما مغزشه (Cotra) یا بدن و دست و قابلیت تعمیرش (Lee)
• دانش ضمنیِ متخصص‌های صنعت نیمه‌هادی یه مانع بزرگ برای خودکارسازیه
• شاخص‌های تماشا: نرخ تولید ربات انسان‌نما، هزینه و قابلیت تعمیرشون، و نقشه نیروی انسانی لازم برای کل زنجیره