‏سه قرص هوش مصنوعی: تو کدومشو خوردی؟

نویسنده تو این پست می‌گه بیشتر دعواهای صادقانه سر هوش مصنوعی، در واقع دعوا سر اینه که این فناوری در آینده چقدر توانا می‌شه. برای همین چهار موضع رایج رو با یه استعاره از هم جدا می‌کنه: سه تا «قرص» که می‌تونی هیچ‌کدوم، یکی، دوتا یا هر سه‌شونو بخوری. خودش می‌گه قرص سوم رو خورده، و بیشتر آدم‌های لبِ فناوری تو آزمایشگاه‌های بزرگ هم همین‌طورن.

قرص اول یعنی جدی گرفتن کارهایی که AI همین امروز از پسش برمیاد. به گفتهٔ نویسنده اکثریت مردم حتی همین یکی رو هم نخوردن: تجربه‌شون یه ChatGPT چندسال پیشه، از ایجنت‌های کدنویسی خبر ندارن و با یه جواب غلط کل ماجرا رو مسخره می‌کنن. اون می‌گه حتی اگه پیشرفت همین‌جا وایسه، همین سطح به‌اندازهٔ خودِ اینترنت دنیا رو عوض می‌کنه، چون هزینهٔ حاشیه‌ایِ امتحان کردنش عملاً صفره.

قرص دوم، AGI، یعنی قبول کنی توانایی‌ها سریع دارن بالا می‌رن. نویسنده می‌گه با این قرص می‌فهمی بیشتر کارهای دیجیتال قابل خودکار شدنه، خیلی از شغل‌ها جابه‌جا می‌شن، رشد اقتصادی شتاب می‌گیره و قانون‌گذاری ما نه برای مهار ریسک‌ها آماده‌ست نه برای باز کردن راهِ فرصت‌ها. به نظر اون نخوردن این قرص اصلاً معقول نیست — و مشکل اینجاست که بخش زیادی از سیاست‌گذاری دستِ کساییه که نخوردنش.

قرص سوم، ASI، یعنی AI تقریباً همه‌چیزو بهتر از تو انجام می‌ده؛ نه در حد دانای کل، ولی خیلی بالاتر از سقف انسان. نویسنده اسم موضع مقابلش رو می‌ذاره «انکار هوش»: این تصور که باهوش‌تر شدن از یه جایی به بعد دیگه فایده‌ای نداره و ذهن‌ها روی «آدمِ باهوش» سقف می‌خورن. اون می‌گه صرفِ جمع کردن همهٔ توانایی‌های ذهنی آدم‌ها، سریع‌تر و ارزون‌تر و به‌صورت موازی، خودش کافیه که از همه جلو بزنه.

یه خطای پرتکرار دیگه هم به گفتهٔ نویسنده اینه که فوق‌هوش با قدرت و دانش مطلق یکی گرفته می‌شه، بعد چون قدرت مطلق محاله، کل ایده رد می‌شه. اون یادآوری می‌کنه بین «سقفی وجود داره» و «ما نزدیک سقفیم» فرق هست، و مثال قانع‌کننده‌ش قدرتِ اقناعه: کسی که فکر می‌کنه AI هیچ‌وقت متقاعدکننده‌تر از بهترین انسان نمی‌شه، عملاً فرض گرفته توانایی‌ها همین‌جا متوقف می‌شن.

جمع‌بندی نویسنده اینه که دو موضع قابل‌دفاع داریم — توقف روی AGI یا رفتن تا ASI — و دو موضع بی‌پایه: اینکه AI همین‌جا وایمیسه، یا اینکه اصلاً چیزی نیست. اون از کسایی که فقط تا AGI اومدن می‌خواد صریح بنویسن چه چیزی جلوشونو گرفته، و کم‌عجیب‌ترین کاری که فکر می‌کنن AI هیچ‌وقت نمی‌تونه بکنه چیه.

نکات کلیدی:

• قرص اول: AI همین حالا هم کلی کار رو بهتر و ارزون‌تر انجام می‌ده و اکثر مردم هنوز اینو نخوردن
• قرص دوم (AGI): رشد سریع توانایی‌ها، جابه‌جایی شغل‌ها و ناآمادگی نظام حقوقی و قانون‌گذاری
• قرص سوم (ASI): سقف هوش جایی نزدیک انسان نیست و برتری تقریباً همه‌جانبه‌ست
• «انکار هوش» و یکی گرفتنِ فوق‌هوش با دانای کل، دو خطای پرتکرار این بحث‌ن
• به گفتهٔ نویسنده فقط دو موضع معقول وجود داره: توقف روی AGI یا پذیرش ASI