«نقشهٔ A»: سناریویی برای اینکه هوش مصنوعی خوب پیش بره
هوش مصنوعیخلاصهٔ کاملتر
اسکات الکساندر تو وبلاگش مینویسه مشکل امروز اینه که هیچکس واقعاً برنامهای نداره برای وقتی که این ماجرای هوش مصنوعی جدی از آب دربیاد. پیشنهادها همه از جنس «یهکم بیشتر مقررات» یا «یهکم کمتر» یا «هر چی پیش اومد واکنش نشون میدیم»ن، و به گفتهٔ نویسنده مشکل اصلی اینه که آدمها اصلاً نمیتونن تصور کنن «خوب پیشرفتن» هوش مصنوعی چه شکلیه.
همین شد که تیم دنیل کوکوتایلو و AI Futures Project — همونهایی که سناریوی AI 2027 رو نوشتن — این بار نقشهٔ A رو منتشر کردن. نویسنده تأکید میکنه این یه پیشبینی نیست؛ یه فهرست آرزو و نقشهٔ راهه: فرض میگیره آمریکا از یه جایی به بعد فقط تصمیمهای درست میگیره (بقیهٔ کشورها طبیعی رفتار میکنن) و بعد سالبهسال از حالا تا ۲۰۴۰ رو روایت میکنه. به گفتهٔ نویسنده، قرار بوده این سند یه «کف» باشه: وقتی یه سیاستمدار پیشنهادی میده، ازش بپرس تصویرت از مقصد چیه و آیا بهاندازهٔ نقشهٔ A خوبه.
ستون فقرات نقشه، یه رژیم نظارتی مشترک با چینه. منطقش اینه که تا وقتی رقابت ادامه داره هیچکدوم کنترلی روی اوضاع ندارن، و چین هم انگیزهٔ پذیرش داره: نگرانیهای مشابه، بهعلاوهٔ اینکه فعلاً تو این مسابقه عقبه و یه تساوی اجباری به نفعشه. چون هیچکدوم به اون یکی اعتماد ندارن، توافق باید «بدوناعتماد» باشه — یعنی تقلب توش عملاً ممکن نباشه.
مکانیزم پیشنهادی سه مرحلهست: کنترل مشترک روی عرضهٔ تراشههای جدید، ایجاد دانش مشترک از محل همهٔ تراشههای موجود، و انتقال همهشون به دیتاسنترهای امن و متقابلاً قابل بازرسی. استدلال نویسنده اینه که طراحی و تولید این تراشهها دست چند شرکت و چند کارخونهست — انویدیا، هواوی، TSMC، اینتل، SMIC — و همهشون یا تو آمریکا و چینن یا تو کشورهای وابسته. تراشههای موجود هم بیشترشون تو دیتاسنترهای غولپیکریان که پنهونکردنشون سخته؛ تیم تخمین زده میشه ۹۸.۵٪ رو ردیابی کرد.
بعدش سؤال اینه که با این توافق چیکار کنن. جواب نقشهٔ A یهجور حد وسطه: نه اونقدر تند که مدل ناهمراستا یا آشوب اجتماعی بسازه، نه اونقدر کند که خود توافق بپوسه. سه تا ریسکِ کندی شمرده شده: تجربهٔ تاریخی نشون میده پیمانهای کنترل تسلیحات دووم چندانی ندارن؛ همون ۱.۵٪ تراشهٔ ردیابینشده بعد از حدود یه دهه میتونه به برتری راهبردی برسه؛ و پیشرفت سختافزار و الگوریتم آخرش کاری میکنه که آموزش مدل خطرناک روی سختافزار دانشگاهی هم ممکن بشه و اونوقت هر توافق بدوناعتمادی بیمعنی میشه.
پس تو این سناریو از اوایل دههٔ ۲۰۳۰ سرعت آموزش بالا میره، ولی همهچیز تو دیتاسنترهای تحت نظارت انجام میشه با یه «سقف قابلیت» متحرک که هر دو کشور همزمان و هماندازه بالاش میبرن، و مدلها برای همهٔ دنیا در دسترسن. بعد وسط دههٔ ۲۰۳۰ روی مدلهایی همسطح باهوشترین آدمها مکث میکنن؛ پروندهٔ ایمنی اینجا نه بر همراستایی کامل، بلکه بر کنترل بنا شده — نگهداشتن مدل تو جعبهای که نمیتونه ازش دربیاد.
بخش میانی سند، تصویر خوشبینانهٔ چیزیه که این «کشوری از نابغهها داخل دیتاسنتر» میسازه: رشد اقتصادی دورقمی و حتی سهرقمی، یه «سود سهام شهروندی» که به توان محاسباتی گره خورده و از ۲۵ هزار دلار در سال شروع میشه، درمان بیماریها، و ابزارهای پیشبینی که تصمیمگیری سیاسی رو بهتر میکنن. همین رشد ریسک تازه هم میسازه، برای همین فعالیت اقتصادی مبتنی بر هوش مصنوعی به مناطق ویژهٔ تحت نظارت محدود میشه.
نویسنده در پایان صادقانه میگه چرا این سناریو براش مهمه: به نظرش انتخاب واقعی بین «کسبوکار عادی» و «چندتا نوآوری جالب» نیست، بلکه بین فاجعه و درمان سرطان تو ۲۰۳۵ه. به نقل از میلتون فریدمن، تغییر سیاسی واقعی فقط موقع بحران اتفاق میافته و آینده مال کسیه که وقتی بحران میرسه یه نقشهٔ آماده داشته باشه — و نقشهٔ A دقیقاً با همین روحیه منتشر شده.
نکات کلیدی:
- نقشهٔ A پیشبینی نیست؛ یه مسیر سالبهسال تا ۲۰۴۰ با فرض تصمیمهای درسته
- ستون اصلی: رژیم نظارتی مشترک آمریکا و چین، طراحیشده برای اینکه تقلب توش ممکن نباشه
- سهگام اجرایی: کنترل عرضهٔ تراشه، ردیابی تراشههای موجود، تجمیع تو دیتاسنترهای قابل بازرسی
- تخمین تیم: ردیابی ۹۸.۵٪ تراشههای موجود
- ایدهٔ «حد وسط سرعت»: کندی هم بهاندازهٔ تندی خطرناکه
- پروندهٔ ایمنی بر پایهٔ کنترل و نظارت بنا شده، نه اعتماد به همراستایی کامل
