‏حسابیس: ما تو دامنه‌های تکینگی ایستادیم

زوی موشوویتز تو این پست سراغ مقالهٔ تازهٔ دمیس حسابیس، مدیرعامل گوگل دیپ‌مایند، با عنوان «چارچوبی برای هوش مصنوعی مرزی» رفته. حسابیس می‌گه ما تو دامنه‌های تکینگی ایستادیم و AGI رو نه شبیه اینترنت و موبایل، بلکه شبیه کشف آتش و برق می‌دونه؛ به گفتهٔ او اثر این فناوری شاید ۱۰ برابر انقلاب صنعتی باشه، اون هم با ۱۰ برابر سرعت.

درخواست مشخصش یه نهاد استانداردگذاری هوش مصنوعی مرزی داخل دولت آمریکاست، چیزی شبیه FINRA، که «آزمایشگاه‌های مرزی» رو بر اساس بنچمارک‌های فنی تعریف و ارزیابی کنه. مدل‌ها در قدم اول داوطلبانه تا ۳۰ روز قبل از عرضه برای بررسی در اختیارش قرار می‌گیرن، و اگه شرایط جدی‌تر شد، همین نهاد می‌تونه کند کردن توسعه رو بین آزمایشگاه‌ها هماهنگ کنه.

نویسنده این پیشنهاد رو زیر عنوان «کمترین کاری که می‌شد کرد» دسته‌بندی می‌کنه: در حاشیه یه بهبود واقعیه، ولی کافی نیست. به نوشتهٔ او حسابیس هیچ‌جا اسم خطر اصلی رو نمی‌بره و پشت جملهٔ «کارشناسان اختلاف‌نظر دارن» پناه می‌گیره؛ در حالی که نیت سوارز و آرون شر یادآوری می‌کنن اون اختلاف‌نظر یعنی برآوردهایی از حدود ۵٪ تا بالای ۵۰٪ برای احتمال فاجعهٔ تمام‌عیار.

ایراد ساختاری هم هست. نویسنده با پیتر وایلدفورد هم‌نظره که FINRA الگوی خوبی نیست چون ریسک اسیر شدن نهاد ناظر به دست صنعت بالاست و کنار هر FINRA یه SEC لازمه. ایلای تایر هم می‌پرسه اگه شرکتی مدلش رو اصلاً منتشر نکنه و فقط داخلی برای ساختن مدل قوی‌تر به کارش ببره، از این نظارت معافه؟ بخش بزرگی از ریسک دقیقاً همون‌جاست.

بخش دوم پست تلخ‌تره: الکس ترنر از گوگل دیپ‌مایند استعفا داده، چون گوگل قراردادی با وزارت جنگ آمریکا امضا کرده که عملاً «هر استفادهٔ قانونی» رو مجاز می‌کنه، بدون محدودیت روی سلاح خودمختار یا نظارت انبوه. بیش از ۶۰۰ نفر از کارکنان نامهٔ سرگشاده امضا کرده بودن و ترنر پتیشنی با بیش از ۲۵۰ امضا برای جف دین جمع کرد؛ قرارداد باز هم امضا شد.

آندریاس کرش، از خود دیپ‌مایند، کارنامهٔ حکمرانی این شرکت رو ردیف کرده: هیئت اخلاق مستقل ۲۰۱۴ که شرط فروش بود و عملاً رها شد، اصول ۲۰۱۸ که سلاح و نظارت رو کنار گذاشته بود، حذف همون استثناها در ۲۰۲۵ و بالاخره قرارداد پنتاگون در ۲۰۲۶. جمع‌بندی نویسنده اینه که حسابیس بابت این بیانیه قابل تقدیره، ولی وقتی کسی از دیگران چیزی می‌خواد و خودش پای تعهد ۲۰۱۸ نمی‌ایسته، حرف ارزون می‌مونه.

نکات کلیدی:

• پیشنهاد حسابیس: نهاد استاندارد مدل‌های مرزی در دولت آمریکا، شبیه FINRA، با بازبینی داوطلبانه تا ۳۰ روز قبل از عرضه
• ادعای اصلی مقاله: اثر AGI شاید ۱۰ برابر انقلاب صنعتی با ۱۰ برابر سرعت
• نقد نویسنده: طرح بهتر از هیچیه، ولی نه با شدت خطر جور درمیاد و نه استقرار داخلی مدل‌ها رو پوشش می‌ده
• الکس ترنر بعد از امضای قرارداد گوگل با وزارت جنگ استعفا داد؛ فعلاً تنها نفره
• تعهد ۲۰۱۸ دربارهٔ سلاح‌های خودمختار مرگبار رو حسابیس، شین لگ و جف دین امضا کرده بودن