‏مدیرعامل Cohere طرح ایمنی آنتروپیک رو کارتل می‌دونه

آیدن گومز، مدیرعامل و یکی از بنیان‌گذارای Cohere، تو یه مقاله واکنش تندی به پیشنهاد جدید دیرو آمودی، مدیرعامل آنتروپیک، نشون داده. آمودی از دولت‌ها خواسته یه معافیت آنتی‌تراست بدن تا چندتا از بزرگ‌ترین لب‌های هوش مصنوعی بتونن روی استانداردهای ایمنی و سرعت پیشرفت این تکنولوژی با هم توافق کنن. گومز می‌گه این دقیقا تعریف یه کارتله، نه ایمنی.

به گفته‌ی گومز، این اولین‌باری نیست که تحت پوشش ایمنی، بازار قفل می‌شه. تو دهه‌ی هفتاد میلادی، آمریکا فقط سه شرکت رو مجاز کرد که رتبه‌بندی اوراق قرضه انجام بدن؛ همون سه شرکت بعدا اوراق رهنی مسموم رو رتبه‌ی AAA دادن و نقش مهمی تو بحران مالی ۲۰۰۸ داشتن. تو اروپا هم خودروسازها با بهونه‌ی ایمنی، انحصار تعمیر و فروش خودرو رو گرفتن و ۲۵ سال طول کشید تا این قانون اصلاح بشه.

طرح آمودی می‌گه فقط چندتا لب بزرگ آمریکایی حق دارن روی قوانین توافق کنن و بقیه‌ی شرکتا و حتی کشورا باید بدون چون‌وچرا ازش پیروی کنن. گومز می‌پرسه: چرا فقط کسایی که سیستم‌های غول‌پیکر ساختن باید تصمیم بگیرن چه ریسکی مهمه؟ اون مثال می‌زنه که یه مدل کوچیک با ابزار درست می‌تونه به‌اندازه‌ی یه مدل بزرگ خطرناک باشه، ولی این چارچوب فقط روی حجم محاسبات مدل‌های عظیم تمرکز داره.

گومز به‌جای این طرح، چهار اصل رو پیشنهاد می‌ده: یه چارچوب ریسک که با شواهد علمی و مشارکت چند کشور نوشته بشه، شفافیت اجباری درباره‌ی توانایی و ریسک هر مدل، تست‌های مستقل ولی فقط روی خطرهای واقعی (نه هر چیزی)، و ناظرایی که واقعا مستقل باشن و از طرف همون شرکتی که ارزیابی می‌کنن حقوق نگیرن.

اون می‌گه بحران‌های واقعی همین الانم دارن اتفاق می‌افتن؛ مثلا کلاهبرداری با صدای کلون‌شده می‌تونه حساب یه بازنشسته رو تو چند دقیقه خالی کنه، ولی توجه رسانه‌ها رو سناریوهای فرضی ابرهوش جلب کرده. گومز نتیجه می‌گیره که قوانین هوش مصنوعی یا با مشارکت گروه‌های مختلف و شواهد قابل بررسی نوشته می‌شن، یا پشت درهای بسته‌ی چندتا شرکت؛ و فقط حالت اول قابل اعتماده.

نکات کلیدی:

• دیرو آمودی، مدیرعامل آنتروپیک، خواستار معافیت آنتی‌تراست برای هماهنگی لب‌های بزرگ هوش مصنوعی روی قوانین ایمنی شده
• آیدن گومز، مدیرعامل Cohere، این طرح رو یه کارتل به بهانه‌ی ایمنی می‌دونه
• گومز به تجربه‌ی رتبه‌بندی اوراق قرضه در دهه‌ی هفتاد و انحصار خودروسازهای اروپایی در دهه‌ی هشتاد اشاره می‌کنه
• پیشنهاد گومز: چارچوب ریسک مبتنی بر شواهد، شفافیت اجباری، تست‌های هدفمند، و ناظرای واقعا مستقل