طرح دیریو آمودی برای مهار هوش مصنوعی؛ ایمنی یا سانسور؟
هوش مصنوعیClaude Sonnet 5خلاصهٔ کاملتر
دیریو آمودی، مدیرعامل آنتروپیک، توی مقالهای به اسم «We Must Pace The Frontier» گفته هوش مصنوعی میتونه بیماریها رو درمان کنه و اقتصاد رو متحول کنه، ولی چون قدرتمنده، ریسکهای جدی هم داره. برای همین پیشنهاد داده شرکتهای هوش مصنوعی با یه نرخ متعادل و زیر نظر رگولاسیون پیش برن، نه با سرعت فعلی.
طرح آمودی سه بخش داره: اول «ارزیابهای جاسازیشده» یعنی تیمهای بیرونی مثل METR که دسترسی شبیه کارمند به داخل شرکت داشته باشن و روند آموزش مدلها رو چک کنن. پرستون بایرن، وکیلی که ۱۸ ماهه با رگولاتورهای سانسور اینترنت دادگاهی داره، میگه قبلاً هم نهادهایی مثل GARM همین نقش رو برای شبکههای اجتماعی بازی میکردن و آخرش به فشار برای سانسور توییتر رسید.
بخش دوم «هماهنگی دموکراتیک» یعنی شرکتهای هوش مصنوعی روی استانداردهای ایمنی مشترک توافق کنن؛ اما بایرن هشدار میده اگه آنتروپیک و OpenAI روی این استانداردها هماهنگ بشن، ممکنه قوانین ضد انحصار (کارتل) رو نقض کنن. بخش سوم «هماهنگی جهانی» هم یعنی همکاری با دولتهای غیردموکراتیک هم، که به نظر بایرن عملاً غیرممکنه چون کشورهای رقیب انگیزهای برای همکاری ندارن.
بایرن برای اثبات حرفش، به پروندهی یه فروم آمریکایی سلامت روان به اسم SaSu اشاره میکنه که با وجود بلاک داوطلبانهی کاربرای بریتانیایی، رگولاتور بریتانیا (آفکام) ۴۸۰ روز پیگردش کرد، از VPN برای دور زدن بلاکش استفاده کرد، و آخرش بدون گرفتن حتی یه پوند جریمه پرونده رو بست. به گفتهی بایرن این نشون میده رگولاتورها زیر فشار سیاسی حرکت میکنن، نه بر اساس شواهد.
نویسنده نتیجه میگیره اگه آنتروپیک و OpenAI این نوع رگولاسیون رو رسماً بپذیرن، همون نهادهای سانسور اینترنتی که سالها روی شبکههای اجتماعی کار کردن، خیلی سریعتر از قبل سراغ هوش مصنوعی هم میان.
نکات کلیدی:
- طرح آمودی سه بخش داره: ارزیابهای ثابت داخل شرکت، هماهنگی دموکراتیک (رگولاسیون مشترک)، و هماهنگی جهانی با همهی دولتها.
- پرستون بایرن وکیلیه که ۱۸ ماهه با رگولاتورهای سانسور اینترنت در دادگاه درگیره.
- مثال اصلیش: آفکام یه فروم سلامت روان آمریکایی (SaSu) رو با وجود بلاک داوطلبانه، ۴۸۰ روز پیگرد کرد و آخرش هیچی نگرفت.
- نگرانی اصلی: هماهنگی آنتروپیک و OpenAI روی استانداردهای ایمنی ممکنه قوانین ضد انحصار رو نقض کنه.
- بایرن هشدار میده این رگولاسیونها ممکنه به ابزار سانسور سیاسی تبدیل بشن، شبیه قانون Online Safety Act بریتانیا.
