‏آنتروپیک: ما مخالف ممنوعیت مدل‌های وزن‌باز نیستیم

داریو آمودی، مدیرعامل آنتروپیک، تو پستی با عنوان «موضع ما دربارهٔ مدل‌های وزن‌باز» می‌گه بحث چند روز اخیر — به‌خصوص گزارش‌هایی دربارهٔ احتمال ممنوع‌شدن استفادهٔ شرکت‌های آمریکایی از مدل‌های وزن‌باز چینی — باعث شده بعضی‌ها آنتروپیک رو متهم کنن که دنبال ممنوعیت این مدل‌هاست. جواب او صریحه: آنتروپیک هیچ‌وقت چنین چیزی نخواسته و مدل‌های وزن‌بازی که قابلیت خطرناک ندارن رو یه کالای عمومی می‌دونه.

به گفتهٔ او دو کابوس اصلی وجود داره. اول اینکه حکومت‌های اقتدارگرا مدل‌هایی قوی‌تر از آمریکا بسازن و ازش برای برتری نظامی دائمی یا سرکوب عمیق مردم خودشون استفاده کنن — و اینجا اصلاً مهم نیست وزن مدل باز باشه یا نه؛ خطرناک‌ترین مدل شاید همونی باشه که مخفیانه آموزش می‌بینه و فقط دست ارتش و نهاد امنیتی می‌رسه. دوم، سوءاستفاده از مدل‌های قدرتمند برای حملهٔ سایبری یا زیستی.

آمودی قبول داره مدل‌های وزن‌باز در مورد دوم ریسک بیشتری دارن، چون گذاشتن نرده‌های محافظ و رصد استفاده روشون سخته و وزنی که منتشر شد دیگه پس گرفته نمی‌شه. ولی می‌گه ممنوع‌کردن استفادهٔ کسب‌وکارهای آمریکایی این ریسک رو حل نمی‌کنه، چون بازیگر بد معمولاً یه شرکت قانونی آمریکایی نیست؛ همچین ممنوعیتی فقط شرکت‌های هوش مصنوعی آمریکا رو از رقابت مصون نگه می‌داره.

در عوض سه اقدام رو پیشنهاد می‌کنه: نفروختن تراشه و تجهیزات تراشه‌سازی قدرتمند به چین و برخورد جدی با قاچاق و دور زدن این محدودیت‌ها؛ مقابله با عملیات دیستیلیشن در مقیاس صنعتی که به چین اجازه می‌ده با تراشهٔ کمتر خودش رو به مرز فناوری آمریکا نزدیک کنه؛ و تست ایمنی اجباری برای همهٔ مدل‌های به‌قدر کافی توانمند، چه باز و چه بسته. او می‌گه این تست باید جهانی باشه و حتی چین هم باید همراهش بشه.

دربارهٔ نامهٔ سرگشادهٔ شرکت‌های فناوری هم می‌گه با بخش زیادی از اون موافقه، ولی این ادعا که مدل‌های باز لزوماً ساخت محافظ رو آسون‌تر می‌کنن یا دسترسی گسترده به قابلیت‌ها بیشتر به نفع مدافعه رو قبول نداره. به نظر او تو حوزهٔ زیستی احتمالاً تعادل به سود مهاجمه، و این چیزیه که باید با تست تجربیِ پیش از انتشار روشن بشه، نه با فرض قبلی.

نکات کلیدی:

• آنتروپیک هرگز خواستار ممنوعیت مدل‌های وزن‌باز به‌عنوان یک دسته نبوده
• نگرانی اول: مدل‌های قدرتمند در دست حکومت‌های اقتدارگرا، مستقل از باز یا بسته بودن
• نگرانی دوم: سوءاستفادهٔ سایبری و زیستی که ممنوعیت داخلی حلش نمی‌کنه
• سه پیشنهاد: کنترل تراشه، مقابله با دیستیلیشن صنعتی، تست ایمنی اجباری
• تعادل حمله و دفاع باید با آزمون تجربی روشن بشه، نه با فرض