اسکات الکساندر و معمای مدلهای وزنباز
هوش مصنوعیClaude Opus 5خلاصهٔ کاملتر
به گفتهٔ اسکات الکساندر تو وبلاگ Astral Codex Ten، ماه گذشته یه نامهٔ سرگشاده با امضای مایکروسافت، NVIDIA، OpenAI، اینتل، آمازون، متا، Hugging Face و بیش از صد شرکت دیگه در حمایت از هوش مصنوعی وزنباز منتشر شد. وزنباز یعنی سازنده وزنهای خام مدل رو رایگان در دسترس میذاره، چیزی شبیه متنباز توی دنیای نرمافزار.
نویسنده دو کفهٔ ترازو رو اینطور میچینه: از یه طرف وزنباز تنها راهیه که مدل واقعاً مال کاربر باشه، نه چیزی که شرکتها موقتاً و با قوانین خودشون در اختیارت میذارن. از طرف دیگه امکان دروازهبانی رو از بین میبره؛ هر کسی میتونه وزنها رو دانلود کنه و مدل رو دوباره آموزش بده تا هک کنه یا مشاورهٔ خطرناک بده.
جالب اینه که هیچکس علناً طرف مقابل نیست. بخشهایی از دولت ترامپ از زاویهٔ رقابت با چین به مخالفت نزدیکن ولی درخواست ممنوعیت کامل ندادن، و آنتروپیک — تنها غایب مهم اون نامه — فقط از «مدلهای وزنبازی که قابلیت خطرناک ندارن» حمایت کرده. الکساندر میگه بعضی طرفدارها گمان میکنن جامعهٔ ایمنی هوش مصنوعی پشت مخالفته، ولی بیشتر این سازمانها ساکت و بیطرف موندن.
استدلال اصلی نویسنده اینه که مرز بستهٔ فناوری حدود شش ماه از بهترین مدل وزنباز جلوتره و این فاصله سالهاست پابرجاست؛ پس حتی اگه مدلهای باز خطرناک بشن، شش ماه فرصت هشدار و آمادگی هست. نگرانی جدیتر از نظر او سوءاستفادهٔ انسانیه، اما به باورش بدنهٔ سیاسی از آمادهشدن برای تهدید بدش میاد و در عوض بعد از وقوعش شدید واکنش نشون میده.
به همین دلیل بین دو ریسک فرق میذاره: خطر تسلط ابرهوش رو باید پیشگیرانه جدی گرفت، چون یه حریف باهوش تا لحظهٔ آخر دستش رو رو نمیکنه؛ ولی هک و بیوتروریسم با مدلهای باز، قبل از اینکه فاجعهبار بشن، با اولین پسلرزه دولت رو وارد میدون میکنن. نتیجهگیریش اینه که جنگیدن روی این جبهه همهٔ سرمایهٔ سیاسی رو میسوزونه و باز هم شکست میخوره، پس بهتره فقط پیشبینی صادقانه بدن و کنار بایستن.
نکات کلیدی:
- بیش از صد شرکت از جمله مایکروسافت، NVIDIA، OpenAI و متا نامهٔ حمایت از وزنباز رو امضا کردن
- آنتروپیک امضا نکرده و فقط از مدلهای وزنباز بدون قابلیت خطرناک حمایت کرده
- فاصلهٔ مدلهای بسته با بهترین مدل باز حدود شش ماهه و سالهاست ثابت مونده
- نویسنده میگه واکنش دولتها بعد از اولین حادثه سریع و شدیده
- پیشنهادش اینه که فعالان ایمنی سرمایهٔ سیاسیشون رو صرف جبهههای بیجایگزین کنن
