هینتون، لی و انگ: هوش مصنوعی باید باز بمونه
هوش مصنوعیClaude Opus 5خلاصهٔ کاملتر
تو گزارش تککرانچ از کنفرانس Ai4 تو لاسوگاس اومده که سه چهرهٔ شناختهشدهٔ این حوزه — جفری هینتون برندهٔ نوبل، فیفی لی مدیرعامل و همبنیانگذار World Labs، و اندرو انگ همبنیانگذار Coursera — سر موضوع مدلهای وزنباز موضع گرفتن. سر تاکتیکها با هم اختلاف داشتن، ولی هر سهشون برای باز موندن هوش مصنوعی استدلال کردن.
نگرانی مشترکشون اینه که یه مشت شرکت بزرگ سرعت پیشرفت رو کنترل کنن؛ همون چیزی که به گفتهٔ گزارش تو سیستمعاملهای موبایل با اپل و گوگل اتفاق افتاده و باعث میشه نوآوری کند بشه و صاحب پلتفرم تعیین کنه چی روش ساخته بشه. انگ میگه «نمیخوام دروازهبان وجود داشته باشه، چون دسترسی همهٔ ما به هوش مصنوعی رو محدود میکنه» و نسخهاش اینه که چند ارائهدهنده کنار هم رقابت کنن.
هینتون اما بین متنباز و وزنباز مرز میکشه. تو متنباز کد جلوی چشم همهست و کلی آدم میتونن باگش رو پیدا کنن، ولی انتشار وزنهای یه مدل بزرگ یه چیز دیگهست: هر کسی میتونه با هزینهای خیلی کمتر از هزینهٔ آموزش اولیه، اون مدل رو برای کارهای مخرب مثل حملهٔ سایبری بازآموزی کنه. با این حال قبول داره که «این نبرد باخته شده» و اون سد هزینهای دیگه از بین رفته.
انگ زاویهٔ دیگهای داره: به نظر او سؤال اصلی این نیست که مدلهای باز خطرناکن یا نه، بلکه اینه که کی کنترل دسترسی رو دست میگیره و ارزونترین مدل برندهٔ بازاره. هشدارش اینه که اگه مدلهای وزنباز چین تو آسیا و آفریقا و کشورهای در حال توسعه فراگیر بشن، روی برداشت میلیاردها نفر از مفاهیمی مثل دموکراسی و آزادی و حقوق بشر اثر میذارن.
لی این قاببندی رو رد میکنه و میگه ساختن یه دوگانه بین «کاملاً باز» و «کاملاً بسته» خطرناکه. مثالش فیزیک هستهایه: مقالههای علمی آزاد منتشر میشن، اورانیوم تحت نظارته و کار آزمایشگاهی یه جایی وسط این دوتاست. به گفتهٔ او لایههای مختلف اکوسیستم میتونن سطح بازبودن متفاوتی داشته باشن، مثل پروژهٔ ژنوم انسانی که دانشش بستری شد برای سود شرکتهای دارویی و پیشرفت علم با هم. هر سه هم قبول دارن یه حدی از مقررات لازمه.
نکات کلیدی:
- هر سه سخنران از باز موندن هوش مصنوعی دفاع کردن، ولی سر «چطور» اختلاف داشتن
- انگ نگران شکلگیری دروازهبانهاست و راهحلش رقابت چند ارائهدهندهست
- هینتون متنباز رو خوب میدونه ولی وزنباز رو ریسک بازآموزی ارزون برای کارهای مخرب
- هینتون میگه دیگه دیر شده و مدلهای وزنباز بخش دائمی این حوزهان
- لی میگه بازبودن طیفه نه انتخاب صفر و یک، و لایههای مختلف سطح متفاوتی لازم دارن
