اثبات‌های ریاضی OpenAI و واکنش تند ریاضی‌دان‌ها
هوش مصنوعیخلاصهٔ کامل‌تر
OpenAI یه سری بزرگ از نتایج ریاضی منتشر کرده که گفته میشه تعدادشون به صدها مورد می‌رسه. یکی از اینا اثباتیه که به unique games conjecture ربط داره (یعنی یه حدس معروف دربارهٔ اینکه تقریب زدن جواب بعضی مسئله‌های بهینه‌سازی چقدر سخته). یه گروه مشاور که آدمایی مثل Timothy Gowers و Edward Witten توش بودن این انتشار رو بررسی کرده.
به گفتهٔ این مقاله، ایراد اصلی ریاضی‌دان‌ها غلط بودن اثبات‌ها نیست، بلکه غریبه بودنشونه. به جای اینکه روش‌های شناخته‌شده رو ادامه بده، اثبات ساختارهای جدیدی می‌سازه، مثلاً یه «noise test» با ساختار بازگشتی که به کارهای قبلی این حوزه ربطی نداره. Scott Aaronson این روز رو یکی از بزرگ‌ترین روزهای تاریخ ریاضی خونده، ولی گفته اثبات‌ها انگار کار کسی‌ان که زیر اثر مواد روان‌گردان بوده.
اینجا یه مشکل جدی پیش میاد: اثبات ریاضی قراره قدم‌به‌قدم توسط هر آدم آموزش‌دیده‌ای چک بشه. Aaronson تعریف کرده که فقط برای بیرون کشیدن ادعای «completeness and soundness» از یه بخش مقاله، مجبور شده از یه دستیار AI کمک بگیره. یعنی روند عادی داوری علمی عملاً از کار می‌افته. یه جنبهٔ شخصی هم داره: همسر Aaronson سال‌ها روی همین حدس کار کرده بوده.
در واکنش، یه گروه از ریاضی‌دان‌ها Association for Human Mathematics رو راه انداختن و حرف اولشون اینه که «ریاضی‌دان‌ها نخواسته بودن این کار انجام بشه». نویسنده می‌گه این موضع کلی انتقاد خورده، چون ریاضی مال هیچ گروهی نیست و یه اثبات درست، درسته، فرقی نمی‌کنه کی نوشته باشه. ولی به گفتهٔ نویسنده نگرانی‌های پشتش بی‌پایه نیستن: گلوگاه بررسی، از دست رفتن بینش انسانی که اثبات‌ها یاد می‌دن، و سؤال اعتبار و بودجه.
یه نگرانی مشابه تو دنیای کریپتو هم داره شکل می‌گیره. Justin Drake پیشنهاد «bunker mode» داده، یعنی دارنده‌ها دارایی‌هاشون رو به آدرس‌های تازه‌ای ببرن که کلید عمومیشون هنوز روی زنجیره لو نرفته. ترس اینه که ابزارهای AI حفره‌های کدهای رمزنگاری و smart contractها رو سریع‌تر پیدا کنن. طبق گزارش‌ها هک یه بانک بزرگ کره‌ای هم با یه ابزار AI انجام شده. Vitalik Buterin هم به جای رد کردن، این نگرانی رو جدی گرفته.
نکات کلیدی:
- OpenAI صدها نتیجهٔ ریاضی منتشر کرده، از جمله اثباتی مرتبط با unique games conjecture.
- گروه مشاور این انتشار شامل Timothy Gowers و Edward Witten بوده.
- اثبات از یه «noise test» بازگشتی و جدید استفاده می‌کنه که بررسیش حتی برای متخصص‌ها سخته.
- گروه Association for Human Mathematics در اعتراض به این نتایج ساخته شده.
- Justin Drake تو کریپتو «bunker mode» رو پیشنهاد داده و Vitalik Buterin نگرانی امنیتی AI رو تأیید کرده.
