۷۰۰ مقاله‌ی ریاضی OpenAI و مرز ابرهوش باریک
هوش مصنوعیClaude Opus 5.5خلاصهٔ کامل‌تر
OpenAI بیش از ۷۰۰ مقاله‌ی پژوهشی ریاضی منتشر کرده و به گفته‌ی خودش تقریباً همه‌ی نتیجه‌ها از یه پرامپت روی یه مدل منتشرنشده اومده. این‌ها تمرین کتاب درسی نیستن، مسائل سخت و حل‌نشده‌ن. یکی از نتیجه‌ها کران‌های نظری ضرب ماتریس رو بهتر کرده، یعنی همون محاسبه‌ای که زیر خیلی از کارهای کامپیوتری هست. یکی دیگه سراغ مسئله‌ای تو مواد کشسان رفته: اینکه آیا میشه فقط با اندازه‌گیری از سطح یه جسم فهمید داخلش چیه. طبق گزارش، بعضی نتیجه‌ها تو چند ساعت به دست اومدن.
نویسنده می‌گه این دستاورد واقعی و چشمگیره، ولی نشونه‌ی رسیدن ابرهوش عمومی نیست، بلکه ابرهوش باریک (narrow superintelligence)ـه، یعنی سیستمی که تو یه حوزه‌ی مشخص از آدم جلو می‌زنه ولی جاهای دیگه ناهموار عمل می‌کنه. دلیلش اینه که تو ریاضی هدف رو میشه دقیق تعریف کرد و جواب رو با قطعیت بررسی کرد. پس وقتی مدل برای جواب درست پاداش می‌گیره، تشخیص «درست» آسونه، حتی اگه راه رسیدن بهش خیلی پیچیده باشه. به گفته‌ی مقاله، OpenAI سراغ مسائل باز رفته چون بنچمارک‌های ریاضی موجود دیگه اشباع شده بودن.
سؤال ناجور اینجاست: کد هم قابل بررسیه، یا اجرا میشه یا نه، تست‌ها یا پاس می‌شن یا نه، و همه‌ی آزمایشگاه‌ها کلی روی مدل‌های کدنویسی سرمایه‌گذاری کردن. اگه پاداش قابل‌بررسی به‌اضافه‌ی پول برای ابرهوش کافی بود، کدنویسی باید جزو اولین جاها بود. ولی نیست. مهندس‌ها هنوز کد هوش مصنوعی رو تو محیط‌های zero-trust (یعنی جایی که دسترسی کد به سیستم محدود شده) اجرا می‌کنن و به eval تکیه می‌کنن. نویسنده می‌گه مشکل تولید کد نیست، قضاوته.
مثال مقاله: هوش مصنوعی یه قابلیت جست‌وجوی سند می‌سازه، کار می‌کنه و تست‌ها پاس می‌شن. بعد یکی می‌پرسه اگه دسترسی یه کاربر به یه سند لغو بشه چی؟ ممکنه ایندکس یا جواب کش‌شده هنوز اون محتوا رو نشون بده. یعنی یه مشکل حریم خصوصی که تست‌ها نگرفتن، چون کسی به فکرش نرسیده بود. به گفته‌ی نویسنده، هوش واقعی همین پیدا کردن سؤاله، نوشتن تستش بعدش کار ساده‌ایه.
هرچی از حوزه‌های منطقی و رسمی دورتر بشی، فاصله بیشتر میشه. تو همون مثال، وقتی جست‌وجو خوب کار کنه، مشتری ممکنه دو سند متناقض پیدا کنه و ندونه کدوم به‌روزه. حل این مشکل یعنی فهمیدن اینکه صاحب اطلاعات کیه و کدوم نسخه معتبره، که معمولاً بین چند تیم پخشه. نویسنده می‌گه کشف این مسئله‌ی واقعی از هر کدی باارزش‌تره و مدل‌ها هنوز این کارو به‌شکل قابل‌اعتماد انجام نمی‌دن.
آیا این فاصله دائمیه؟ نویسنده می‌گه هنوز کسی نمی‌دونه. آزمایشگاه‌ها فکر می‌کنن فقط مسئله‌ی زمان و سرمایه‌ست، ولی فعلاً شواهد خلافش رو نشون می‌ده: کدنویسی ابزاری شده که سریع تولید می‌کنه ولی هنوز آدم باید اشتباهاتش رو بگیره. به نظر نویسنده، نکته‌ی مهم اینه که هر مسئله‌ای فقط به هوش خام بستگی نداره و قضاوت طراحی سیستم و شم کسب‌وکار به context گره خوردن.
نکات کلیدی:
- OpenAI بیش از ۷۰۰ مقاله‌ی ریاضی منتشر کرده که بیشترشون با یه پرامپت روی یه مدل منتشرنشده تولید شدن.
- یکی از نتیجه‌ها کران‌های نظری ضرب ماتریس رو بهبود داده.
- ریاضی مناسب آموزش مدله چون هدفش دقیق تعریف میشه و جوابش با قطعیت بررسی میشه.
- OpenAI سراغ مسائل باز رفته چون بنچمارک‌های ریاضی اشباع شده بودن.
- با اینکه کد هم قابل‌بررسیه، تیم‌ها هنوز کد هوش مصنوعی رو با محیط zero-trust و eval کنترل می‌کنن.
- توانایی تو یه حوزه خودبه‌خود به حوزه‌های دیگه مثل طراحی سیستم یا کسب‌وکار منتقل نمی‌شه.
