وقتی حذف اسمت از داده‌ها کافی نیست
هوش مصنوعیخلاصهٔ کامل‌تر
تریستن باکمستر، ریاضی‌دان دانشگاه نیویورک، یه سال تمام رو مسئلهٔ ناویر-استوکس -یکی از هفت مسئلهٔ جایزهٔ هزارهٔ ریاضی- کار کرد و هر پیش‌نویس و بن‌بستش رو تو Codex (ابزار کدنویسی OpenAI) ثبت می‌کرد. اثباتش ۲۲ اوت تو Lean تأیید شد، ولی قبل از انتشار چند هفته صرف تمیز کردن مقاله کرد. یکشنبه‌ای، OpenAI باهاش تماس گرفت: خودشون همون مسئله رو حل کرده بودن، دقیقاً از همون مسیر، و ازش خواستن براشون بنویستش.
به گفتهٔ OpenAI، اونا فقط شایعه‌ای شنیده بودن که «انتروپیک یه مسئلهٔ هزاره رو حل کرده» و از اول سپتامبر خودشون کنجکاو شدن ببینن مدلشون از پسش برمیاد یا نه؛ حدود ۱۰هزار ایجنت رو ۸۸ ساعت رو این مسئله گذاشتن و حلش کردن. باکمستر می‌گه وقتی پرسیده مدل به سشن‌هاش دسترسی داشته، جواب روشنی نگرفته. نویسنده تأکید می‌کنه هیچ مدرکی نیست که داده‌های باکمستر واقعاً استفاده شده باشه.
نکتهٔ اصلی مقاله اینه: حذف اسم و ایمیل از یه سشن فقط وقتی جواب می‌ده که داده‌ت تو یه ازدحام گمنام باشه -مثل میلیون‌ها نفری که می‌پرسن چطور یه div رو وسط‌چین کنن. ولی وقتی ایده‌ت به‌قدری نادره که شاید فقط چهار نفر تو دنیا اون دنبالهٔ خاص از سؤالا رو بپرسن، خودِ الگوی سؤال پرسیدنت تبدیل به هویتت میشه. به قول نویسنده: «هرچی ایده‌ت کمیاب‌تر باشه، خودِ ایده بیشتر تبدیل به اطلاعات شناسایی‌کننده میشه.»
نویسنده دو تا نتیجه می‌گیره: اول اینکه تنها راه محافظت واقعی برای صاحبای ایده‌های ارزشمند اینه که داده‌شون رو جایی نگه دارن که خودشونه و مدل رو بیارن پیش داده، نه برعکس. دوم اینکه صنعت به یه سیستم ردیابی منشأ ایده‌ها نیاز داره -یه «رسید» ماشین‌خوان که نشون بده هر نتیجه از کجا اومده- چون صرف گفتن «ما از پرامپت‌های شما استفاده نکردیم» دیگه کافی نیست. در پایان تأکید می‌کنه نباید از این ابزارا دست کشید، چون همین ابزارا به باکمستر کمک کردن نتیجه‌ای بگیره که دو سال پیش علمی-تخیلی به نظر می‌رسید.
نکات کلیدی:
- مسئلهٔ ناویر-استوکس یکی از هفت مسئلهٔ جایزهٔ هزارهٔ ریاضیه؛ اثبات باکمستر ۲۲ اوت ۲۰۲۶ تو Lean تأیید شد
- OpenAI با حدود ۱۰هزار ایجنت و ۸۸ ساعت پردازش، از همون مسیر به همون جواب رسید
- حذف اسم و ایمیل فقط وقتی کار می‌کنه که داده‌ت تو یه جمعیت بزرگ گمنام باشه، نه وقتی ایده‌ت منحصربه‌فرده
- پیشنهاد نویسنده: نگه‌داشتن داده پیش خودت و آوردن مدل به سمت داده، به‌جای فرستادن داده به مدل
- صنعت به یه رکورد ماشین‌خوان از منشأ نتایج نیاز داره، نه فقط یه سیاست حریم خصوصی
