وقتی ریاضیات چیزی رو «ثابت» میکنه که اصلاً ثابت نمیکنه!
هوش مصنوعیخلاصهٔ کاملتر
یه الگوی آشنا توی دنیای خبرهای هوش مصنوعی داره تکرار میشه: یه مقالهی آکادمیک با لمها و قضایای ریاضی منتشر میشه، بعد یه بلاگر یا روزنامهنگار اون رو با تیتری مثل «دانشمندان ریاضی ثابت کردن که هوش مصنوعی نمیتونه X رو بکنه» بازنشر میده. تیتر دست به دست میگرده، ولی مفروضات پشت قضیه گم میشن. نویسنده سه نمونهی مشخص رو بررسی میکنه که همین ساختار مشترک دارن.
نمونه اول: هوش مصنوعی نمیتونه خودش رو بهتر کنه؟
مقالهی Hector Zenil از King's College London یه سیستم دینامیکی روی توزیعهای احتمال تعریف میکنه و نشون میده که اگه نسبت دادههای تازهی خارجی به صفر برسه (یعنی α_t → 0)، مدل به یه نقطهی تعادل افتکرده میرسه. این فرمالیزاسیون پدیدهی «model collapse» هست. اما خود مقاله توی بخش ۵ صراحتاً میگه:
The results do not prove that all forms of recursive self-improvement collapse.
و ادامه میده که سیستمهایی با سیگنال خارجی پایدار، مشمول این قضیه نمیشن. AlphaZero، RLVR، و distillation از مدلهای قویتر دقیقاً همین رویکردها هستن — حلقهی آموزش اونا بسته نیست و یه منبع حقیقت خارجی داره نظارت میکنه. قضیه دربارهی سیستمیه که هیچکس داره نمیسازتش.
نمونه دوم: هالوسینیشن اجتنابناپذیره؟ Xu و همکاران در ۲۰۲۴ با یه آرگومان diagonalization از نظریهی یادگیری نشون دادن که هیچ LLMی نمیتونه همهی توابع محاسبهپذیر رو یاد بگیره. اما تعریفشون از «هالوسینیشن» اینه که مدل نتونه خروجی دقیق هر تابع محاسبهپذیری رو بازتولید کنه. با این تعریف، ماشین حساب جیبی هم روی تابع Ackermann «هالوسینیت» میکنه! خود مقاله میگه:
Knowledge-Enhanced LLMs … receive extra information about the ground truth function f other than via training samples. Therefore, Theorem 3 is inapplicable herein.
یعنی تمام رویکردهای مدرن — RAG، tool use، اجرای کد، وریفایرهای رسمی — از دامنهی قضیه خارجان. یه مقالهی دنباله در ۲۰۲۵ هم این رو تأیید میکنه که هالوسینیشن اجتنابناپذیر ریاضیه، اما میشه اون رو از نظر آماری به حداقل رسوند.
نمونه سوم: سقف ریاضی ترنسفورمرها؟
مقالهی Sikka و Sikka در ۲۰۲۵ با استناد به قضیهی time hierarchy نشون میده که یه LLM با محاسبهی O(N² · d) به ازای هر توکن نمیتونه وظایفی با پیچیدگی O(N³) یا بالاتر رو درست انجام بده. این درسته — ولی صرفاً دربارهی forward pass مجزای مدل هست. خود مقاله میگه:
While our work is about the limitations of individual LLMs, multiple LLMs working together can obviously achieve higher abilities.
یعنی agentهایی که ابزار، حافظه، و سیستمهای خارجی دارن اصلاً توی این مفروضات نمیگنجن.
الگوی مشترک اینه: مقالات اصلی دقیق، محتاط، و صادقانه مشروطان. قضایاشون واقعیان. اما بازنشرها مفروضات محدودکننده رو حذف میکنن و یه نتیجهگیری کلی میسازن که هیچوقت ثابت نشده. مهمترین چیزی که گم میشه، همون «اگر»های داخل قضیهست.
نکات کلیدی:
- سه مقالهی آکادمیک اخیر دربارهی محدودیتهای هوش مصنوعی به شکل گمراهکنندهای در رسانهها بازنشر شدن
- هر سه مقاله خودشان صراحتاً میگن که نتایجشون مشروط و محدوده است، نه مطلق
- قضیهی Zenil فقط دربارهی حلقهی بستهی آموزش بدون سیگنال خارجیه، نه همهی روشهای خودبهبودی
- قضیهی هالوسینیشن سیستمهای مجهز به ابزار، RAG و وریفایر رو کاملاً استثنا کرده
- قضیهی سقف ریاضی فقط روی forward pass ایزولهی یه ترنسفورمر اعمال میشه، نه agentهای واقعی
- گم شدن «مفروضات» توی تیترها بزرگترین آسیب رسانهای به درک عمومی از هوش مصنوعیه
