چرا AGI حواس ما رو پرت میکنه
هوش مصنوعیClaude Opus 5خلاصهٔ کاملتر
نویسندهی این مقاله میگه هر بار سر سخنرانی ازش میپرسن AGI کی میرسه و هر بار معذب میشه، چون کسی تو اون اتاق نمیتونه این کلمه رو تعریف کنه. تو مرداد ۲۰۲۶ سم آلتمن به تایم گفت تا آخر سال یه سیستم داخلی دارن که خودش اسمش رو AGI میذاره، و گرگ براکمن هم موقع معرفی Astra ورود به «عصر AGI» رو تبریک گفت. به گفتهی نویسنده، AGI بیشتر یه شاهماهی قرمزه، یعنی حواسپرتی خوشبویی که آدم رو از رد اصلی دور میکنه.
سؤال اول اینه که اصلاً هوش چیه. یولیان توگلیوس نشون میده سه رشته سه جواب متفاوت دادن. روانشناسی با مدل Cattell-Horn-Carroll یه عامل کلی به اسم g بالای هرم میذاره و زیرش استدلال سیال، حافظهی کاری و سرعت پردازش رو جدا میکنه. رفتارشناسی جانوری مثال زنبور عسل رو داره: کندو رو دو مایل جابهجا کنی خودش رو پیدا میکنه، دو متر جابهجا کنی گم میشه. علوم کامپیوتر هم تعریف Legg و Hutter رو داره که میانگین کارایی روی همهی محیطهای ممکنه و اصلاً محاسبهناپذیره.
سؤال دوم اینه که آیا دو نفر از این کلمه یه چیز رو میفهمن. یان لوکان میگه هوش عمومی اصلاً وجود نداره، خودش اصطلاح AMI رو ترجیح میده و معتقده حلقهی گمشده world models هست، یعنی یه تصویر درونی از رفتار دنیای فیزیکی. دمیس حسابیس جواب میده که مغز واقعاً عمومیه و لوکان «عمومی» رو با «جهانشمول» قاطی کرده. تعریف کاری صنعت هم از منشور خود OpenAI میاد: سیستمی که تو بیشتر کارهای ارزشمند اقتصادی از انسان بهتر باشه؛ تعریفی که هوش رو با خروجی کار اندازه میگیره.
سؤال سوم اینه که اصلاً به این چیز احتیاج داریم یا نه. رادنی بروکس بحث رو میبره تو خونهای که یه سالمند باید از تخت بلند شه: ربات چندکاره برای این کار رو زودتر از ۲۰۲۸ و ربات ارزون برای گشتن تو یه خونهی شلوغ رو زودتر از ۲۰۳۵ نمیبینه. قانونش هم اینه که هر فناوری بعد از اولین دموی چشمگیر حدود یه دهه وقت میخواد تا به ۹۹.۹ درصد برسه و هر دههی بعدی فقط یه ۹ اضافه میکنه؛ کار کنار یه آدم شکننده ۴ تا ۶ تا ۹ لازم داره.
جالب اینجاست که بلز آگوئراایآرکاس، که خودش این سیستمها رو همین الان هوشمند و عمومی میدونه، قبول داره هنوز اونقدر قابل اتکا نیستن که بدون آدم بالای سرشون کار مهمی بهشون بسپری. به گفتهی او چیزی که واقعاً کم دارن حافظه، یه تکگویی درونی پیوسته و individuation هست، یعنی «یه کسِ خاص بودن». مدلی که میشه هزار بار کپیش کرد و از نو شروعش کرد، سخت میشه مسئولش دونست.
سؤال چهارم و به نظر نویسنده مهمترینشون اینه که دنیای دارای AGI اصلاً چه شکلیه. بروکس مثال Blade Runner رو میزنه که ربات بینقص ساخته بود ولی کارآگاهش از تلفن سکهای زنگ میزد. نویسنده هم یادآوری میکنه گوتنبرگ از دههی ۱۴۵۰ چاپ میکرد ولی ساختارهایی که چاپ ممکنشون کرد نسلها بعد ساخته شدن؛ بیثباتی زود میاد و دگرگونی دیر. حرف آخرش اینه که چیزهایی که واقعاً میخوایم اسم دقیق دارن: transfer، سازگاری، مقاومت و قابلیت اطمینان، و پرچم AGI فقط قایمشون میکنه.
نکات کلیدی:
- تعریف کاری صنعت از AGI از منشور OpenAI میاد: سیستمی که تو بیشتر کارهای ارزشمند اقتصادی از انسان بهتر عمل کنه.
- رادنی بروکس ربات کمکبهسالمند رو زودتر از ۲۰۲۸ و ربات ارزون برای خونهی شلوغ رو زودتر از ۲۰۳۵ محتمل نمیدونه.
- قانون بروکس: هر دهه بعد از اولین دمو یه ۹ به قابلیت اطمینان اضافه میشه و کار خونگی ۴ تا ۶ تا ۹ میخواد.
- تعریف Legg و Hutter از هوش، میانگین کارایی روی همهی محیطهای ممکنه و محاسبهناپذیره.
- شین لگ نسخهی حداقلی AGI رو حدود ۲۰۲۸ حدس میزنه، ولی یان لوکان کلاً منکر وجود «هوش عمومی» هست.
