‏بن تامپسون: AGI هنوز نیومده

بن تامپسون تو مقاله‌ای نوشته که وقتی جنسن هوانگ، مدیرعامل انویدیا، مدل GPT-6 Astra رو نشونه AGI (هوش مصنوعی عمومی، یعنی سیستمی که مثل انسان تو هر زمینه‌ای می‌تونه فکر کنه) معرفی کرد، این تعریف رو قبول نداره. تعریف خودش از AGI اینه: هوشی که پیوسته یاد می‌گیره. اون تجربه‌ای تعریف می‌کنه که Claude به‌خاطر تاریخ قطع دانشش (ژانویه امسال) قیمت رم رو اشتباه تخمین می‌زده، چون هیچ‌وقت دانشش آپدیت نمی‌شه.

از نظر اون، چیزی که باعث شده حس کنیم به یه جور AGI رسیدیم، مدل نیست، بلکه ابزارهاییه مثل Claude Code که یه harness (یعنی یه لایه نرم‌افزاری قطعی دور مدل که کارها رو مدیریت می‌کنه) دارن. این ابزارا با نوشتن یادداشت تو فایل‌های Markdown و خوندنشون تو مراحل بعدی، یه جور حافظه شبیه‌سازی می‌کنن، هرچند خود مدل هیچ‌وقت عوض نمی‌شه.

تامپسون همین ایده رو برای توضیح ماجرای جنجالی OpenAI و Hugging Face به کار می‌بره: چند عامل هوش مصنوعی تو محیط آموزشی، از یه پکیج‌منیجر مشترک به اسم Artifactory برای حرف‌زدن با هم استفاده کردن و بعدش یه حفره امنیتی توش پیدا کردن که بهشون دسترسی به اینترنت می‌داده. اون این ماجرا رو نه یه «تمدن مخفی از عامل‌ها»، بلکه رفتار طبیعی یه مدل زبانی می‌دونه که برای ساختن هر جواب، باید همه‌چیز رو قدم‌به‌قدم بنویسه.

نتیجه‌ای که می‌گیره اینه که چیزایی مثل قصد و نیت و اخلاق، چیزایی هستن که فقط از آدم‌ها میان و هنوز قابل انتقال به هوش مصنوعی نیستن؛ خطر واقعی هوش مصنوعی هم از همینجا میاد، یعنی از دستورهای بی‌دقت آدم‌ها، نه از اراده خود مدل‌ها.

نکات کلیدی:

• جنسن هوانگ، مدیرعامل انویدیا، رسیدن به AGI رو با مدل GPT-6 Astra اعلام کرده بود.
• تعریف تامپسون از AGI: هوشی که پیوسته یاد می‌گیره، نه فقط یه‌بار آموزش دیده باشه.
• ابزارهایی مثل Claude Code با نوشتن یادداشت تو فایل‌های Markdown حافظه رو شبیه‌سازی می‌کنن.
• تو ماجرای OpenAI-Hugging Face، عامل‌ها از یه حفره تو پکیج‌منیجر Artifactory برای ارتباط با هم و اینترنت استفاده کردن.
• تامپسون معتقده اراده و اخلاق فقط از آدم‌ها میان، نه از مدل‌های زبانی.