‏وقتی مدل هوش مصنوعی حافظه‌اش رو اشتباه دسته‌بندی می‌کنه

یه یافته جالب در بررسی رفتار حافظه مدل‌های زبانی بزرگ: وقتی مدل مجبور می‌شه هر قدم رو با قدم‌های قبلی ادغام کنه (تجمیع اجباری)، دچار یه اشتباه ساختاری می‌شه — رویدادهایی رو کنار هم می‌ذاره که اصلاً ربطی به هم ندارن.

در آزمایش روی GPT-5.4 با مجموعه داده ARC-AGI Stream، مدل تحت تجمیع اجباری مکرراً ورودی‌های حافظه رو از دسته‌های مسئله‌ای کاملاً مجزا با هم مخلوط می‌کرد. اما وقتی آزادی داشت خودش تصمیم بگیره چی رو ادغام کنه، بعد از گذر از ۵۶۸ نمونه، به یه حافظه اپیزودیک (رویدادمحور) تمیز می‌رسید که هر ۶ نوع مسئله رو جداگانه نگه می‌داشت.

نمونه واقعی از یه ورودی حافظه ساخته‌شده توسط مدل در حالت تجمیع اجباری رو نگاه کنید:

Strategy: … (5) For each interior object, look for an exterior object
with the same shape signature… (6) If an interior object has such a
matching exterior counterpart, mark the center cell of the interior
object's bounding box with the exterior object's color.

این استراتژی ترکیبیه از دو خانواده حل مسئله کاملاً متفاوت: جستجو بر اساس شکل (از خانواده group-by-shape) و رنگ‌گذاری با کلید خارجی (از خانواده key-marker). هیچ‌کدام از این‌ها بخشی از مسئله اصلی نبودن، اما مدل اون‌ها رو به هم دوخت.

نتیجه‌گیری کلی اینه که توانایی تفکیک رویدادها در مدل وجود داره، ولی تجمیع اجباری این توانایی رو خاموش می‌کنه. در واقع، قبل از هر ادغامی، مدل باید تصمیم بگیره کدام رویدادها به هم تعلق دارن — و این تصمیم، اگر از بیرون تحمیل بشه، به حافظه‌ای مصنوعی و ناخالص منجر می‌شه.

نکات کلیدی:

• تجمیع اجباری حافظه باعث می‌شه مدل رویدادهای نامرتبط رو با هم ترکیب کنه
• GPT-5.4 با آزادی عمل، بعد از ۵۶۸ نمونه به دسته‌بندی تمیز می‌رسه
• مشکل «تزریق خانواده بیگانه» یعنی درج راهبردهایی از دسته‌های دیگه در یک ورودی حافظه
• توانایی تفکیک در مدل هست؛ اجبار بیرونی اون رو سرکوب می‌کنه