‏وضعیت context engineering در ۲۰۲۶

Drew Breunig، نویسندهٔ کتاب The Context Engineering Handbook، تو یه سخنرانی تو AGNTCon مرور می‌کنه که context engineering (یعنی انتخاب درست اطلاعاتی که به مدل می‌دیم) از کجا اومده و به کجا می‌ره. حرف اصلیش اینه که هر بار سازنده‌های مدل یه قابلیت جدید می‌دن، ناخواسته یه مشکل جدید هم برای ما می‌سازن.

اواخر ۲۰۲۴ امید این بود که با کانتکست‌های میلیون توکنی (از Gemini 1.5 به بعد) همه‌چی رو بریزیم تو کانتکست و تمام. ولی نویسنده چهار حالت خرابی رو اسم می‌بره: context poisoning (یه اطلاعات غلط وارد می‌شه و مدل نمی‌تونه ازش بگذره)، context distraction (کانتکست اون‌قدر بلند می‌شه که مدل به‌جای دانش خودش به تاریخچه تکیه می‌کنه)، context confusion و context clash. مثلاً Gemini 2.5 موقع بازی Pokémon ساعت‌ها دنبال چای گشت که مال نسخهٔ FireRed بود، نه بازی خودش. بالای ۱۰۰ هزار توکن هم کارهای قبلیش رو تکرار می‌کرد.

به گفتهٔ نویسنده، جعبه‌ابزار درمان از اون موقع ثابت مونده و شش تاست: context augmentation (مثل RAG و skillها)، tool loadout (فقط ابزارهای لازم رو بده)، context quarantine (subagent با تاریخچهٔ خالی)، context pruning، context offloading (ذخیره تو فایل یا دیتابیس) و compaction. با DSPy نشون می‌ده که همهٔ این‌ها تو harness (یعنی کدی که حلقهٔ agent رو دور مدل می‌چرخونه) حدود ۱۶ خط تغییره.

تو ۲۰۲۶ تمرکز رفته سمت مدل‌هایی که خودشون harness رو می‌رونن. طبق METR، GPT-5 کارهای حدود ۳.۴ ساعته، Gemini 3.1 حدود ۶.۴ و Opus 4.6 حدود ۱۲ ساعته رو انجام می‌دن. این دو خرابی تازه ساخته: fighting the weights (مدل به ابزارهای محیط آموزشش عادت کرده و با ابزاری مثل Playwright MCP اول اشتباه می‌کنه) و context inertia (مدل روی یه فرضیه یا زیرکار گیر می‌کنه و ول نمی‌کنه).

برای context inertia، Anthropic تو harness به اسم Memento، Microsoft Research تو مقالهٔ Fork-and-Flush و تیمی از UC Berkeley تقریباً به یه جواب رسیدن: هر چند وقت یه بار کانتکست رو پاک کن ولی فایل‌ها و خروجی‌های محیط رو نگه دار. مثلاً تو Memento، agent هر یک ساعت و نیم یه یادداشت کوتاه می‌نویسه و بعد کانتکستش پاک می‌شه. توصیهٔ خود نویسنده هم اینه که حدود ۲۰۰ هزار توکن نقطهٔ هشداره و اگه agentت عجیب رفتار می‌کنه، کانتکست رو ریست کن.

پیش‌بینی نویسنده برای ۲۰۲۷ اینه که مشکل بعدی حافظهٔ agentهای شخصیه. اون شش ماهه یه agent به اسم Hermes رو اجرا می‌کنه و می‌بینه skillها و حافظه‌هاش کم‌کم پر از راه‌حل‌های متناقض می‌شن، پس به «فراموشی استراتژیک» نیاز داریم. به گفتهٔ اون، کار اصلی ما اینه که تصمیم بگیریم کجا قطعی باشیم (چی رو تو کد بذاریم) و کجا احتمالاتی (کجا بذاریم مدل تصمیم بگیره).

نکات کلیدی:

• چهار خرابی کلاسیک کانتکست: poisoning، distraction، confusion و clash
• شش ابزار درمان: augmentation، tool loadout، quarantine، pruning، offloading و summarization
• دو خرابی جدید مدل‌های agentic: fighting the weights و context inertia
• درمان context inertia: پاک کردن دوره‌ای کانتکست و نگه داشتن خروجی‌های محیط
• نویسنده حدود ۲۰۰ هزار توکن رو نقطهٔ هشدار برای ریست کانتکست می‌دونه