Zero-Mem؛ حافظهٔ ایجنت بدون خرج توکن
خلاصهٔ کاملتر
ایجنتهای مبتنی بر مدلهای زبانی برای اینکه تو گفتوگوهای طولانی یکدست عمل کنن به حافظه نیاز دارن، ولی خیلی از سیستمها برای ادارهکردن همین حافظه دوباره خودِ مدل رو صدا میزنن. نویسندههای این مقالهٔ تازه روی arXiv میگن این کار هم توکن و زمان اضافه میبره، هم وقتی جزئیات حذف یا ادغام میشن شواهد اصلی گم میشه. سؤالی که مطرح میکنن اینه: اصلاً دسترسی ساختارمند به حافظه لازمه چیزی تولید بشه؟
جوابشون Zero-Mem ـه؛ چیزی که خودشون بهش میگن «عملیات حافظهٔ صفر-توکن»: هیچ مرحلهای جز پاسخ نهایی، مدل رو صدا نمیزنه و هیچ توکن ورودی یا خروجیای مصرف نمیکنه (محاسبات انکودر جدا حساب میشه). Zero-Mem ردّ اصلی تعاملها رو دستنخورده نگه میداره و بهجای ساختن خلاصهٔ میانی، همونها رو از دو زاویه سازماندهی میکنه.
زاویهٔ اول یه گراف موجودیت-زمینهست که ارتباطها رو بین تعاملهای مختلف نشون میده، و زاویهٔ دوم یه سلسلهمراتب زمانیه که محلیبودن گفتوگو و وضعیت هر نشست رو حفظ میکنه. برای هر پرسش، سیستم وزن این دو نما رو میسنجه، از هر دو بازیابی میکنه و ساختارشون رو دنبال میکنه تا روابط پشتیبان یا زمینهٔ اطراف رو پیدا کنه. بعدش یه کالیبراسیون قطعی، شواهد متناقض رو کنار میذاره تا جواب به ردهای بازیابیشده گره بخوره.
به گفتهٔ نویسندهها، روی بنچمارکهای پرسشوپاسخِ حافظهٔ بلند و متن بلند، Zero-Mem عملکرد رقابتی میگیره در حالی که فراخوانی مدل و مصرف توکن رو کامل از عملیات حافظه حذف کرده. با همون خوانندهٔ پاسخگو و همون بودجهٔ متن، زمان عملیات حافظه ۵۷.۶٪ کمتر از سریعترین خط پایهٔ مقایسهشدهست. آزمایشهای حذفی هم نقش هر دو نما و هماهنگی وابسته به پرسششون رو تأیید میکنه.
نکات کلیدی:
- حافظهٔ ایجنت بدون هیچ فراخوانی اضافهٔ LLM؛ فقط مرحلهٔ پاسخ نهایی مدل رو صدا میزنه
- نگهداشتن ردّ خام تعاملها بهجای ساختن خلاصهٔ میانی از گذشته
- ترکیب گراف موجودیت-زمینه با سلسلهمراتب زمانی و وزندهی وابسته به پرسش
- ۵۷.۶٪ کاهش زمان عملیات حافظه نسبت به سریعترین خط پایه
- کد و جزئیات پیادهسازی بعد از داوری همتا روی GitHub منتشر میشه




