Databricks برای ایجنت‌ها حافظه آورد
هوش مصنوعیخلاصهٔ کامل‌تر
تیم Databricks تو این پست از Agent Memory رونمایی کرده؛ یه حافظهٔ مدیریت‌شده برای ایجنت‌هایی که روی Agent Bricks (پلتفرم ساخت ایجنت Databricks) می‌سازی. این قابلیت الان بتاست و روی Lakebase اجرا میشه، یعنی Postgres سرورلس خود Databricks که داخل workspace خودت راه می‌افته.
به گفتهٔ نویسنده‌ها، مشکل اصلی ایجنت‌های stateless (یعنی ایجنتی که بعد از هر جلسه همه‌چی یادش می‌ره) اینه که هزینهٔ یه کار رو دو بار می‌دن. تو یه نمونهٔ واقعی، ایجنت برای جواب دادن به یه سؤال دربارهٔ مشتری‌های اصلی یه محصول ۱۱ بار tool صدا زده، ۸ تا subagent ساخته و نزدیک شش دقیقه وقت گذاشته. فردا هم همهٔ این کارها رو از اول تکرار می‌کرد. از اون طرف، ترجیح‌ها و اصلاح‌های کاربر هم با بسته شدن جلسه پاک می‌شن.
دو راه‌حل رایج هم هر کدوم یه ایراد دارن. ریختن کل تاریخچه تو context روی بنچمارک‌های متن‌باز حدود ۱۲ برابر توکن ورودی بیشتر مصرف کرده و تو تاریخچه‌های خیلی طولانی حتی دقت بدتری داشته. ساختن حافظه به دست خودت روی object storage یا vector database هم یعنی استخراج، حذف تکراری‌ها، بازیابی و کنترل دسترسی همه با خودته.
خود Agent Memory سه بخش داره. Managed sessions هر گفتگو رو با پیام‌ها و tool callها به ترتیب ذخیره می‌کنه. Managed memory چیزهای ارزشمند مثل پروفایل، ترجیح‌ها، دانش دامنه و workflowها رو نگه می‌داره و ایجنت با جستجوی ترکیبی کلمه‌ای و معنایی پیداشون می‌کنه. Memory pipelines هم تو پس‌زمینه جلسه‌ها رو خلاصه می‌کنن، تکراری‌ها رو حذف می‌کنن و فکت‌های قدیمی‌ای که با گفتگوهای جدید نقض شدن رو عوض می‌کنن.
این معماری نسخهٔ عملیاتی یه تحقیق به اسم MemCurrent از تیم تحقیقاتی Databricks هست. یافتهٔ اصلیش اینه که حافظه تو دو لایه بهتر جواب می‌ده: یه ثبت خام از اتفاق‌ها، و یه نسخهٔ خلاصه‌شده که یه پروسهٔ پس‌زمینه به‌روزش نگه می‌داره، نه خود ایجنت وسط کار. تو همون مثال بالا، بعد از ذخیرهٔ workflow تو حافظه، ایجنت یه سؤال مرتبط رو با ۲ tool call و ۴۱ ثانیه جواب داده. همین زیرساخت الان پشت حافظهٔ Genie هم هست.
دیتای حافظه مال خودته و به فریم‌ورک خاصی وابسته نیست. توسعه‌دهنده می‌تونه حافظهٔ هر کاربر رو بخونه، export کنه یا پاک کنه، و به pipeline دستور بده چی رو نگه داره و چی رو نه. برای راه‌اندازی هم زیرساخت جدیدی لازم نیست و Agent Bricks CLI این کارو تو چند دقیقه انجام می‌ده.
نکات کلیدی:
- Agent Memory الان به صورت بتا روی Agent Bricks در دسترسه و روی Lakebase (Postgres سرورلس) اجرا میشه.
- تو بنچمارک داخلی Databricks، درصد موفقیت ایجنت حدوداً سه برابر شده و مصرف توکن ۳۱ درصد کم شده.
- یه کار تکراری از ۱۱ tool call و نزدیک ۶ دقیقه به ۲ tool call و ۴۱ ثانیه رسیده.
- سه بخش اصلی: managed sessions، managed memory و memory pipelines پس‌زمینه.
- ریختن کل تاریخچه تو context حدود ۱۲ برابر توکن بیشتری نسبت به یه حافظهٔ خوب با همون دقت مصرف می‌کنه.
