کارخانهٔ بینش: تحقیق عمیق روی دیتا با ایجنتها
هوش مصنوعیخلاصهٔ کاملتر
تیم دیتای Photoroom سیستمی رو معرفی کرده که اسمش رو گذاشته «کارخانهٔ بینش»: یه سؤال سخت رو به صدها کوئری کوچک و قابلممیزی تبدیل میکنه که ایجنتها اجراشون میکنن و آدم درستیشون رو تضمین میکنه. به گفتهٔ ژولیت دویزابو، مدیر دیتای این شرکت، کل سیستم روی سه ستون سواره: تحقیق توی یک فایل زندگی میکنه نه توی پنجرهٔ کانتکست، هر ایجنت یه کار کوچک با کانتکست تازه میگیره، و آدم سؤال رو قاب میگیره و جواب رو تأیید میکنه.
نویسنده تأکید میکنه این معماری یه پیششرط غیرقابلچشمپوشی داره: زیرساخت دیتا باید از قبل قابلاعتماد باشه. به گفتهٔ او وصل کردن ایجنت به دادهٔ بد فقط اشتباه رو صنعتی میکنه، چون ایجنت برخلاف آدم متوجه نمیشه متریک خرابه؛ کوئری رو میزنه، نتیجه رو باور میکنه و مطمئن و خوشنگارش اشتباه مینویسه.
دلیل اینکه نمیشه کل سؤال رو به یه مدل داد، سه محدودیت ساختاریه: کیفیت استدلال با بزرگ شدن کانتکست افت میکنه، هزینه با کانتکست بالا میره چون هر توکن در هر مرحله دوباره حساب میشه، و مدلها توی کارهای چندمرحلهای گم میشن. تو مقاله اومده که هر تحقیق واقعیشون شش تا ده وظیفه و بین ۵۹ تا ۱۲۳ کوئری داشته.
قلب سیستم یه فایل مارکداون بهازای هر تحقیقه که سه بخش داره. فرانتمتر نقش تابلوی کنترل رو داره: وضعیت، حالت خروجی، مدل سابایجنتها و بودجهٔ توکن. بریف رو آدم مینویسه: هدف، مالکِ پاسخ، قابِ تصمیم بههمراه آستانهٔ اقدام و معیار توقف، دامهای شناختهشده و فهرست مرتب وظایف. لاگبوک رو هم ایجنت پر میکنه: یافتهٔ هر وظیفه، تغییرات پلن، مدت و توکن مصرفی.
دور این فایل پنج اسکیل چیده شده: یکی بریف رو با آدم همنویسی میکنه، یکی ارکستراتور خودمختاره که برای هر وظیفه یه سابایجنت با کانتکست تازه میسازه و بعد از دو شکست مدار رو قطع میکنه، یکی فقط یک وظیفه رو اجرا میکنه، یکی سنتز نهایی رو مینویسه و آخری گزارش HTML قابلاشتراک میسازه.
یه ترفند مهم اینه که هر ایجنت SQL خودش رو توی یه فایل جدا لاگ میکنه. اون فایلها بیرون کانتکست ایجنت اصلی میمونن، پس قابلممیزیان ولی هیچوقت دوباره خونده و حساب نمیشن — و همین چیزیه که کیفیت و هزینه رو با بزرگ شدن تحقیق ثابت نگه میداره.
از نظر عدد، تحقیقی که قبلاً چند روز طول میکشید حالا یک تا چند ساعت میبره و حدود ۶۰۰ تا ۷۰۰ هزار توکن مصرف میکنه، یعنی چند دلار. وقت آدم هم جلو کشیده شده: حدود پونزده دقیقه برای قاب گرفتن سؤال و چند دقیقه برای بازبینی. تیم میگه دستکم هفتهای یک بار ازش استفاده میکنه و بخشی از روال عادی کارشون شده.
مسائل حلنشده رو هم صادقانه فهرست میکنه: دسترسی داده برای کسی که تحلیلگر نیست، اینکه فایلها برای آدم غیرفنی کجا باید بمونن، کنترل هزینه در مقیاس کل شرکت، و از همه سختتر راستیآزمایی — وقتی تحلیلگر شک کنه میره SQL رو میخونه، ولی کسی که SQL بلد نیست چهطور جواب رو چک کنه؟
نکات کلیدی:
- حافظهٔ تحقیق توی یه فایل مارکداون میمونه، نه توی پنجرهٔ کانتکست
- هر وظیفهٔ اتمی به یه سابایجنت با کانتکست تازه سپرده میشه
- آدم دو سر ماجرا رو نگه میداره: نوشتن بریف و تأیید سنتز
- لاگ SQL بیرون کانتکست میمونه: قابلممیزی ولی بدون هزینهٔ دوباره
- پیششرط حیاتی: تعریف متریکها و زیرساخت باید از قبل قابلاعتماد باشه
- هزینهٔ هر تحقیق حدود چند دلار و ۶۰۰ تا ۷۰۰ هزار توکن
