Agentهای هوش مصنوعی بدون context گم میشن
هوش مصنوعیClaude Sonnet 5خلاصهٔ کاملتر
به نوشته آمپلیتیود (Amplitude)، وقتی به یه Agent هوش مصنوعی یه مشت دیتای خام بدی، خودش نمیفهمه این عددها چه معنایی دارن. مثلاً اگه یهو فروش یه محصول بره بالا، آدم فوری میفهمه این به خاطر یه تخفیف موقت یا مناسبت فصلیه، ولی Agent این جهش رو یه روند بلندمدت در نظر میگیره و پیشنهاد میده تولید رو زیاد کنی؛ نتیجهش انبار پر از جنس اضافه و هدررفت منابعه.
راهحلی که پیشنهاد میشه ساختن یه «لایه معنایی» (semantic layer) هست، یعنی جایی که معنی هر ستون و رویداد دیتا به زبون ساده و با همون کلمههایی که تیم تو Slack و جلسهها استفاده میکنه توضیح داده میشه. مثلاً یه رویداد به اسم «GHI completed» ممکنه برای آدمها یعنی «پایان مرحله نصب راهنمای خانگی» باشه، ولی Agent بدون این توضیح اصلاً نمیفهمه باید دنبال همین رویداد بگرده.
تیم داده آمپلیتیود برای آماده کردن محصول attribution بازاریابیشون، همه ستونهای استفادهشده رو تعریف کردن، فیلدهای منسوخ و تکراری رو علامت زدن و براشون مترادف اضافه کردن. برای شروع هم از خود هوش مصنوعی برای نوشتن پیشنویس تعریفها کمک گرفتن و بعد صاحبان داده اونا رو بازبینی کردن. نتیجه این بود که Agentشون تونست ۸۰ تا ۹۰ درصد سوالها رو درست جواب بده و ۱۰ تا ۲۰ درصد باقیمونده هم با دستورالعملهای اختصاصی تنظیم شد.
نویسنده تاکید میکنه که دادن کل دیتابیس به Agent فقط باعث گمراهیش میشه؛ بهتره برای هر سوال مشخص، فقط دیتای مرتبط رو در اختیارش بذاری. مثلاً برای سوال «چرا کاربرای اروپایی اپ موبایل دارن ریزش میکنن؟» فقط لاگهای استفاده، مکالمههای پشتیبانی و دلایل لغو اشتراک همون بخش کافیه، نه کل دیتابیس جهانی. در آخر هم پیشنهاد میده حتی با یه context خوب، آدمها همچنان جوابهای Agent رو چک کنن تا اعتماد به این ابزارها بیشتر بشه.
نکات کلیدی:
- بدون context، Agentهای هوش مصنوعی جهشهای موقت رو با روند بلندمدت اشتباه میگیرن
- لایه معنایی (semantic layer) معنی هر ستون و رویداد دیتا رو به زبون تیم توضیح میده
- آمپلیتیود با ساختن این لایه دقت جوابهای Agentش رو به ۸۰-۹۰٪ رسوند
- محدود کردن دیتای در دسترس Agent به موضوع سوال، از گمراهی جلوگیری میکنه
- حتی با context خوب، بازبینی انسانی روی جوابهای Agent هنوز لازمه
