ارزیابی کلان سیستم‌های چندعاملی هوش مصنوعی
هوش مصنوعی
پایتونخلاصهٔ کامل‌تر
وقتی یه سیستم چندعاملی شکست می‌خوره، ریشه‌ی مشکل اغلب یه پاسخ بده بلکه یه الگوی رفتاری تکراریه که روی صدها یا هزاران اجرا پخش شده. شاید یه عامل متخصص هر بار یه سیگنال مشخص رو نادیده می‌گیره، یا اورکستراتور در شرایط پرریسک مرحله‌ی بررسی انسانی رو دور می‌زنه. این مقاله یه روش عملی برای شناسایی همین الگوها ارائه می‌ده.
مثال اجرایی، یه سیستم سفارش خودروی الکتریکی (EV) شبیه‌سازی‌شده‌ست که عامل‌های متخصص قیمت‌گذاری، انطباق قانونی، زنجیره تأمین، مسیریابی کارخانه، زمان‌بندی و تصمیم‌های نهایی رو مدیریت می‌کنن. سناریوهای مختلف به این سیستم داده می‌شن و خروجی هر اجرا به‌صورت یه «باندل تریس» ذخیره میشه.
رویکرد پیشنهادی مشکل ارزیابی رو به دو لایه تقسیم می‌کنه:
- ارزیابی سطح پایین (Lower-level evals): هر عامل، هر هندآف، و هر اجرای کامل رو جداگانه نمره می‌ده. در این مثال، ابزار Promptfoo این نقش رو داره و معیارهایی مثل کیفیت تصمیم نهایی، صحت سیاست، مسیریابی صحیح به متخصص، و مناسب‌بودن بررسی انسانی رو می‌سنجه.
- ارزیابی کلان (Macro evals): نتایج لایه‌ی پایین رو در کنار هم می‌بینه و می‌پرسه: کدوم مشکلات تکرار می‌شن؟ کجا تمرکز دارن؟ کدوم بخش از سیستم باید اول بررسی بشه؟
برای خواندن نتایج، چهار برچسب کلیدی تعریف شده: case_type (نوع موقعیت ورودی)، run_outcome (نتیجه‌ی اجرا)، eval_finding (علامت محلی مشکل) و behavior_pattern (الگوی تکراری در کل جمعیت). یه مدل ذهنی ساده برای اینا اینه: setup، ending، symptom، و pattern.
پایپ‌لاین کلان به این شکل کار می‌کنه: ابتدا هر تریس به یه «سند فشرده» تبدیل میشه، بعد با الگوریتم‌های کلاسترینگ الگوهای تکراری کشف می‌شن، و در آخر روی یه الگوی پُرتأثیر زوم میشه تا مشخص بشه بررسی انسانی کجا باید انجام بشه. خروجی نهایی نمودارهایی مثل leaderboard، heatmap، و swimlane trace هستن که هم برای تیم فنی و هم برای ذینفعان کسب‌وکار قابل‌فهمن.
نوت‌بوک با داده‌های سنتتیک از پیش محاسبه‌شده کار می‌کنه و نیازی به OpenAI API key نداره. فایل‌های مورد نیاز شامل trace_results.jsonl، eval_labels.jsonl، run_summary.json، و trace_bundles.zip هستن که همه در پوشه‌ی data/ قرار دارن.
نکات کلیدی:
- ارزیابی سیستم‌های چندعاملی فقط بررسی پاسخ نهایی نیست؛ کل مسیر اجرا اهمیت داره.
- تفکیک ارزیابی به دو لایه‌ی lower-level و macro به شناسایی الگوهای تکراری کمک می‌کنه.
- ابزار Promptfoo برای ارزیابی سطح پایین هر اجرا استفاده میشه.
- خروجی نهایی باید هم برای مهندسان و هم برای تیم‌های کسب‌وکار قابل‌فهم باشه.
- اجرای کامل نوت‌بوک بدون API key ممکنه — داده‌های سنتتیک کافی‌ان.
