سیگنالز ۲.۰: شکار خطای ایجنتها با هزینهٔ ناچیز
هوش مصنوعیخلاصهٔ کاملتر
به نوشتهٔ تیم ریندراپ، سیگنالز ۲.۰ از همین امروز برای همهٔ مشتریها و بدون هزینهٔ اضافه فعاله. قلبش مدل جدیدیه به اسم rd-signal-2 که کارش ساختن طبقهبندهای دودویی مخصوص یک وظیفهست: از روی ترِیسهای واقعیِ محیط عملیاتی یاد میگیره و برای هر رفتار خاص، یک دستهبند سبک تحویل میده.
نویسندهها میگن نسخهٔ اول سیگنالز فقط یک جفت ورودی-خروجی رو نگاه میکرد که برای دوران چتبات کافی بود، ولی خطای ایجنتها الان بین چند نوبت گفتوگو، فراخوانی ابزار و زیرایجنتها پخش میشه و گاهی صدها هزار توکن طول میکشه. راهحل بدیهی یعنی اجرای یک مدل مرزی روی تکتک ترِیسها، در مقیاس تولید هم کنده هم بیاندازه گرون.
ترفند اصلی اینه که استدلال از زمان اجرا به زمان ساخت منتقل شده. rd-signal-2 اول ترِیسها رو مطالعه میکنه، کد مینویسه تا فقط شواهد مهم رو جمع کنه و بعد یک مدل مخصوص همون وظیفه رو آموزش میده. موقع اجرا اگه شرطهای قطعی برقرار نباشه اصلاً مدلی صدا زده نمیشه؛ به تعبیر خود مقاله، فراخوانی مدل باید با عدمقطعیت زیاد بشه، نه با حجم ترافیک.
بخش جالب مقاله اینه که نویسندهها طبقهبندی دودویی رو بیشتر یک مسئلهٔ همراستایی میدونن تا یادگیری ماشین: اول باید آدمهای یک شرکت سر تعریف «خوب و بد» به توافق برسن. برای نشون دادنش، چهار روایت از یک جملهٔ واحد رو روی ۲۰۰۰ ترِیس واقعی اجرا کردن؛ نرخ تطابق بین ۰.۹ تا ۴.۶ درصد نوسان داشت و ۶۷ درصد موارد تطابقیافته دستکم توسط یکی از روایتها رد شد.
از نظر زیرساخت، هر سیگنالِ تولیدشده بهصورت پیشفرض نااعتماد در نظر گرفته میشه و توی محیط ایزوله، بدون کلید دسترسی و بدون خروجی اینترنت اجرا میشه. ترِیسها یک بار واکشی و نزدیک کارگرهای ارزیابی کش میشن، میانهٔ زمان طبقهبندی ۱۰۰ میلیثانیهست و این سامانه ماهی بیش از ۲۰ میلیارد ترِیس رو بررسی میکنه. تیم هم هر روز نمونهگیری تصادفی میکنه تا افت دقت و رگرسیون رو زود بگیره.
نکات کلیدی:
- rd-signal-2 برای هر رفتار، طبقهبند دودویی مخصوص همون وظیفه رو از روی ترِیسهای واقعی میسازه
- استدلال سنگین یک بار موقع ساخت انجام میشه، نه به ازای هر ترِیس
- فیلتر قطعی جلوی فراخوانی مدل رو میگیره و فقط موارد مبهم به مدل میرسن
- سختترین بخش خودِ مدل نیست، توافق روی تعریف «رفتار بد»ـه
- سیگنالز از طریق API هم در دسترسه و نسخهٔ ZDR بدون نگهداری دادهٔ تولیدی کار میکنه
