‏چرا یه پاسخ خوب از هوش مصنوعی، اثبات چیزی نیست

به گفتهٔ راحلوکا بودیو، نویسنده‌ی این مقاله تو Nielsen Norman Group، خیلی از تیم‌ها هوش مصنوعی رو با یه بار اجرا تست می‌کنن و از رو همون یه خروجی قضاوت می‌کنن که سیستم خوبه یا نه. مشکل اینجاست که مدل‌های زبانی nondeterministic هستن (یعنی با یه ورودی یکسان، هر بار ممکنه یه جواب متفاوت بدن)، پس یه خروجی خوب فقط نشون می‌ده سیستم می‌تونه اون کار رو انجام بده، نه اینکه همیشه درست انجامش می‌ده.

نویسنده این وضعیت رو با یه مطالعهٔ کمّی UX مقایسه می‌کنه: همون‌طور که نمیشه از رو موفقیت یه شرکت‌کننده تو یه کار نتیجه گرفت کل سایت بی‌نقصه، تو ارزیابی هوش مصنوعی هم باید چند ورودی نماینده (representative) انتخاب کرد، هر کدوم رو چند بار اجرا کرد و بعد میانگین و بازهٔ اطمینان (confidence interval) رو گزارش داد. مثلاً برای یه سیستم پشتیبانی مشتری، میشه ۱۰ سؤال مختلف رو هر کدوم ۵ بار تست کرد و درصد پاسخ‌های قابل‌قبول رو حساب کرد.

مقاله دو نوع تغییرپذیری رو از هم جدا می‌کنه: test-input variability یعنی تفاوت کیفیت پاسخ بین سؤال‌های مختلف، و run-to-run variability یعنی تفاوت پاسخ‌ها وقتی همون سؤال چند بار تکرار میشه. سؤال بیشتر دقت تخمین عملکرد رو روی انواع ورودی بالا می‌بره، ولی فقط تکرار اجراها می‌تونه نشون بده سیستم رو یه سؤال خاص چقدر پایداره؛ هیچ‌کدوم جای اون یکی رو نمی‌گیره.

نکتهٔ جالب مقاله اینه که دو تا سیستم می‌تونن امتیاز کلی یکسان بگیرن ولی مشکلاتشون کاملاً فرق داشته باشه: یکی ممکنه رو ۸ از ۱۰ سؤال همیشه درست جواب بده و رو بقیه همیشه اشتباه کنه (قابل پیش‌بینیه)، اون یکی ممکنه رو هر سؤالی گاهی درست و گاهی غلط جواب بده (غیرقابل پیش‌بینیه). نویسنده به روش‌های جاافتاده‌ای مثل معیار pass@k تو بنچمارک‌های کدنویسی و بازه‌ی اطمینان تو Chatbot Arena اشاره می‌کنه که همین اصل رو رعایت می‌کنن.

نکات کلیدی:

• یه خروجی خوب فقط نشون می‌ده سیستم می‌تونه کار رو انجام بده، نه اینکه همیشه درست انجامش می‌ده.
• ارزیابی درست نیاز به چند ورودی نماینده و چند بار اجرای هر ورودی داره.
• test-input variability و run-to-run variability دو تا مسئلهٔ متفاوتن که باید جدا جدا اندازه‌گیری بشن.
• گزارش نهایی باید میانگین، بازهٔ اطمینان و میزان پایداری سیستم رو شامل بشه.