‏طراحیِ احتمالی: وقتی هوش مصنوعی حدس می‌زنه، نه حکم می‌ده

نویسنده (Pratik Joglekar، طراحِ محصول در HubSpot) می‌گه ریسکِ اصلیِ طراحی با هوش مصنوعی اینه که سیستم‌های احتمالی رو توی رابط‌های قطعی می‌پیچیم: AI یه حدس می‌زنه، رابط اونو مثلِ حقیقت نشون می‌ده و کاربر یا سازمان بر اساسش عمل می‌کنه. آدم‌ها ذاتاً قطعی‌گرا فکر می‌کنن، ولی چیزی که الان لازمه ذهنِ احتمالیه.

مثالِ محوریِ مقاله چت‌باتِ ایر کاناداست: بات با اطمینان یه سیاستِ استردادِ نامعتبر رو به یه مشتری گفت، شرکت زیرِ بارش نرفت و در نهایت یه دادگاه به نفعِ مشتری رأی داد. به گفتهٔ نویسنده، بات چیزی «تصمیم» نگرفته بود، فقط بر اساسِ الگوهای داده‌ٔ آموزشیش یه جواب رو پیش‌بینی کرده بود؛ مشکل اونجا بود که رابط، این پیش‌بینی رو با قطعیتِ کامل و بدونِ هیچ هشداری نشون داد.

نویسنده پیشنهاد می‌ده خروجیِ AI رو مثلِ Netflix ببینیم: نتفلیکس نمی‌دونه فلان سریالو دوست داری، فقط احتمالشو تخمین می‌زنه. پس خروجی یه «سیگنال»ه نه نتیجه، و باید توی بسترِ هدفِ محصول و رفتارِ کاربر تفسیر بشه. مثلاً اگه تحلیل‌ها بگن ۶۰ درصد احتمالِ تکمیلِ خرید هست، طراحی باید کارِ متقاعدسازیِ بیشتری بکنه؛ ولی توی ۹۰ درصد، بهتره اصطکاکو کم کنه.

مقاله دربارهٔ سوگیریِ داده هم هشدار می‌ده: مثالِ ابزارِ استخدامِ آزمایشیِ آمازون که یاد گرفته بود رزومهٔ زن‌ها رو پایین بیاره، چون داده‌ٔ یک دههٔ گذشته به‌سمتِ مردها اریب بود. جمع‌بندیِ عملیِ نویسنده چند اصله: برای احتمال طراحی کن نه قطعیت، داده رو قطب‌نما بدون نه نقشه، و آزمایشو ابزارِ کاهشِ عدمِ قطعیت بدون. شفافیت هم کلیدیه: کاربر باید ببینه خروجی از کجا و چطور اومده، و رابط باید مسیرِ برگشت به آدمِ واقعی و برچسبِ «تولیدِ AI» رو نگه داره.

نکات کلیدی:

• خطر اصلی: سیستمِ احتمالی رو توی رابطِ قطعی می‌پیچیم و حدسو مثلِ حقیقت نشون می‌دیم
• چت‌باتِ ایر کانادا نمونهٔ عملیِ همین ریسکه
• خروجیِ AI یه «سیگنال»ه نه نتیجه، و باید توی بسترِ محصول تفسیر بشه
• داده می‌تونه سوگیری داشته باشه (مثالِ ابزارِ استخدامِ آمازون)
• برای احتمال طراحی کن، شفاف باش و مسیرِ برگشت به آدمِ واقعی رو نگه دار