مدل قلاب نیر ایال روی محصولات هوش مصنوعی
هوش مصنوعیخلاصهٔ کاملتر
پاتریک نیمن تو این مقاله سراغ کتاب Hooked نیر ایال (۲۰۱۴) میره و میگه حلقهٔ چهارمرحلهایش حالا زیر پوست تقریباً هر محصول هوش مصنوعیای که لمس میکنی داره کار میکنه. حلقه اینه: یه محرک تو رو به کنش وامیداره، یه کنش ساده برد سریع میده، یه پاداش متغیر نتیجه رو کمی غیرقابلپیشبینی نگه میداره، و سرمایهگذاری — تصحیح جواب، ذخیرهٔ ترجیح، آپلود فایل — محرک بعدی رو کوک میکنه.
به گفتهٔ نویسنده، هوش مصنوعی دوتا از این مرحلهها رو رایگان تحویل گرفته. مدل زبانی غیرقطعیه، پس هر تولید یه کشیدن تازهٔ اهرمه و از قبل نمیدونی جواب درخشانه یا توهم. کنش هم به کمینهٔ نظری رسیده: یه جعبهٔ متن خالی که چیزی برای یاد گرفتن نداره. نویسنده به استدلال آملیا واتنبرگر ارجاع میده که اصطکاک از بین نرفته، فقط جابهجا شده — قبلاً یاد گرفتن رابط سخت بود، حالا دونستن اینکه چی بپرسی و اینکه به جواب اعتماد کنی یا نه.
نیمن میگه محرک بیرونی مثل نوتیفیکیشن و بج قرمز فقط مدتی جواب میده و بعد آدمها یاد میگیرن نادیدهاش بگیرن؛ محرک پایدار درونیه، همون رفلکسی که وقتی گیر میکنی تو رو بیخبر سراغ چتبات میبره. برای مرحلهٔ پاداش هم تفکیک ایال رو میآره — پاداش شکار، پاداش خود، پاداش قبیله — و هشدار میده که ماشین قمار قراره غیرقابلپیشبینی باشه ولی ابزار نه: نمیتونی تغییرپذیری رو ته بکشونی بدون اینکه اعتبار پایین بیاد.
مرحلهٔ سرمایهگذاری همونیه که انباشته میشه: هر دستور سفارشی، فایل آپلودشده و بازخورد، مدل رو یهکم بیشتر مال تو میکنه و هزینهٔ مهاجرت رو بالا میبره. به گفتهٔ نویسنده، آمار OpenAI هم همینو نشون میده؛ استفاده از Projects و Custom GPT تو سال ۲۰۲۵ حدود ۱۹ برابر شده. ولی قفلشدگی دو لبه داره: اگه کاربر خودش انتخابش کرده باشه حس مالکیت میده، وگرنه حس گروگانگیری.
برای ترمز، نویسنده «ماتریس دستکاری» خود ایال رو میآره با دوتا سؤال: محصول واقعاً زندگی کاربر رو بهتر میکنه؟ و خودت ازش استفاده میکنی؟ جواب بله به هر دو یعنی تسهیلگر، نه به هر دو یعنی دلال. تست دوم تیزتره: تست پشیمانی — اگه کاربر هر چی تو میدونی رو میدونست، بازم این کارو میکرد؟ دستیاری که یه ساعت وقت کسی رو نجات میده راحت رد میشه؛ همراهی که تنظیم شده تا کاربر تنها رو تا بعد از نیمهشب سر حرف نگه داره، نه.
نقطهٔ کور مدل هم همینه که حلقه فقط درگیری رو میشمره نه فایده رو. نویسنده میگه پیام، دقیقه و توکن همهشون مصرف رو اندازه میگیرن، و تو محصول هوش مصنوعی بالا رفتن این عددها اغلب یعنی ابزار داره بلندتر شکست میخوره: پرسیدن دوباره و جواب متوسطی که کاربر ازش رد میشه هم درگیری ثبت میشه. مثال هشداردهندهاش Character.AI هست که اواخر ۲۰۲۵ بعد از شکایتها و فشار قانونگذارها دربارهٔ آسیب به نوجوانها، چت آزاد رو برای کاربرهای زیر ۱۸ سال بست.
نکات کلیدی:
- حلقهٔ Hooked چهار مرحله داره: محرک، کنش، پاداش متغیر و سرمایهگذاری
- تو محصولات هوش مصنوعی، پاداش متغیر از غیرقطعی بودن مدل و کنش کماصطکاک از جعبهٔ چت رایگان به دست میآد
- محرک بیرونی اجارهکردن توجهه؛ محرک درونی چیزیه که کاربر رو بیخبر برمیگردونه
- همون تغییرپذیری که کاربر رو نگه میداره، اعتماد به خروجی رو هم فرسوده میکنه
- ماتریس دستکاری و تست پشیمانی رو قبل از بازبینی رودمپ اجرا کن، نه بعدش
- به جای مصرف (پیام، دقیقه، توکن) نتیجه رو ابزارگذاری کن: کار تمامشده و زمان صرفهجوییشده
