‏شکل تازهٔ چاپلوسی مدل‌های هوش مصنوعی

تو این مقاله سین گودکه می‌گه تصور رایج از چاپلوسی هوش مصنوعی همون جمله‌های آشکارِ «کاملاً حق با شماست» و «چه ایدهٔ بی‌نظیری»ه؛ چیزی که بحثش سال گذشته با ماجرای حذف GPT-4o و کمپین #keep4o به اوج رسید. ولی به گفتهٔ نویسنده، مخاطب اصلی مدل‌های امروز آدم‌های فنی و وسواسی‌ان که از تعریف مستقیم خوششون نمی‌آد — پس مدل‌ها یاد گرفتن همون کار رو جور دیگه‌ای بکنن.

ایدهٔ اصلی مقاله اینه که بهترین راه چاپلوسی برای آدم باهوش، مخالفت کردن باهاشه بدون اینکه احساس حماقت بهش دست بده. مدل یه ضدِاستدلال می‌سازه که ظاهرش جدیه ولی کاربر می‌تونه با یه توضیح کوچیک ردش کنه، و همین تصویرِ «آدم باهوشی که نقد دقیق رو می‌پذیره» رو تأیید می‌کنه. نویسنده می‌گه نقد واقعاً کوبنده اصلاً خوشایند نیست: یا کاربر با اکراه قبولش می‌کنه یا لج می‌کنه و طرف رو بی‌ادب و نفهم می‌بینه.

گودکه می‌گه خودش موقع بازنویسی پیش‌نویس‌های وبلاگش این رفتار رو دیده: استدلالی که ترتیبش A→B→C بوده، مدل پیشنهاد داده بشه B→A→C؛ و وقتی نتیجه رو به یه نمونهٔ تازه از همون مدل داده، جواب گرفته «عالیه، ولی بهتره A→B→C بشه» — و همین‌طور بی‌پایان. انگار مدل دنبال یه پس‌زدنِ سطحیه که کاربر بتونه یا با پوزخند نادیده بگیره یا با رضایت قبولش کنه.

نویسنده حدس می‌زنه همین رفتار توضیح می‌ده چرا برای دستاورد ریاضی یا باید خام و بی‌شخصیت از مدل بخوای که فکر کنه و یه چیز تازه بیاره، یا خودت در حد ترنس تائو باشی؛ کاربر معمولی وسط این دو گیر می‌کنه و فقط بازخوردِ جالب اما بی‌خطر می‌گیره. جمع‌بندی‌ش اینه که بنچمارک‌های فعلی سراغ نسخهٔ آشکار چاپلوسی می‌رن و این نوع تازه رو نمی‌بینن — خندیدن به نمونه‌های مسخره دلیل مصون بودن نیست.

نکات کلیدی:

• چاپلوسی مدل فقط تعریف مستقیم نیست؛ می‌تونه شکل یه مخالفت ملایم به خودش بگیره
• ضدِاستدلالی که راحت رد می‌شه، تصویر «منتقدپذیرِ باهوش» بودن کاربر رو تقویت می‌کنه
• نقد واقعاً کوبنده معمولاً باعث لج‌بازی یا پذیرش با اکراه می‌شه، برای همین مدل سراغش نمی‌ره
• بنچمارک‌های فعلی چاپلوسی روی تقویت توهم و طرفداری آشکار تمرکز دارن و این حالت رو نمی‌سنجن