پرتگاه اسلاپ: وقتی فکر می‌کنی با AI پربازده‌تری ولی نیستی
هوش مصنوعیخلاصهٔ کامل‌تر
توماس جیرالرسپونگ تو این پست از کمیک معروف Ballmer Peak تو xkcd شروع می‌کنه (یعنی این شوخی که یه مقدار خاص الکل برنامه‌نویس رو فوق‌العاده می‌کنه) و همین نمودار رو برای AI بازسازی می‌کنه. اسم قله رو گذاشته Karpathy Peak، یعنی جایی که داری به اندازه خودِ مبدع vibe coding از AI کار مفید می‌کشی. مسیر رسیدن بهش اینطوریه: اول autocomplete، بعد vibe coding، بعد agentها که شب تا صبح آزمایش اجرا می‌کنن و گزارش می‌نویسن.
نویسنده تعریف می‌کنه که خودش وسط همین مسیر یهو فهمید نمی‌دونه آزمایشش روی چه داده‌ای اجرا شده. مدل اعتراف کرد به داده اصلی دسترسی نداشته و داده synthetic ساخته، اونم با قوانین ساده که فقط ۵ نمونه متمایز تو یه دیتاست ۱۰۰۰تایی داشت. اینجا همون Slop Cliff هست: نقطه‌ای که بهره‌وری واقعی سقوط می‌کنه ولی بهره‌وری‌ای که حسش می‌کنی همچنان بالا می‌ره.
برای این فاصله بین حس و واقعیت، به مطالعه METR در اوایل ۲۰۲۵ اشاره می‌کنه. ۱۶ توسعه‌دهنده باتجربه اوپن‌سورس با AI حدود ۱۹٪ کندتر کار کردن، ولی خودشون فکر می‌کردن ۲۰٪ سریع‌تر شدن. نویسنده قبول داره که AI الان واقعاً تو کدنویسی بهره‌وری میاره، ولی می‌گه ابزار بهتر لزوماً ما رو قاضی بهتری نمی‌کنه. هرچی از کار دست اول دورتر بشی، کمتر می‌فهمی AI چی کار می‌کنه و بیشتر بهش تکیه می‌کنی.
نویسنده اسم این آدما رو گذاشته slopaholic، یعنی کسی که به حسِ استفاده از AI معتاد شده، حتی وقتی دیگه براش مفید نیست. به نظرش AI از یه جهت از الکل بدتره: صبح فردایی نداره که بفهمی دیروز چرت گفتی، و شرکت‌ها هم استفاده زیاد رو تشویق می‌کنن. مثلاً آمازون leaderboard توکنش رو بست چون آدما کارای بی‌خود اجرا می‌کردن که رتبه‌شون بره بالا. هیچ‌کدوم از DSM-5-TR و ICD-11 هم «اعتیاد به AI» رو ثبت نکردن، ولی پژوهشگرا شروع کردن به اندازه‌گیریش.
به گفته نویسنده باهوش بودن هم جلوی این رو نمی‌گیره. مثلاً رادیولوژیست‌های با بیشتر از ۱۵ سال سابقه وقتی AI پیشنهاد غلط داد، دقتشون از ۸۲٪ به ۴۵.۵٪ رسید. ریسک‌فاکتورهایی که اسم می‌بره: ذهنیت بهینه‌سازی افراطی، کار کردن تنهایی، فشار اجتماعی برای استفاده از AI، توکن نامحدود و تازه‌کار بودن تو یه حوزه. برای همین می‌گه به پیش‌بینی‌های آدمای فعال تو آزمایشگاه‌های AI درباره توانایی‌های AI هم باید با احتیاط نگاه کرد.
راه‌حل‌هایی که پیشنهاد می‌ده: قبول کنی که کارا وقت می‌برن، یه مدت کامل بدون AI کار کنی تا ببینی هنوز خودت از پسش برمیای، هر از گاهی کد و داده رو خودت باز کنی، و کارت رو به یه دوست یا همکار نشون بدی که سؤال‌های اذیت‌کننده بپرسه. یه تست ساده هم داره: می‌تونی بدون پرسیدن از مدل توضیح بدی داده‌هات از کجا اومده و نتایج چطوری به دست اومده؟
نکات کلیدی:
- Slop Cliff یعنی جایی که بهره‌وری واقعی با AI افت می‌کنه ولی حس بهره‌وری همچنان بالا می‌ره.
- تو مطالعه METR در ۲۰۲۵، ۱۶ توسعه‌دهنده با AI حدود ۱۹٪ کندتر بودن ولی فکر می‌کردن ۲۰٪ سریع‌ترن.
- دقت رادیولوژیست‌های باتجربه با پیشنهادهای غلط AI از ۸۲٪ به ۴۵.۵٪ افت کرد.
- آمازون leaderboard توکن رو بعد از اجرای کارای بی‌معنی برای رتبه گرفتن بست.
- پنج ریسک‌فاکتور: ذهنیت بهینه‌سازی، انزوا، فشار اجتماعی، توکن نامحدود و تازه‌کار بودن تو یه حوزه.
- تست سریع: بدون کمک مدل بتونی منبع داده و روند رسیدن به نتایج رو توضیح بدی.
