آدمِ توی حلقه خستهست
هوش مصنوعیخلاصهٔ کاملتر
نویسندهٔ این یادداشت که تو Pydantic کار میکنه، از اول تکلیفش رو روشن میکنه: این نه مقالهٔ ترسناک دربارهٔ جایگزینی برنامهنویسهاست، نه تبلیغ هیجانزدهٔ هوش مصنوعی. تز اصلیش اینه که برنامهنویسی با LLM همزمان واقعاً مفید و واقعاً بیثباتکنندهست و این دوتا کنار هم وجود دارن؛ اگه دومی رو انکار کنیم، همه فرسوده میشیم. جالب اینکه این حرف از تیمی میاد که کارش ساختن ابزار برای قابلاتکاتر کردن نرمافزارهای مبتنی بر LLMه.
برای ملموس شدنش، نویسنده گفتوگوش با همکارش دوو، نگهدارندهٔ فریمورک Pydantic AI، رو نقل میکنه: هر روز صبح با سیتا پولریکوئست بیدار میشه که شب قبل هرکدوم رو هوش مصنوعی یکی ساخته و باید سر تکتکشون سریع قضاوت کنه. وسوسهٔ سپردن خود بازبینی به یه مدل خیلی زیاده، ولی به تعبیر دوو: «اونوقت من اینجا دیگه چیکار میکنم؟»
خود نویسنده هم روزهایی رو تعریف میکنه که نزدیک دو روز کامل صرف نوشتن یه پلن برای مدل کرده و آخرش مدل باز کار عجیبی کرده: یه هوک ریکت رو به فایل استوریبوک برده، از پلن اشتباه خونده، کامپوننتی ساخته که وجود نداشته. به نظر او اینها خطای توانایی نیستن، خطای انسجامن — مدل بهقدر کافی باهوشه که کد باورپذیر تولید کنه، ولی نه همیشه بهقدر کافی که نیت رو تو یه تغییر پیچیده منسجم نگه داره.
نتیجهاش نوع تازهای از خستگیه: خستگی نظارت. اینکه نیت رو تو ذهنت نگه داری در حالی که ماشین حجم زیادی خروجی «تقریباً درست» تولید میکنه که هنوز چشم و قضاوت و سلیقهٔ تو رو لازم داره. دوو چیز دیگهای رو هم از دست رفته میدونه: قبلاً از همکاری با یه آدم واقعی روی یه فیچر جذاب لذت میبرد، ولی حالا به قول خودش هرچی مینویسه میره تو یه سیاهچالهٔ هوش مصنوعی و اونطرف آدمی نیست که چیزی یاد بگیره.
نویسنده بعد به مطالعهٔ Berkeley Haas اشاره میکنه که سایمون ویلیسون هم برجستهاش کرده: هوش مصنوعی کار رو کم نمیکنه، شدتش رو بالا میبره. مارسلو، همکار دیگهای تو Pydantic، به شوخی گفته «پنجتا سشن Claude باز کن، اصلاً متوجه فریز شدنشون نمیشی چون داری به بقیه فیدبک میدی». تعداد کارهایی که میشه شروع کرد بهشدت زیاد شده؛ تعداد کارهایی که میشه با فکر تموم کرد هیچ تغییری نکرده، چون به تنها منبعی وابستهست که موازی نمیشه: مغز آدم.
اسمی که نویسنده روی این وضع میذاره «مسئلهٔ تابع پاداش انسانی»ه. کدنویسی دستی هیچوقت آسون نبود ولی پر بود از پاداشهای کوچیک: حل کردن مسئله تو ذهنت، فهمیدن یه منطق پیچیده، دیدن کامپایل موفق، حس کنترل. LLM دقیقاً همون بخشها رو خودکار کرده و جاش بار شناختی بازبینی گذاشته. به گفتهٔ او این کار تنهاکننده و اعتیادآور هم هست: گاهی خروجی درخشانه و گاهی آشغال و هیچوقت نمیدونی کدوم — دقیقاً همون جعبهٔ اسکینر.
برای درک این لحظه سراغ یه قیاس میره: گذار به طراحی ریسپانسیو حوالی ۲۰۰۹، وقتی طراحهایی که هویتشون به گریدهای دقیق گره خورده بود از دست دادن کنترل رو بحرانی وجودی میدیدن. کسایی که سربلند بیرون اومدن مهارتشون رو بازتعریف کردن: چشمِ تشخیص تناسب و سلسلهمراتب هنوز مهم بود، وسواس کنترل پیکسلی کماهمیت شد. خودش هم میگه قیاس رو نباید کش داد؛ اون گذار سالها طول کشید، این یکی به ماه اندازهگیری میشه.
پس چی باقی میمونه؟ به نظر او تو دورهای که هرکسی میتونه کد کامپایلشونده تولید کنه، وجه تمایز میشه سلیقه، ظرافت و نظرهای معمارانهٔ پخته؛ ضمن اینکه هدایت مدل فقط تو حوزههایی خوب جواب میده که خودت عمیق میفهمی. مهارتهای تازه هم پیدا شدن: «پیشمرگبینی» پلن با یه سشن تازه، یا ابزاری که از هزاران کامنت کد ریویو قاعده درمیآره و AGENTS.md میسازه. به تعبیر او گلوگاه هیچوقت کد نبود؛ قضاوت انسانی بود و حالا کمیاب بودنش معلوم شده.
نکات کلیدی:
- کد سریعتر تولید میشه ولی بازبینی و هدایتش سختتر شده: خستگی نظارت
- خطاهای مدل بیشتر خطای انسجامان تا خطای توانایی
- هوش مصنوعی حجم کار رو کم نمیکنه، شدتش رو بالا میبره
- پاداشهای کوچیک کدنویسی حذف شدن بدون جایگزین: مسئلهٔ تابع پاداش انسانی
- هدایت مدل فقط تو حوزههای تخصصی عمیق خودت خوب جواب میده
- مهارتهای تازه: پیشمرگبینی پلن و تقطیر تجربه تو دستورالعمل ایجنت
- گلوگاه واقعی هیچوقت کد نبود؛ قضاوت و توجه انسانی بود
