وقتی با LLM مغزمون رو خاموش میکنیم
هوش مصنوعیخلاصهٔ کاملتر
Dan Luu تو این پست میگه از اوایل ۲۰۲۵ دیده آدمها موقع کار با LLM مغزشون رو خاموش میکنن. کار رو میدن به مدل، مثلاً خلاصه کردن یه متن یا نوشتن کد، و بدون بررسی فرض میکنن درست شده. اگه هم کار نکرد، دوباره از خود مدل میخوان مشکل رو پیدا و درست کنه. Niklas Gruhn به این آدمها میگه meat proxy، یعنی آدمی که فقط واسطهٔ بین مدل و خروجیه و خودش فکری اضافه نمیکنه.
نویسنده قبول داره که این روش تو سپتامبر ۲۰۲۶ خیلی بهتر از ۲۰۲۵ جواب میده و بعضی نرمافزارهایی که اینجوری ساخته شدن تقریباً کار میکنن، هرچند نه اونقدر که خودش بخواد ازشون استفاده کنه. حرف اصلیش اینه: فرض کنیم مدلها اونقدر بهتر بشن که این روش نرمافزار متوسط یا حتی عالی بسازه. اون وقت شرکت چرا باید meat proxy رو نگه داره؟ خیلی راحت LLM رو تو یه حلقه اجرا میکنه و کارمند رو اخراج میکنه. پس هیچ نقطهای نیست که این روش به نفع خود کارمند باشه.
بخش زیادی از پست تو پانویسهاست. Luke Burton اونجا میگه فقط کارهای کمارزش رو میشه ول کرد و رفت. برای کارهای مهم باید نقش QA، مدیر مهندسی و معمار رو خودت بازی کنی. اون مثال تبدیل یه پروژه به build با Bazel رو میزنه که حتی با agentها ماهها طول کشیده، چون پر از نیازمندیهای نانوشته و تصمیمهای ریزه که مدل خودش نمیتونه بگیره.
نویسنده اضافه میکنه که مدلها روی مسئلههای out of distribution (یعنی چیزهایی که کم تو دادههای آموزشیشون بوده) خیلی ضعیفترن. مثالش بازیهای رومیزی مثل Dominion و Lost Cities هست: یه مدل پیشرفته با harness کامل هنوز از آدمی که بازی رو بلد نیست ولی بازیکن معقولیه بدتر بازی میکنه. به گفتهٔ اون، حتی تو کدنویسی هم مدام به اینجور سؤالها میخوری و باید خودت متوجهشون بشی.
مثالهای دیگهٔ نویسنده: agentهایی که بیش از حد روی تستها یا یه معیار خاص overfit میکنن، و یه «رهبر فکری» که گفته بود برنامهنویسی حل شده، ولی نمونههای GitHubش یا کار نمیکردن یا خیلی بد کار میکردن. از Gary Bernhardt هم نقل میکنه که تو review خروجی agentها معمولاً diff رو تا ۲۵ درصد اندازهٔ اولش کوچیک میکنه، چون پر از تست بیفایده و منطق برعکسه.
البته خود Luu برای ابزارهای شخصی از agentها زیاد استفاده میکنه. فرق اینه که بدونی خروجی ناقصه و درستش کنی، نه اینکه اعلام کنی برنامهنویسی حل شده. آخر سر نویسنده این استدلال رو هم رد میکنه که «بههرحال همهمون منسوخ میشیم، پس چرا تلاش کنیم». به نظرش اگه واقعاً منسوخ شدن نزدیکه، الان وقت بیشتر کار کردن و پول درآوردنه، نه خاموش کردن مغز. اون میگه شرکتها دارن از AI بهانه میکنن تا کارمندهای کمکار رو راحتتر کنار بذارن، پس الان بدترین زمان برای این کاره.
نکات کلیدی:
- meat proxy اسمیه که Niklas Gruhn روی آدمی گذاشته که فقط خروجی LLM رو بدون فکر جابهجا میکنه.
- اگه این روش جواب بده، شرکت میتونه LLM رو تو حلقه اجرا کنه و خود اون کارمند رو اخراج کنه.
- تبدیل یه پروژه به Bazel حتی با agentها ماهها طول کشیده، به خاطر نیازمندیهای نانوشته.
- مدلها تو بازیهایی مثل Dominion از یه آدم تازهکارِ معقول ضعیفترن.
- Gary Bernhardt میگه تو review معمولاً diff خروجی agent رو تا ۲۵ درصد کوچیک میکنه.
