چرا مدلهای زبانی تو طراحی سیستمهای هوش مصنوعی ضعیفن؟
خلاصهٔ کاملتر
شون گودکه تو این مقاله یه الگوی عجیب رو نشون میده: مدلهای زبانی (LLM) برنامههای معمولی رو راحت مینویسن، ولی وقتی مسئلهای دارن که بهترین راهحلش صدا زدن یه LLM دیگهست، معمولاً خرابش میکنن.
مثالش یه کاربره که با vibe coding (یعنی ساختن برنامه فقط با دستور دادن به ایجنت) میخواست ابزاری بسازه که بفهمه دو تا یادداشت حافظه با هم تناقض دارن یا نه. این کار امروز با یه فراخوانی LLM تقریباً سادهست. ولی ایجنت وقتی ازش «روش state of the art» رو خواستن، رفت سراغ یه سیستم نمادین پیچیده که جملهها رو به اتمهای منطقی تبدیل کنه و با یه solver مقایسهشون کنه. این روش اصلاً نمیتونست جواب بده و هفتهها دور خودش چرخید. جالب اینجاست که وقتی کاربر پرسید چرا کار نمیکنه، Claude خودش توضیح داد که این یه مسئلهٔ ۱۳۰ ساله و بیراهحله. نویسنده میگه خودش هم موقع ساخت Autodeck دیده که ایجنتها به جای یه فراخوانی LLM دیگه، کارتها رو با regex یا جستوجوی کلمه دستهبندی میکردن.
نویسنده سه تا توضیح میاره. اول اینکه بیشتر کدهایی که مدلها باهاش آموزش دیدن مال قبل از دورهٔ LLMهاست. ولی خودش این رو کافی نمیدونه، چون مدلها مثلاً سراغ jQuery یا Backbone.js نمیرن و تو بقیهٔ حوزهها بهروزن.
دوم اینکه بخش زیادی از آموزش تو محیطهای RLVR انجام میشه (یعنی یادگیری تقویتی که یه داور خودکار خروجی کد رو چک میکنه). به گفتهٔ نویسنده بعیده این محیطها کلید API برای صدا زدن یه LLM دیگه داشته باشن، چون گرون و کند و پرریسکه. پس شاید آموزش، مدل رو از نوشتن این جور کد دور کرده باشه. همین نظریه توضیح میده چرا مدلها تو prompt نوشتن برای subagentها خوبن.
توضیح سوم، که نویسنده بیشتر قبولش داره، اینه که ایجنتهای فعلی کلاً تو طراحی نرمافزار خوب نیستن. انتخاب یه راه نمادین محکوم به شکست فقط یه نمونهٔ دیگه از انتخاب ابزار اشتباهه؛ مثل ساختن الگوریتمهای consensus پیچیده به جای قبول کردن دادهٔ کمی قدیمی، یا گذاشتن چکهای همزمان تو سیستمهای event-driven.
نتیجهای که نویسنده میگیره اینه که نباید LLM رو با معیار آدمها سنجید. برنامهنویسی که بلده یه solver نمادین بسازه، میدونه که این روش جواب نمیده. ولی LLM میتونه همزمان هم اونقدر باهوش باشه که بسازتش و هم اونقدر بیحواس که نفهمه بیفایدهست. یعنی اگه بتونی از قبل حدس بزنی کجا خوب کار میکنه و کجا نه، کلی وقت و توکن صرفهجویی میکنی.
نکات کلیدی:
- ایجنتها برای پیدا کردن تناقض بین متنها به جای فراخوانی LLM سراغ solver منطقی و regex رفتن
- دلیل اول: بیشتر دادهٔ آموزشی مال قبل از دورهٔ LLMهاست، ولی این بهتنهایی کافی نیست
- دلیل دوم: محیطهای RLVR احتمالاً دسترسی API به مدلهای دیگه ندارن
- دلیل سوم و محتملتر: ایجنتهای فعلی کلاً تو طراحی نرمافزار ضعیفن
- پرسیدن «روش state of the art» از ایجنت میتونه اون رو به راه اشتباه بکشونه




