چرا نرمافزار با اومدن ایجنتها نمیمیره
هوش مصنوعیخلاصهٔ کاملتر
برای هفتاد سال، هر روش دستسازِ هوش مصنوعی جلوی مقیاسپذیری (scaling) باخته؛ این همون چیزیه که ریچ ساتن اسمشو گذاشته «درس تلخ». حالا کسایی مثل سم آلتمن و داریو آمودی این ایده رو به همهچی تعمیم میدن و میگن ایجنتها هر کاری رو خودکار میکنن و نرمافزار مرده. ولی نویسنده به نقل از ساتیا نادلا میگه یه مرز بدون اکوسیستم پایدار نیست؛ فرصت واقعی تو انتخاب بهترین مدل نیست، بلکه تو ساختن یه «حلقهی یادگیری» روی مدلهاست که سرمایهی انسانی و توکن با هم انباشته میشن.
نویسنده اسم چیزی که این حلقه توش انباشته میشه رو میذاره بستر (substrate): تصمیمهای گرفتهشده، قراردادهای مستندشده، مجموعهی تستها و تاریخچهی استثناها. مدل کالاست و قابل تعویضه، ولی بستر همون چیزیه که تو رو متمایز میکنه و مزیت رقابتیته. سوال دیگه این نیست که ایجنتهات چقدر باهوشن، سوال اینه که قضاوت متراکمِ خودت کجا ذخیره میشه.
برای فهم این ماجرا، نویسنده به نقل از ونکاتش رائو دو حالتِ کارِ ایجنت رو توضیح میده: حالت دوربین و حالت موتور. تو حالت دوربین ایجنت اکتشاف میکنه، فایلها رو میخونه و زمینه جمع میکنه؛ کنده ولی خودتصحیحه. تو حالت موتور ایجنت با یه نقشهی مشخص سریع کد میزنه و اجرا میکنه. مشکل اونجا پیش میاد که موتور تو قلمروی دوربین بیفته؛ نویسنده اسمشو میذاره «بهرهوری روانپریشانه»: ایجنت با اطمینان تو حوزهای که نمیفهمه تند کار میکنه و خرابیهایی میسازه که تا هفتهها بعد کسی نمیفهمه از کجا اومده.
نویسنده میگه ایجنتها در واقع یه نوع اتوماسیونن، پس لازم نیست حدس بزنیم چی میشه؛ صدوپنجاه سال داده داریم که اتوماسیون چیو جذب میکنه و چیو نه. الگو همیشه یکیه: کارِ روتین خودکار میشه، کارِ غیرروتین مقاومت میکنه. سهم کشاورزی از نیروی کار آمریکا از ۴۱ درصد به ۲ درصد رسیده، ولی اون ۲ درصد کارِ اون ۴۱ درصد رو نمیکنن؛ سراغ تصمیمهای قضاوتی رفتن. نکتهی مهم اینه که تشخیصِ همین مرزِ روتین و غیرروتین، خودش کارِ حالتدوربینیه و خودکار نمیشه.
همین باعث میشه الگوهای شکستِ اتوماسیون تکرار شن. نویسنده به سقوطهای بوئینگ ۷۳۷ مکس و به ضررِ ۴۴۰ میلیون دلاری Knight Capital تو ۴۵ دقیقه اشاره میکنه؛ مشکل ناتوانیِ اتوماسیون نبود، این بود که آدم نمیفهمید سیستم کی از حوزهی صلاحیتش خارج شده. این همون «پارادوکس بینبریج»ه: هرچی ایجنتها بهتر شن، آدمها بیشتر از حلقهی بازخورد کنار میکشن و مهارتِ تشخیصِ قلمروی دوربین کمکم زنگ میزنه. نویسنده به یه مطالعهی مایکروسافت و CMU در ۲۰۲۵ اشاره میکنه که نشون داده تکیهی زیاد به دستیارهای هوش مصنوعی، تفکر انتقادی رو کم میکنه.
طرف تقاضا هم یه استدلال جدا داره: حتی جایی که ایجنتها میتونستن همهچیو بکنن، کاربر نمیخواد از راه پرامپت تو چت کار کنه. نویسنده یادآوری میکنه که همین تجربه رو با CLIها داشتیم و GUIها بردن چون بار ذهنی رو از کاربر به رابط منتقل کردن؛ چت این بار رو دوباره برمیگردونه رو دوش کاربر. جوابِ درست اپلیکیشنهاییه که ایجنت رو زیرِ پوستشون جا میدن؛ رو سطح، رابطِ طراحیشده میمونه. نویسنده میگه این محاسبهی بساز-یا-بخر رو هم عوض میکنه: حالا که کدزدن ارزون شده، باید چیزی رو مالک شی که تصمیمهای راهبردیت رو انباشته میکنه؛ بقیه میتونه SaaS بمونه.
نکات کلیدی:
- ادعای «نرمافزار مرده» از دو طرف غلطه: بعضی کارها خودکارشدنی نیستن و کاربر هم رابط طراحیشده رو به چت ترجیح میده
- مدلها کالا و قابل تعویضن؛ «بستر» یعنی تصمیمها، قراردادها، تستها و تاریخچهی استثناهای انباشته، همون مزیت رقابتیه
- حالت دوربین = اکتشاف و خودتصحیح، حالت موتور = اجرای سریع؛ افتادنِ موتور تو قلمروی دوربین فاجعه میسازه
- ایجنتها اتوماسیونن: کار روتین خودکار میشه، غیرروتین مقاومت میکنه و تشخیص این مرز خودش خودکارشدنی نیست
- پارادوکس بینبریج: هرچی اتوماسیون بهتر شه، خطرِ کنار کشیدنِ آدم از حلقهی بازخورد بیشتر میشه
