مهندسی حلقه؛ چرا ایجنتهای خوب کار خودشون رو دوباره چک میکنن
هوش مصنوعیClaude Opus 5خلاصهٔ کاملتر
نویسنده با یه سؤال ساده شروع میکنه که وقتی روش فکر کنی دیگه ساده نیست: بعد از اینکه هوش مصنوعی اولین جوابش رو داد، چی باید اتفاق بیفته؟ به گفتهٔ او تو بیشتر تاریخ این حوزه، جواب «هیچی» بوده — میپرسیدی، جواب میداد، تموم. ولی ابزارها و ایجنتهایی که این روزها سر و صدا کردن جور دیگهای رفتار میکنن: هدف میسازن، دنبالهٔ کارها رو مینویسن و شروع به عمل میکنن، و در نهایت یا به هدف میرسن، یا میفهمن دارن ازش دور میشن و مسیر رو اصلاح میکنن، یا قبول میکنن که گم شدن و از آدم کمک میخوان. اسم طراحی این رفتار رو گذاشته مهندسی حلقه.
مثالی که برای توضیحش میزنه دو تا ظرفشوره. اولی هر بشقاب رو دقیقاً یه بار میسابه و میذاره تو جاظرفی، بدون اینکه نگاهش کنه؛ اگه ته بشقاب سس خشکیده مونده باشه، اون دیگه مشکل توئه. دومی میسابه، بشقاب رو جلوی نور میگیره، هنوز چربه؟ برمیگرده تو سینک. و اگه ماهیتابهای اونقدر سوخته باشه که ده دور سابیدن هم فایده نداشته باشه، بینهایت نمیسابه — کنار میذاردش و از تو میپرسه تکلیفش چیه. نکتهٔ نویسنده اینه که ممکنه هر دو دقیقاً به یه اندازه خوب بسابن؛ چیزی که فرق میکنه اطراف سابیدنه، نه خود سابیدن.
اسکلت این حلقه چهار مرحله داره: تلاش (انجام یه تکه از کار)، بررسی (نگاه کردن به چیزی که واقعاً اتفاق افتاده، نه چیزی که قرار بوده بشه)، قضاوت (مقایسهٔ واقعیت با هدف) و اصلاح (تغییر دادن یه چیز بر اساس اون بررسی و رفتن دور بعد). به گفتهٔ نویسنده مدتها تصور میشد راهحل، مدل باهوشتریه که بار اول همهچی رو درست بزنه؛ ولی حتی آدمهای درجهیک هم کد بینقص در اولین تلاش نمینویسن و اصلاً هدف درستی نیست.
خود ایدهٔ حلقهٔ بازخورد هم چیز جدیدی نیست: ترموستات خونه، کروز کنترل، و حتی گاورنر مکانیکی موتورهای بخار قدیمی همین کار رو میکردن. تفاوت سخت و واقعاً تازه اینه که تو اون سیستمها «هدف» عددی و دقیق بود، ولی اینجا تعریف «تمام شد» مبهمه: این کد درسته؟ لحن این ایمیل برای مشتری عصبانی مناسبه؟ این خلاصه کامله یا فقط با اعتمادبهنفس نوشته شده؟
نویسنده میگه ساختن حلقهای که تلاش و بررسی کنه بخش آسون ماجراست و هنر اصلی تو سه سؤاله: «تمیز» یعنی چی و چطور قابلسنجشش کنیم؛ کی سابیدن رو تموم کنیم، چون هر دور هزینه و زمان داره و حلقهٔ بیخروجی میتونه یه بعدازظهر رو صرف جابهجا کردن یه ویرگول کنه؛ و کی ماهیتابه رو کنار بذاریم و با یه یادداشت روشن تحویل آدم بدیم. هیچکدوم از این سه سؤال دربارهٔ باهوشتر کردن مدل نیست، همهشون دربارهٔ خویشتنداری و تشخیص وقت ارجاعن.
حرف نهاییش برای انتخاب ابزار کاربردیه: چون خیلی از محصولها روی یه مشت مدل مشترک سوارن، اون که جادویی به نظر میرسه و اونی که بیثباته معمولاً تو کیفیت حلقهشون فرق دارن نه تو مغزشون. پس موقع امتحان یه ابزار، فقط شیفتهٔ جواب اول نشو؛ یه کار چندمرحلهای بهش بده و ببین بعد از تلاش اول چی کار میکنه.
نکات کلیدی:
- مهندسی حلقه یعنی طراحی رفتار ایجنت بعد از اولین جواب
- چهار مرحلهٔ حلقه: تلاش، بررسی، قضاوت، اصلاح
- سه سؤال کلیدی: تعریف «تمام شد»، بودجهٔ توقف، و زمان ارجاع به آدم
- ایده ریشه در حلقههای بازخورد قدیمی مثل ترموستات و گاورنر داره
- سختی تازه اینه که معیار «تمام شد» در کارهای زبانی مبهمه
- شکاف کیفیت بین ابزارها بیشتر شکاف حلقهست تا شکاف هوش
