تسلیم شناختی: وقتی بی‌فکر به خروجی ایجنت‌ها اعتماد می‌کنیم
هوش مصنوعیخلاصهٔ کامل‌تر
نویسنده تو این یادداشت از چیزی به اسم cognitive surrender حرف می‌زنه، یعنی قبول کردن بی‌فکر هر چیزی که ایجنت بیرون می‌ده. به گفته‌ش این روش خیلی سریعه، خسته‌کننده نیست و برای همین وسوسه‌انگیزه. ولی خودش بارها دیده که با این کار تصمیم‌های بدتری گرفته، بدهی فنی جمع کرده و آشنایی‌ش با سیستمی که روش کار می‌کرده کمتر شده.
چرا این‌قدر وسوسه‌انگیزه؟ نویسنده چند تا دلیل میاره: تنبلی که یکی از فضیلت‌های برنامه‌نویس خوبه، فشار همکارها که همه دارن PRهای بیشتری می‌فرستن، و اعتمادبه‌نفس عجیب مدل‌ها که شاید نتیجه‌ی RLHF باشه. یه مشکل دیگه اینه که بدهی فنیِ کد بی‌کیفیت فوری خودشو نشون نمی‌ده و آروم‌آروم روی هم جمع میشه.
به گفته‌ی نویسنده با وضعیت فعلی مدل‌ها (اکتبر ۲۰۲۶)، استفاده‌ی حداکثری از ایجنت به انفجار پیچیدگی می‌رسه: چیزی که تقریباً کار می‌کنه ولی پر از باگ‌های عجیبه. انتظار داره مدل‌ها این یکی رو با سلیقه‌ی مهندسی بهتر حل کنن، ولی یه مشکل احتمالاً می‌مونه: mechanical sympathy (یعنی حس عمیق آدم از اینکه سیستم چطور کار می‌کنه) خیلی سریع از بین می‌ره. مقاله‌ی Ironies of Automation از سال ۱۹۸۳ هم همینو می‌گه: وقتی کارهای ساده رو تمرین نکنی، کارهای سختی که اتوماسیون توشون کم میاره برات سخت‌تر می‌شن.
اولین راه‌حلش اینه که قبول کنی tradeoff وجود داره: ایجنت زمان ساختن رو به صفر می‌رسونه، ولی گلوگاه بعدی یعنی فهمیدن تکون نخورده. بعد vibe limit خودت رو مشخص کنی، یعنی پیچیدگی تغییری که می‌تونی با اطمینان کافی با ایجنت انجام بدی. یه علامت هشدار هم داره: اگه مدام داری «yes, continue» رو می‌زنی، یا باید کار رو کامل واگذار کنی یا باید بفهمی که دیگه داری بی‌فکر جلو می‌ری.
تو پروژه‌هایی که براش مهمن، خودش رانندگی می‌کنه. مثلاً برای ویرایش همین پست از Codex کمک گرفته ولی همه‌ی تغییرات رو با دست زده و تو فایل AGENTS.md نوشته که ایجنت فایل‌ها رو مستقیم ویرایش نکنه. یه ایده‌ی جالب دیگه‌ش اینه که ایجنت براش یه نمای PR چهارستونه بسازه: دو ستون diff، یه ستون توضیح ایجنت درباره‌ی دلیل هر تغییر و یه ستون برای کامنت‌های خودش.
وقتی هم تصمیم می‌گیره کار رو کامل بسپره، روی observability، ابزارهای اعتبارسنجی deterministic، shadow traffic، style guide و deploy سریع سرمایه‌گذاری می‌کنه. حرف آخرش اینه که طراحی خوب، چه آدم کار کنه چه ایجنت، سیستم رو قابل‌فهم‌تر و راحت‌تر برای تغییر می‌کنه.
نکات کلیدی:
- vibe limit یعنی بیشترین پیچیدگی تغییری که با ایجنت میشه با اطمینان کافی انجامش داد.
- زدن مداوم «yes, continue» نشونه‌ی automation bias هست.
- مقاله‌ی Ironies of Automation مال سال ۱۹۸۳ هست و هنوز به تصمیم‌های امروز ربط داره.
- نمای PR چهارستونه: دو ستون diff، توضیح ایجنت و کامنت‌های توسعه‌دهنده.
- برای واگذاری کامل: observability، shadow traffic، اعتبارسنجی deterministic و deploy سریع.
