مدل گرون برای برنامهریزی، مدل ارزون برای کدنویسی
خلاصهٔ کاملتر
مقاله یه الگوی ساده برای کم کردن هزینهی ایجنتهای کدنویسی پیشنهاد میکنه: «برنامهریز بهعلاوهی کارگر». قویترین و گرونترین مدل استدلالی (reasoning model، یعنی مدلی که قبل از جواب دادن فکر میکنه) برنامهریزی، تحقیق و تصمیمهای معماری رو انجام میده. بعد یه نقشهی دقیق به یه مدل ارزونتر داده میشه تا کد رو بنویسه و روش کار کنه.
دلیلش هزینهست. به گفتهی نویسنده، هزینهی هر تسک برای جدیدترین مدلهای سطح بالا میتونه چند برابر یه مدل قوی نسل قبل باشه. روی تسکهای باریک و دقیق، تستهای مستقل نشون دادن مدل گرون و مدل ارزون تقریباً امتیاز یکسانی میگیرن. بعضیها گفتن با گذاشتن گرونترین مدل روی همهی درخواستها، کل سهمیهی مصرفشون رو تو کمتر از نیم ساعت تموم کردن.
جایی که مدل گرون واقعاً میارزه کارهای باز و مبهمه: انتخاب معماری، یا وقتی مدل ارزون سر یه تصمیم طراحی دور خودش میچرخه. نویسنده میگه تو این حالت کل متن گفتگو رو بده به مدل قوی و بگو «مشکل اینه، تا حالا اینطوری بهش فکر کردیم». معمولاً سریع به یه راهحل میرسه.
روش عملی دو سشن جداست. اول یه سشن با مدل قوی که کدبیس رو میخونه و تصمیمهای سخت رو میگیره. بعد همهچی رو توی یه فایل markdown مثل plan.md مینویسه که مرجع اصلی کار میشه. بعد یه سشن کاملاً جدید با مدل ارزون باز میکنی که این فایل رو میخونه و کد مینویسه و تست میگیره. چون ابهام تو مرحلهی اول برطرف شده، کیفیت پایین نمیاد. فقط دیگه برای کاری که فکر سنگین نمیخواد پول اضافه نمیدی.
این تقسیم رو میشه خودکار هم کرد: با ابزارهای workflow که دو مرحله رو پشت هم اجرا میکنن، یا با قابلیت «advisor» بعضی ایجنتها که مدل ارزون هر وقت لازم شد از مدل قوی مشورت میگیره. ولی به گفتهی مقاله، advisor در عمل صرفهجویی زیادی نداشته، چون بیشتر از حد لازم مدل گرون رو صدا میزنه.
سطح effort (یعنی چقدر مدل قبل از جواب فکر کنه، مثل medium، high، extra high و max) یه اهرم جداست. برای مدل قوی، رفتن از medium به high روی تسکهای پیچیده جهش کیفی بزرگی داره، حتی با تقریباً سه برابر شدن هزینه. ولی بالاتر از high سود خیلی کم میشه و max شاید فقط چند درصد بهتر بشه با هزینهی خیلی بیشتر. پس high پیشفرض منطقیتریه. برای مدل اجرایی هم لازم نیست effort رو زیاد بالا ببری، چون کار از قبل روشن شده.
نکات کلیدی:
- مدل گرون برای معماری و تصمیمهای مبهم، مدل ارزون برای اجرای کار تعریفشده
- روی تسکهای دقیق، مدل ارزون تقریباً همون امتیاز مدل گرون رو میگیره
- الگوی پیشنهادی: سشن برنامهریزی، فایل plan.md، بعد سشن اجرایی جدا با مدل ارزون
- رفتن از effort متوسط به high میتونه هزینه رو حدوداً سه برابر کنه ولی ارزششو داره
- max نسبت به high فقط بهبود تکرقمی کوچیکی میده با هزینهی خیلی بیشتر
- قابلیت advisor در عمل از دستبهدست کردن دستی بین دو سشن کمصرفهتر بوده




