فستمود کلود کد: سرعت بیشتر با هزینهی پنهان
هوش مصنوعیClaude Sonnet 5خلاصهٔ کاملتر
فستمود یه سوییچ تو کلود کده که کل نشست رو روی مدل Opus با سرعتی حدود ۲.۵ برابر عادی اجرا میکنه و تو رابط کاربری هم با یه نشونهی کوچیک معلومه که فعاله. در نگاه اول شبیه یه ارتقای ساده به نظر میرسه: همون مدل، فقط سریعتر. اما نویسنده میگه مشکل اصلی تو نحوهی صورتحسابکردنشه و تو رابطهش با کشِ پرامپت (prompt caching یعنی نگهداشتن بخشی از کانتکست قبلی برای اینکه دوباره پردازش و پول نده)، که میتونه یه ارتقای سرعت رو تبدیل به یه نشست خیلی گرون کنه.
تو حالت عادی، کلود کد از پلن اشتراکت هزینه کم میکنه و انتروپیک بخشی از کانتکست مکالمه رو تو پسزمینه کش میکنه تا پیامهای تکراری دوباره از اول پردازش و حساب نشن؛ همین کش بخش بزرگی از مقرونبهصرفهبودن نشستهای طولانیه. فستمود این مسیر صورتحساب رو کلا عوض میکنه: بهجای پلن اشتراک، از همون اعتبارهای مصرفی API که تو تماس مستقیم با API استفاده میشه کم میکنه. اگه اعتبار مصرفی روی حسابت فعال نباشه، کلود کد خودش فستمود رو خاموش میکنه تا درخواستی با خطا یا صورتحساب اشتباه مواجه نشه.
نکتهی اصلی اینجاست که اولین باری که فستمود رو وسط یه مکالمهی درحالانجام روشن میکنی، کشِ قبلی درست منتقل نمیشه و کل کانتکست جمعشده تا اون لحظه با نرخ کامل و بدون تخفیفِ کش حساب میشه. یعنی هرچی قبلا تو کش ذخیره و ارزون حساب شده بود، همون لحظه که سوییچ رو میزنی، دوباره و با نرخ گرونتر فستمود صورتحساب میشه. برای نشستی که مدتها اجرا شده و کانتکست زیادی جمع کرده، همین یه سوییچ میتونه یه جهش واقعی تو هزینه ایجاد کنه که هیچ ربطی به کار جدیدی که میخوای انجام بدی نداره.
به گفتهی نویسنده، فستمود وقتی بهصرفهست که سرعت واقعا از هزینه مهمتر باشه و از همون اول نشست روشنش کنی، نه وسط یه مکالمهی طولانی. شروع تازه یعنی کانتکست کشِ زیادی برای از دست دادن نداری و یادت هم میمونه بعد از تمومشدن کار خاموشش کنی، چون فستمود بین نشستها هم خاموش نمیشه و تا وقتی خودت دستور خاموشکردن رو ندی، فعال میمونه. نویسنده پیشنهاد میده بهجای روشنکردن فستمود وسط یه نشست پر از کانتکست کششده، یه نشست جدید برای کار فوری باز کنی.
نویسنده فستمود رو یه نمونه از یه الگوی بزرگتر تو مدل هزینهی کلود کد میدونه: مثلا زیرایجنتها (sub-agent) هر کدوم کانتکست جدا و کشنشدهی خودشون رو دارن و میتونن مصرف توکن رو خیلی بیشتر از یه نشست عادی کنن، یا تعریفهای ابزار و کانکتور هم بسته به تنظیمات دسترسی، خودکار وارد کانتکست میشن و قبل از استفاده از هر ابزاری هزینه اضافه میکنن.
نکات کلیدی:
- فستمود Opus رو حدود ۲.۵ برابر سریعتر اجرا میکنه ولی از اعتبار API با نرخ متغیر کم میشه، نه از پلن اشتراک.
- بدون فعالبودن اعتبار مصرفی روی حساب، کلود کد فستمود رو خودکار خاموش میکنه.
- اولین پیام بعد از روشنکردن فستمود، کل کانتکست قبلی رو با نرخ کامل و بدون تخفیف کش حساب میکنه.
- فستمود بین نشستها هم فعال میمونه و فقط با خاموشکردن دستی غیرفعال میشه.
- بهترین روش، روشنکردن فستمود از همون ابتدای نشسته، نه وسط یه مکالمهی پر از کانتکست کششده.
