چطور هزینه‌ی توکن agentهای Claude رو کنترل کنیم
هوش مصنوعیClaude Opus 5.5خلاصهٔ کامل‌تر
مقاله با یه عدد ترسناک شروع می‌کنه: یه نفر که workflowهای سنگین مبتنی بر AI داره، گزارش داده تو یه روز حدود ۲۵۰۰ دلار توکن خرج کرده. اگه همین روند ادامه پیدا کنه یعنی ماهی حدود ۵۰ هزار دلار و سالی بیشتر از نیم میلیون دلار. نویسنده تأکید می‌کنه این یه مورد افراطیه، نه حالت عادی، ولی نشون می‌ده وقتی agentها رو ساعت‌ها یا هفته‌ها بی‌نظارت ول کنی، هزینه چقدر سریع بالا می‌ره.
فرق agent با چت معمولی اینه که agent مدت طولانی context رو نگه می‌داره، مدام فایل‌ها و لاگ‌ها و پیام‌های قبلی رو دوباره می‌خونه و اغلب تو یه حلقه خروجی خودش رو با هدف مقایسه می‌کنه. مقاله از مهندس‌های Anthropic مثال می‌زنه که یه agent حدود دو هفته یه اپ دسکتاپ رو از یه زبان به زبان دیگه بازنویسی کرده، یا یه محقق که شونزده agent موازی رو برای ساخت یه کامپایلر راه انداخته. هر بار خوندن فایل و هر حلقه‌ی اصلاح، توکن قابل‌پرداخته.
اولین اهرم prompt caching هست، یعنی وقتی context قبلاً یه بار برای مدل فرستاده شده، اگه درخواست بعدی زود برسه، بخش کش‌شده فقط حدود ۵ تا ۱۰ درصد قیمت عادی رو داره. به گفته‌ی نویسنده، نتیجه‌ش اینه که زمان‌بندی کار به اندازه‌ی خود درخواست مهمه. سشنی که پیوسته کار می‌کنه مدام از کش استفاده می‌کنه، ولی سشنی که چند ساعت بیکار بمونه، موقع برگشتن دوباره قیمت کامل می‌ده.
اهرم دوم Batch API هست، یعنی کارهای غیرفوری رو یه جا می‌فرستی و نتیجه رو بعداً (اغلب تا ۲۴ ساعت) می‌گیری. این درخواست‌ها تو زمان‌هایی اجرا می‌شن که سرورهای ارائه‌دهنده خلوت‌ترن، برای همین ارزون‌ترن. نوشتن پیش‌نویس‌ها تو شب، اجرای مجموعه‌های بزرگ ارزیابی یا رسیدگی به کارهای عقب‌افتاده‌ی کم‌اولویت گزینه‌های خوبی برای این روشن، و کیفیت خروجی هم تغییری نمی‌کنه.
نویسنده انتخاب مدل مناسب برای هر کار رو بزرگ‌ترین اهرم می‌دونه: Haiku برای کارهای ساده و کم‌ریسک، Sonnet برای کارهای روزمره و Opus فقط برای کارهایی که کیفیت و عمق استدلال واقعاً مهمه. اجرای همه‌چیز با قوی‌ترین مدل سریع‌ترین راه بالا بردن صورت‌حسابه، بدون اینکه کیفیت به همون نسبت بالا بره. با اومدن هر نسخه‌ی جدید هم بهتره همون مجموعه تسک‌ها رو دوباره بنچمارک کنی.
پیشنهاد بعدی اینه که agent رو مثل یه کارمند تازه‌کار آموزش بدی: یه کار رو چند بار اجرا کنی، خروجی‌ها رو بررسی کنی، لیست اصلاحات رو بهش برگردونی و تکرار کنی تا نتیجه خوب بشه. این اول کار توکن بیشتری می‌خوره، ولی آخرش یه روال کاری ثابت (SOP) داری که دیگه لازم نیست هر بار توضیحش بدی. در آخر هم مقاله می‌گه برای بیشتر کارها یه agent خوب تنظیم‌شده کافیه و تعداد agentهای همزمان باید با نیاز واقعی و بودجه بالا بره، نه صرفاً چون دسترسی API داری.
نکات کلیدی:
- یه کاربر حدود ۲۵۰۰ دلار در روز خرج توکن کرده، یعنی حدود ۵۰ هزار دلار در ماه
- prompt caching هزینه‌ی context تکراری رو به حدود ۵ تا ۱۰ درصد قیمت عادی می‌رسونه، به شرطی که درخواست‌ها نزدیک به هم باشن
- Batch API ارزون‌تره ولی نتیجه ممکنه تا ۲۴ ساعت طول بکشه
- تقسیم کار بین Haiku، Sonnet و Opus بزرگ‌ترین اهرم کنترل هزینه‌ست
- آموزش agent با اجرای چندباره و بازخورد، اول گرون‌تره ولی هزینه‌ی هر تسک رو بعداً کم می‌کنه
