‏Pi رایگانه، ولی هزینه‌ش از کجا میاد؟

Pi یه agent harness متن‌بازه، یعنی برنامه‌ای که گفتگو با مدل هوش مصنوعی رو مدیریت می‌کنه، ابزارها رو بهش می‌ده، اجراشون می‌کنه و نتیجه رو برمی‌گردونه. خود Pi با لایسنس MIT منتشر شده و هیچ اشتراک یا هزینه‌ای نداره. نویسنده می‌گه Pi مجانیه، همون‌طور که ماشین وقتی بنزینش رو خودت می‌دی مجانیه.

به گفته‌ی مقاله، هزینه از سه جا میاد. اول، خود مدل‌ها: هر درخواستی که Pi به GPT یا Claude می‌فرسته رو سرویس‌دهنده بر اساس توکن حساب می‌کنه. دوم، مدل‌های تخصصی که از code mode صدا زده می‌شن، مثل classifier به اسم Jev یا مدل‌های تولید تصویر. بعضی از اینا قیمت ثبت‌شده توی کاتالوگ ندارن و ممکنه توی گزارش مصرف بدون مبلغ دلاری بیان، پس راحت می‌شه خرج واقعی رو دست‌کم گرفت. سوم، کارای پشت‌صحنه مثل cache warming.

code mode یعنی ایجنت به جای ریختن خروجی خام ابزارهای MCP توی context مدل، یه برنامه‌ی کوچیک JavaScript می‌نویسه که ابزارها رو صدا می‌زنه، نتیجه‌ها رو فیلتر می‌کنه و فقط یه خلاصه برمی‌گردونه. تیم Pi گزارش داده توی یه تست با GPT 5.6، توکن‌های prompt از حدود ۵۳۰۰ به ۳۳۰۰ رسیده، یعنی حدود ۴۰٪ کمتر. نویسنده هشدار می‌ده این فقط یه بنچمارک با یه تنظیم خاصه، نه کاهش ۴۰ درصدی برای همه‌ی کارها. یه نکته‌ی دیگه: اسکریپت توی sandbox اجرا می‌شه ولی ابزارها دسترسی‌های خودشون رو دارن و اگه اسکریپت وسط کار خطا بده، کارای انجام‌شده rollback نمی‌شن.

virtual model یه مدل مجازیه که در واقع روتره. قبل از هر درخواست تصمیم می‌گیره کدوم مدل واقعی جواب بده، مثلاً مدل قوی و گرون برای برنامه‌ریزی و مدل ارزون برای پیاده‌سازی. ولی عوض کردن مدل وسط جلسه می‌تونه prompt cache رو بی‌اثر کنه و تخفیف توکن‌های کش‌شده رو از دست بدی. classifierی هم که تصمیم می‌گیره خودش تأخیر و مصرف داره. نویسنده می‌گه تنها راه فهمیدن صرفه‌ی روتر، مقایسه‌ش با یه مدل تکی روی کارای واقعی خودته.

cache warming برای وقتیه که یه ابزار طولانی بیشتر از عمر کش طول بکشه و درخواست بعدی با قیمت کامل حساب بشه. Pi فقط وقتی کش رو تازه می‌کنه که تخمین بزنه حداقل ۵ سنت صرفه‌جویی داره. می‌شه warming بین اجراها (idle) رو روشن کرد یا کلاً خاموشش کرد. این درخواست‌ها توی گفتگوی مدل دیده نمی‌شن ولی توی جمع مصرف جلسه حساب می‌شن و با دستور session می‌شه دیدشون.

Pi Durable هم یه پکیج آزمایشی جداست برای برنامه‌هایی که گفتگوی ایجنت باید بعد از ری‌استارت ادامه پیدا کنه. لایه‌ی قیمت جدیدی نداره، ولی انتخاب storage بین memory، SQLite و JSONL روی قابل‌اعتماد بودن اثر می‌ذاره و APIهاش ممکنه عوض بشن.

نکات کلیدی:

• خود Pi با لایسنس MIT مجانیه و هزینه رو مستقیم به سرویس‌دهنده‌ی مدل می‌دی
• code mode توی یه تست GPT 5.6 توکن‌های prompt رو از حدود ۵۳۰۰ به ۳۳۰۰ رسونده
• بعضی مدل‌های جانبی مثل Jev ممکنه بدون مبلغ دلاری توی گزارش مصرف بیان
• عوض کردن مدل وسط جلسه با روتر می‌تونه prompt cache رو بی‌اثر کنه
• cache warming فقط وقتی اجرا می‌شه که حداقل ۵ سنت صرفه‌جویی تخمین زده بشه
• خطای وسط اسکریپت code mode کارای انجام‌شده‌ی ابزارها رو برنمی‌گردونه