‏مدل‌های محلی + مهندس ارزان‌تر در برابر LLMهای مرزی

یه تصور رایج اینه که هزینه‌ی inference (اجرای مدل‌های زبانی) داره کاهش پیدا می‌کنه، اما واقعیت برای لب‌های مرزی آمریکایی برعکسه. GPT 5.5 کمتر از دو ماه پس از نسخه قبلی منتشر شد و قیمت API رو دو برابر کرد — الان بیش از ۳ برابر GPT-5 هشت ماه پیش قیمت داره. Gemini 3.5 Flash هم سه برابر نسخه قبلی‌اش گران‌تر شده. Anthropic هم با تغییر tokenizer در Opus-4.7، مصرف توکن رو بین ۳۲ تا ۴۷ درصد بیشتر کرده.

نویسنده برای مقایسه، یه نسبت ترکیبی مصرف توکن تعریف کرده: به ازای هر ۱ میلیون توکن ورودی (شامل cache)، حدود ۵۰ هزار توکن خروجی. با در نظر گرفتن نرخ cache hit هر پروایدر، قیمت‌های مقایسه‌ای این‌طوری می‌شن: