‏توکن‌های هوش مصنوعی واقعاً چقدر هزینه دارن؟

Hadley Wickham تو این مقاله سراغ یه شک رایج رفته: اینکه شرکت‌های بزرگ هوش مصنوعی با پول سرمایه‌گذارها قیمت توکن رو مصنوعی پایین نگه داشتن تا بعداً قیمت رو ببرن بالا. نویسنده می‌گه به نظرش این بیشتر درست نیست و برای اثباتش مدل باز Kimi K3 رو بررسی کرده. به گفتهٔ خودش Opus 5.5 یه کم باهوش‌تره، ولی Kimi K3 به خاطر هزینه‌ش هنوز انتخابشه و نمایندهٔ خوبی برای یه مدل frontier حساب می‌شه.

چون Kimi K3 مدل بازه، ارائه‌دهنده‌های زیادی روی OpenRouter می‌فروشنش. نویسنده یه قیمت blended حساب کرده، یعنی قیمت میانگین با نسبت‌های معمول agentic coding: ورودی به خروجی ۲۰ به ۱ و ۹۵ درصد ورودی از cache. ارزون‌ترین‌ها حدود ۰.۵۹ دلار برای هر میلیون توکن هستن و شش ارائه‌دهنده مثل BaseTen، Together و Amazon Bedrock همه حدود ۱.۱۳ دلار. به گفتهٔ نویسنده این همه رقابت فشار زیادی روی قیمت میاره.

بعد سراغ self-hosting رفته، یعنی اینکه خودت سرور بخری و مدل رو اجرا کنی. دستورالعمل vLLM برای Kimi K3 حداقل ۸ تا GB300 می‌خواد. یه سرور Supermicro با این مشخصات حدود ۵۵۰ هزار دلاره و با وام ۸ درصدی سه‌ساله می‌شه ماهی حدود ۱۷ هزار دلار. با هزینهٔ colocation (یعنی اجارهٔ جا تو دیتاسنتر)، برق و پهنای باند، جمعش ماهی حدود ۲۳ هزار دلار می‌شه. اجارهٔ GPU با حدود ۴ دلار در ساعت هم تقریباً همین‌قدر درمیاد.

طبق داده‌های SemiAnalysis، هر GPU حدود ۶۰۰۰ توکن در ثانیه تولید می‌کنه. پس ۸ تا GPU ماهی حدود ۱۲۴ میلیارد توکن می‌دن. با ۷۵ درصد بهره‌وری، هزینه می‌شه حدود ۰.۲۵ دلار برای هر میلیون توکن، در حالی که BaseTen و بقیه ۱.۱۳ دلار می‌گیرن. یعنی قیمت‌ها جای یه سود سالم دارن. نویسنده خودش قبول داره این حساب ساده‌ست و هزینهٔ نیروی انسانی رو حساب نکرده. اینم گفته که برای پیدا کردن هزینه‌ها از Claude کمک گرفته و ممکنه یه جا اشتباه کرده باشه.

نویسنده معتقده یارانه هنوز هست، ولی تو قیمت API نیست، تو پلن‌های اشتراکیه. به استناد یه پست SemiAnalysis، یه پلن ۲۰۰ دلاری در ماه بین ۲ تا ۱۰ هزار دلار توکن بهت می‌ده. این پلن‌ها فقط برای افراد و کسب‌وکارهای کوچیکه و شرکت‌های بزرگ باید قیمت هر توکن رو بدن. هزینهٔ آموزش مدل هم که شاید چند صد میلیون دلار بوده تو این حساب نیست. اون رو سرمایه‌گذارهای Moonshot AI دادن، از جمله دولت چین، که می‌شه اونم یه جور یارانه دونست.

نکات کلیدی:

• قیمت blended مدل Kimi K3 روی OpenRouter از حدود ۰.۵۹ تا ۱.۸۱ دلار برای هر میلیون توکنه.
• اجرای Kimi K3 روی سرور شخصی حداقل ۸ تا GPU مدل GB300 می‌خواد و ماهی حدود ۲۳ هزار دلار خرج داره.
• هزینهٔ تخمینی self-hosting با ۷۵ درصد بهره‌وری حدود ۰.۲۵ دلار برای هر میلیون توکنه.
• طبق SemiAnalysis یه پلن اشتراکی ۲۰۰ دلاری بین ۲ تا ۱۰ هزار دلار توکن می‌ده.
• هزینهٔ آموزش مدل تو این تحلیل حساب نشده.