‏Inference داره مهم‌ترین بازار نرم‌افزار می‌شه

Tom Tunguz تو این مقاله می‌گه inference (یعنی اجرای مدل‌های هوش مصنوعی برای جواب دادن به درخواست‌ها، در مقابل آموزش مدل) داره مهم‌ترین بازار نرم‌افزار می‌شه. برای مقایسه، میانهٔ دههٔ ۲۰۱۰ دیتابیس مهم‌ترین بازار بود؛ اونقدر بزرگ که یه استارتاپ با ۲ درصد سهم بازار می‌تونست IPO کنه.

عددها اینه: سال ۲۰۲۵ شرکت‌ها حدود ۲۵ میلیارد دلار برای اجرای مدل‌ها خرج کردن. امسال این بازار به حدود ۱۳۰ میلیارد دلار می‌رسه که نزدیک پیش‌بینی ۱۶۱ میلیارد دلاری Gartner برای دیتابیس‌هاست. تا ۲۰۲۷ هم inference به حدود ۳۵۰ میلیارد دلار می‌رسه و تقریباً دو برابر بازار دیتابیس (۱۹۰ میلیارد) می‌شه. به گفتهٔ نویسنده این یعنی هر اپلیکیشنی داره به یه فروشندهٔ inference تبدیل می‌شه.

نویسنده سه تغییر تو اقتصاد اپلیکیشن‌ها می‌بینه. اول، هزینهٔ مصرف از حق لایسنس یا اشتراک پایه بیشتر می‌شه. این روی نحوهٔ پرداخت پورسانت فروشنده‌ها اثر می‌ذاره، مشتری‌ها پلن قابل پیش‌بینی می‌خوان چون از بودجهٔ ترکیده می‌ترسن، و پیش‌بینی درآمد سخت‌تر می‌شه.

دوم، gross margin (یعنی درصدی از درآمد که بعد از هزینهٔ مستقیم ارائهٔ سرویس می‌مونه) از میانگین ۷۲ درصدی نرم‌افزارهای کلاسیک پایین‌تر میاد. مگه اینکه اپ یه harness اختصاصی بسازه که مصرف توکن رو کم کنه، یا رقابت بین مدل‌ها قیمت رو سریع‌تر از کمبود سخت‌افزار پایین بیاره. این حساب CAC (هزینهٔ جذب مشتری) و زمان برگشت سرمایه رو هم به هم می‌ریزه.

سوم، BYOK (یعنی مشتری کلید API یا کلاستر GPU خودش رو میاره). اینجا فروشنده تقریباً حاشیهٔ سود خالص نرم‌افزار رو می‌گیره، ولی روی یه قرارداد خیلی کوچیک‌تر. یعنی باید بین درآمد و حاشیهٔ سود یکی رو انتخاب کنه.

آیا جنگ قیمت جلوی اینا رو می‌گیره؟ به گفتهٔ مقاله هزینهٔ توکن با در نظر گرفتن توانایی مدل، هر فصل حدود ۴۷ درصد ارزون‌تر می‌شه. ولی قیمت اعلامی مدل‌های پرچم‌دار مدام بالا می‌ره: قیمت ترکیبی تو ۱۸ ماه از ۰.۹۶ به ۱۱.۲۵ دلار رسید، تا اینکه GPT-6 Sol اونو به ۴ دلار برگردوند. نویسنده می‌گه زیرساخت حالا بخش بزرگی از هزینهٔ مستقیم شرکت‌هاست و ممکنه بیشتر از نصف درآمد رو بخوره. برای همین شرکت‌ها دنبال صرفه‌جویی با مدل‌های کوچیک‌تر، harnessهای بهتر و روش‌های جدید routing (یعنی فرستادن هر درخواست به مدل مناسب) می‌رن، و این به نظرش کلی فرصت نوآوری می‌سازه.

نکات کلیدی:

• بازار inference: حدود ۲۵ میلیارد دلار در ۲۰۲۵، حدود ۱۳۰ میلیارد امسال، حدود ۳۵۰ میلیارد در ۲۰۲۷
• بازار دیتابیس طبق Gartner حدود ۱۶۱ میلیارد و تا ۲۰۲۷ حدود ۱۹۰ میلیارد دلاره
• gross margin میانگین ۷۲ درصدی نرم‌افزار کلاسیک زیر فشار هزینهٔ inference پایین میاد
• BYOK حاشیهٔ سود رو بالا نگه می‌داره ولی قرارداد رو خیلی کوچیک‌تر می‌کنه
• هزینهٔ توکن با احتساب توانایی هر فصل حدود ۴۷ درصد کم می‌شه، ولی قیمت مدل‌های پرچم‌دار بالا رفته
• قیمت ترکیبی مدل‌های پرچم‌دار تو ۱۸ ماه از ۰.۹۶ به ۱۱.۲۵ دلار رسید و GPT-6 Sol اونو به ۴ دلار رسوند