‏مدل‌های کوچک محلی، کابوس تازهٔ هایپراسکیلرها

شروع بحث یه حساب سرانگشتیه: برای توجیه سرمایه‌گذاری فعلی، پلتفرم‌های AI تا ۲۰۳۰ باید سالی حدود ۲ تریلیون دلار درآمد بسازن، در حالی که اگه هر بزرگسال آمریکایی ماهی ۲۰ دلار خرج کنه، فقط ۶۸.۵ میلیارد دلار جمع می‌شه. پس تنها امیدشون بازار سازمانیه، یعنی درآوردن چیزی حدود ۶ درصد از تولید ناخالص داخلی آمریکا. نویسنده می‌گه سه چیز جلوی این هدف وایستاده.

اولی سقف بودجه‌ایه که شرکت‌ها برای خرج توکن گذاشتن. دومی مدل‌های چینی open-weight (یعنی مدل‌هایی که وزن‌هاشون آزادانه قابل دانلوده). تو آزمایش بلومبرگ و Vals AI، هفت مدل آمریکایی و چینی یه فروشگاه اینترنتی قهوه ساختن و بیشترشون ۱۰۰٪ درست کار کردن، ولی Claude Fable 5 ‏۴۸.۹۹ دلار خرج برداشت و Kimi K3 فقط ۱۱.۹۹ دلار. سهم مدل‌های چینی تو OpenRouter از ژوئن از آمریکایی‌ها جلو زد و ماه بعد از ۶۰٪ رد شد.

تهدید سوم اجرای محلیه و مقالهٔ Intelligence per Watt از استنفورد سنگ محکشه. با ۲۰ مدل محلی، ۸ شتاب‌دهنده و یک میلیون پرسش واقعی، مدل‌های محلی ۸۸.۷٪ پرسش‌ها رو درست جواب دادن، شاخص هوش به ازای وات از ۲۰۲۳ تا ۲۰۲۵ ‏۵.۳ برابر شده و پوشش پرسش‌های قابل‌سرویس محلی از ۲۳.۲٪ به ۷۱.۳٪ رسیده. کلمنت هم حساب کرده مدل کوچک به‌طور میانگین تو ۸۱.۲٪ موارد به‌اندازهٔ مدل بزرگ یا بهتر جواب می‌ده، با ۵۰ تا ۸۵ درصد انرژی کمتر.

سخت‌افزار هم داره همین راه رو می‌ره: RTX Spark انویدیا با ۱۲۸ گیگابایت حافظهٔ یکپارچه که مدل ۱۲۰ میلیارد پارامتری رو با پنجرهٔ یک میلیون توکنی محلی اجرا می‌کنه، دسکتاپ DGX Station حدود ۹۴ هزار دلاری، Portable Computer پرپلکسیتی بدون هزینهٔ توکن، مک‌های جدید اپل با M6 و M5 Ultra، و Granite 4.2 آی‌بی‌ام در نسخه‌های ۳، ۸ و ۳۰ میلیارد پارامتری. مزیت این‌ها فقط قیمت نیست؛ داده هم از شرکت بیرون نمی‌ره.

بخش ترسناک ماجرا زمان‌بندی پرداخت‌هاست. نویسنده از تحلیل Groundbreaker نقل می‌کنه که قراردادهای take-or-pay شبیه وام مسکن با نرخ تشویقی‌ان: پرداخت از لحظهٔ امضا شروع نمی‌شه، از وقتی شروع می‌شه که دیتاسنتر تحویل و برق‌دار بشه، یعنی ۲۴ تا ۳۶ ماه بعد. تو ۲۰۲۷ و ۲۰۲۸ باید ۸۵۲ میلیارد دلار نقد بابت این قراردادها داده بشه، و بعیده مشتری‌هایی که دارن به مدل ارزون‌تر کوچ می‌کنن سال بعد خرجشون رو چند برابر کنن.

نکات کلیدی:

• برای توجیه capex، پلتفرم‌های AI تا ۲۰۳۰ به سالی حدود ۲ تریلیون دلار درآمد نیاز دارن
• مدل‌های محلی ۸۸.۷٪ از یک میلیون پرسش واقعی رو درست جواب دادن (مطالعهٔ استنفورد)
• شاخص intelligence per watt بین ۲۰۲۳ تا ۲۰۲۵ ‏۵.۳ برابر بهتر شده
• سهم مدل‌های چینی تو OpenRouter از ۶۰٪ رد شد و تو Hugging Face ۴۱.۴٪ دانلودهاست
• سررسید ۸۵۲ میلیارد دلار پرداخت نقدی بابت قراردادهای کامپیوت در ۲۰۲۷ و ۲۰۲۸
• سخت‌ترین کارهای استدلالی (سطح ۵) هنوز حدود ۹۵٪ حل‌نشده مونده