برتری انویدیا داره از GPU فراتر میره
هوش مصنوعیخلاصهٔ کاملتر
تا همین چند وقت پیش روایت غالب دربارهٔ انویدیا ساده بود: چند سال تنها منبع GPUهای پیشرفته بود، بعد هایپراسکیلرهایی مثل آمازون و گوگل تراشهٔ خودشون رو ساختن و سرمایهگذارها پرسیدن این مزیت چقدر دووم میآره. نویسنده میگه این روایت تا حد زیادی درسته، ولی ناقصه، و بعد از گزارش مالی چهارشنبه یک روایت تازه شکل گرفته.
حرف اصلی مقاله اینه که با رسیدن محاسبات AI به مقیاس گیگاوات، ارکستراسیون (یعنی هماهنگ کردن جریان داده و کار بین اجزای دیتاسنتر) خودش تبدیل به مسئلهٔ سخت شده، و انویدیا بیشتر سختافزار پیشرفتهٔ همین لایه رو ساخته. یعنی حتی جایی که سر خود GPU رقابت بالا گرفته، انویدیا تو سیستمهای دور GPU دست بالا رو داره.
معماری فعلی که داره عرضه میشه Vera Rubin هست: GPU مدل Rubin کنار پردازندهٔ Vera، شتابدهندهٔ استنتاج Groq 3 LPX و رکهای مشابه برای استوریج و شبکه. به گفتهٔ نویسنده اینها هم به اندازهٔ خود GPU تخصصیان، فقط کارشون توکن تولید کردن نیست؛ کارشون اینه که هرچی بیرون GPU اتفاق میافته بهینه بمونه. اگه GPU موتوره، اینها بقیهٔ ماشینن.
تمرکز پردازندهٔ Vera روی هدایت دادهست. جیسون هاردی، معاون فناوری استوریج انویدیا، میگه حافظهٔ یک سرور محدوده و مشکل اینجاست که داده سر وقت به GPU برسه؛ با شتابدهی Vera تو این عملیاتها تا ۳ برابر بهبود دیدن و حالا میتونن از ظرفیت کامل فلش استفاده کنن بدون اینکه گلوگاه بخورن. با پایین اومدن هدف توکن بر وات، همین هدایت ترافیک اهمیت پیدا کرده.
همین مسئله بیرون انویدیا هم دیده میشه. OpenAI تو تراشهٔ Jalapeño سراغ راه دیگهای رفته: به گفتهٔ خودش این تراشه رو طوری طراحی کرده که جابهجایی داده و تأخیر ارتباط کمینه بشه و کل بار کاری داخل یک سیستم متصل بمونه. مسیر فرق داره ولی منطق یکیه، بازدهی بیشتر از راه کنترل هوشمندتر ترافیک بهجای صرفاً سیکل بیشتر. نویسنده میگه این خودش یک لایهٔ تازه برای رقابت باز میکنه و انویدیا اونجا هم باید با رقبا بجنگه، هرچند فعلاً فاصلهٔ زیادی گرفته.
نکات کلیدی:
- معماری Vera Rubin شامل GPU مدل Rubin، پردازندهٔ Vera، شتابدهندهٔ استنتاج Groq 3 LPX و رکهای استوریج و شبکهست
- انویدیا میگه شتابدهی پردازندهٔ Vera تا ۳ برابر بهبود تو عملیات جابهجایی داده داده
- شاخص کلیدی دیتاسنترها داره از توان خام به توکن بر وات جابهجا میشه
- OpenAI با تراشهٔ Jalapeño سراغ کمینه کردن جابهجایی داده داخل یک سیستم واحد رفته
- ارزش بازار انویدیا بین ابتدای ۲۰۲۳ تا میانهٔ ۲۰۲۵ ده برابر شد و بعدش شیب ملایمتری گرفت
