Vera Rubin و پردازنده Vera حالا روی Oracle Cloud
هوش مصنوعیخلاصهٔ کامل‌تر
انویدیا و اوراکل اعلام کردن که سیستم‌های Vera Rubin NVL72 و پردازنده‌های NVIDIA Vera حالا به‌صورت عمومی (GA) روی Oracle Cloud Infrastructure یا همون OCI در دسترسه. علاوه بر این، اوراکل می‌خواد سوپرکلاسترهای OCI رو با همین سیستم‌ها تا مقیاس چند گیگاواتی گسترش بده تا جواب تقاضای رو به رشد برای آموزش مدل، inference (یعنی اجرای مدل آموزش‌دیده برای جواب دادن) و اپلیکیشن‌های ایجنتی رو بده.
هر رک NVL72 هفتاد و دو تا GPU رو با NVLink (یعنی اتصال پرسرعت مستقیم بین GPUها) به هم وصل می‌کنه. شبکه چندلایه OCI هم این رک‌ها رو تا صدها هزار GPU کنار هم می‌ذاره. شبکه‌ش ترکیبی از Oracle Acceleron و Spectrum-X انویدیا با سوییچ‌های Spectrum-6 و DPUهای BlueField-4 هست. این گسترش روی زیرساخت فعلی OCI با سیستم‌های GB200 و GB300 سوار میشه و چون همه‌شون روی CUDA هستن، نرم‌افزار بین نسل‌های سخت‌افزار جابه‌جا میشه.
یه گزینه کوچیک‌تر هم تو راهه: HGX Rubin NVL8، یعنی هشت تا GPU از نسل Rubin توی یه سرور x86. این سرور دو تا CPU شصت‌وچهار هسته‌ای Intel Xeon 6، چهار ترابایت حافظه DDR5 و شبکه RDMA با سرعت 6.4 Tbps داره. یعنی تیم‌هایی که اپلیکیشن‌هاشون به x86 وابسته‌ست هم می‌تونن بدون مهاجرت سنگین از Rubin برای fine-tuning و inference استفاده کنن.
بخش جالب‌تر خبر پردازنده Vera هست. طبق این اطلاعیه، ایجنت‌ها فقط جواب تولید نمی‌کنن. بین هر بار صدا زدن مدل، ابزار اجرا می‌کنن، کد تست می‌کنن و داده می‌گیرن. اگه این کارهای CPU کند باشه، GPU گرون‌قیمت بیکار منتظر می‌مونه. Vera با کارایی تک‌رشته‌ای بالا و پهنای باند حافظه زیاد قراره این فاصله رو کم کنه. OCI Kubernetes Engine هم اجازه می‌ده CPU و GPU جدا از هم مقیاس بگیرن و Acceleron کدی که هوش مصنوعی تولید کرده و قابل اعتماد نیست رو با ایزوله‌سازی سخت‌افزاری اجرا می‌کنه.
OpenAI به‌عنوان نمونه اومده: تو Abilene مدل GPT-6 Astra رو روی یه سوپرکلاستر OCI با بیش از صد هزار GPU از نسل Blackwell آموزش داده و سرو کرده. مدیر فنی بخش compute تو OpenAI هم گفته دارن Vera رو برای sandboxهای ایجنتی‌شون روی OCI وارد محیط production می‌کنن.
نکات کلیدی:
- Vera Rubin NVL72 و Vera CPU از همین الان به‌صورت GA روی OCI در دسترسه.
- هر رک NVL72 هفتاد و دو GPU رو با NVLink وصل می‌کنه و سوپرکلاسترها تا صدها هزار GPU بزرگ می‌شن.
- HGX Rubin NVL8 هشت GPU، دو Xeon 6 شصت‌وچهار هسته‌ای، 4TB رم DDR5 و شبکه 6.4 Tbps داره.
- پردازنده Vera برای اجرای ابزار و کد ایجنت‌ها طراحی شده تا GPU بین فراخوانی‌های مدل بیکار نمونه.
- OpenAI مدل GPT-6 Astra رو روی بیش از صد هزار GPU از نسل Blackwell روی OCI آموزش داده.
