‏گوگل کلاد با A5X، معماری Vera Rubin انویدیا رو میاره

انویدیا تو بلاگش اعلام کرده که گوگل کلاد اینستنس‌های A5X رو بر پایهٔ NVIDIA Vera Rubin NVL72 راه انداخته. Vera Rubin نسل جدید پلتفرم انویدیاست که CPU به اسم Vera و GPUهای Rubin رو تو یه رک کنار هم میاره. A5X این سخت‌افزار رو با کارت شبکهٔ ConnectX-9 SuperNIC، شبکهٔ Virgo گوگل و نسل چهارم خنک‌کنندهٔ مایع گوگل ترکیب می‌کنه. نسخهٔ عمومی ماه بعد میاد و قراره به اروپا هم برسه. گوگل می‌خواد این زیرساخت رو تو چند سایت تا ۹۶۰ هزار GPU از نوع Rubin بزرگ کنه.

هدف اصلی A5X کارای سنگینی مثل inference ایجنت‌ها (یعنی اجرای مدل برای جواب دادن به درخواست‌ها) و reinforcement learning (یعنی مدل از تجربه و نتیجهٔ کارهاش یاد می‌گیره) در مقیاس بزرگه. تو این روش باید مدام تجربه تولید بشه، نتیجه‌ش سنجیده بشه و مدل آپدیت بشه. برای همین A5X به‌عنوان یه سیستم یکپارچه داخل AI Hypercomputer گوگل اومده که محاسبه، شبکه و ذخیره‌سازی رو با هم داره.

اولین مشتری A5X شرکت Ineffable Intelligence بوده، یه شرکت لندنی که David Silver، سازندهٔ AlphaGo، تأسیسش کرده. اونا دارن سیستم‌هایی به اسم «superlearner» می‌سازن که مدام از تجربهٔ خودشون یاد می‌گیرن. سیلور گفته این کار هم محاسبهٔ زیادی می‌خواد و هم یه اتصال خیلی نزدیک بین تولید تجربه و آموزش روی اون. به گفتهٔ اون، پهنای باند بالای Vera Rubin بین CPU و GPUها و بین خود GPUها، اجازه می‌ده مقیاس تحقیقاتشون رو بالاتر ببرن.

شرکت WPP هم معماری مرجع ایجنت خلاقش رو روی A5X با مدل‌های Nemotron و OpenShell انویدیا نشون داده. این ایجنت‌ها درخواست‌های محاوره‌ای رو به یه جریان کاری چندمرحله‌ای مثل ساخت ویدیو، افزایش کیفیت و تغییر سبک تبدیل می‌کنن و قبل از اجرا تأیید انسان می‌گیرن. OpenShell یه sandbox کنترل‌شده می‌ده که دسترسی ایجنت به دارایی‌های حساس برند محدود بمونه. تو تست‌های اولیهٔ WPP، کارایی که معمولاً یه کلاستر چندنودی لازم داشتن، روی یه اینستنس A5X اجرا شدن.

بخش دیگهٔ خبر Confidential Computing انویدیاست، یعنی مدل و داده حتی روی سخت‌افزاری که مال خودت نیست محافظت‌شده می‌مونن. گوگل کلاد جزو اولین ارائه‌دهنده‌هاییه که این قابلیت رو در مقیاس رک روی سرورهای bare metal مثل A4X Max (با GB300 NVL72) میاره. روی VMهای G4 با GPUهای RTX PRO 6000 Blackwell هم این قابلیت عمومی شده و مشتری‌هایی مثل Vertebrae و Polaris Cloud ازش استفاده می‌کنن. گوگل و انویدیا دارن قابلیت‌های NVIDIA DSX MaxLPS رو هم بررسی می‌کنن تا کارایی به ازای هر وات بهتر بشه.

نکات کلیدی:

• A5X بر پایهٔ Vera Rubin NVL72 و ConnectX-9 SuperNIC ساخته شده
• نسخهٔ عمومی ماه بعد میاد و به اروپا هم گسترش پیدا می‌کنه
• برنامهٔ گوگل: تا ۹۶۰ هزار GPU از نوع Rubin تو چند سایت
• اولین مشتری: Ineffable Intelligence، شرکت David Silver سازندهٔ AlphaGo
• تو تست WPP، کار یه کلاستر چندنودی روی یه اینستنس A5X اجرا شد
• Confidential Computing روی G4 با RTX PRO 6000 Blackwell عمومی شده