‏تراشهٔ Vera انویدیا زیر ذره‌بین: پهنای باند خیلی زیاد، تأخیر بین‌سوکتی بالا

Chester Lam تو Chips and Cheese بخش «غیرهسته‌ای» تراشهٔ سرور Vera انویدیا رو بررسی کرده؛ یعنی شبکهٔ داخلی، کش و حافظه. هسته‌های Olympus این تراشه برای کارایی بالای تک‌هسته طراحی شدن، ولی تغذیه‌کردنشون به عهدهٔ نسل دوم Scalable Coherency Fabric یا SCF هست. SCF یه شبکهٔ سرتاسری روی تراشه‌ست که هسته‌ها، کش و ورودی‌خروجی رو به هم وصل می‌کنه و احتمالاً ساختار mesh داره. هر نود این شبکه یه جفت هسته رو میزبانی می‌کنه تا تعداد نودها کم بمونه.

بزرگ‌ترین تغییر نسبت به Grace، نسل قبلی، حافظه‌ست. Vera یه رابط ۱۰۲۴ بیتی LPDDR5X-9600 داره که تا 1.228 TB/s پهنای باند می‌ده. Grace تأخیر حافظهٔ بالای 200 نانوثانیه داشت، ولی تو Vera تأخیر هم‌سطح سرورهای DDR5 شده. جالب اینجاست که حتی وقتی بقیهٔ threadها پهنای باند رو به سقف می‌رسونن، تأخیر از 200 نانوثانیه بالاتر نمی‌ره. یعنی مشکل noisy neighbor (کند شدن یه برنامه به‌خاطر برنامه‌های دیگه روی همون سرور) کمتر پیش میاد. ماژول‌های SOCAMM2 هم حافظه رو قابل‌تعویض کردن، برخلاف Grace که حافظه‌اش لحیم‌شده بود.

Vera یه کش L3 به اندازهٔ 164 مگابایت داره که بین همهٔ هسته‌ها مشترکه، و هر هسته هم 2 مگابایت L2 داره. پهنای باند L3 تو حالت تک‌هسته 88.5 GB/s هست ولی وقتی همهٔ هسته‌ها فعالن به 33.1 GB/s برای هر هسته می‌رسه. AMD تو Genoa-X برعکس عمل کرده: کش رو بین خوشه‌های هشت‌هسته‌ای تقسیم کرده تا هر هسته تقریباً 85 تا 90 GB/s بگیره، ولی یه thread فقط به 96 مگابایت از L3 دسترسی داره.

لینک بین دو سوکت، NVLink C2C، پهنای باند خیلی بالایی داره: بیش از 587 GB/s برای خوندن و تا 780 GB/s تو الگوی خوندن و نوشتن همزمان. نویسنده می‌گه این از پهنای باند حافظهٔ مستقیم خیلی از سرورها هم بیشتره. ولی تأخیرش بالاست: دسترسی به حافظهٔ سوکت دیگه حدود 309 نانوثانیه طول می‌کشه، در حالی که تو Genoa-X حدود 223 نانوثانیه‌ست. جالب‌تر اینکه بدون بار کافی روی لینک، تأخیر به بیش از 370 نانوثانیه می‌رسه.

تأخیر هسته به هسته (یعنی وقتی دو هسته یه مقدار مشترک رو با عملیات atomic بین خودشون رد و بدل می‌کنن) داخل یه سوکت به‌طور میانگین 148.5 نانوثانیه‌ست. این عدد ثابت ولی بالاست و از Grace، Graviton 4 و Genoa-X بدتره. بین دو سوکت هم حدود 660 نانوثانیه می‌شه که نویسنده اونو غیرعادی بالا می‌دونه؛ Genoa-X اینجا حدود 209 نانوثانیه داره.

تو SPEC CPU2026، یه سیستم Vera در مقایسهٔ نود به نود از Graviton 5 جلو می‌زنه، ولی در مقایسهٔ سوکت به سوکت عقب می‌مونه چون Graviton 5 بیش از دو برابر هسته داره. با این حال تو تست‌های سنگین از نظر حافظه مثل 749.fotonik3d، Vera حدود 20٪ جلوتره. جمع‌بندی نویسنده اینه که Vera تعداد هسته رو فدای قدرت هر هسته کرده و برای کارهایی که باید سریع تموم بشن و همهٔ هسته‌ها رو پر نمی‌کنن، رقیب سختیه.

نکات کلیدی:

• حافظهٔ ۱۰۲۴ بیتی LPDDR5X-9600 با پهنای باند 1.228 TB/s و ماژول‌های قابل‌تعویض SOCAMM2
• تأخیر حافظه حتی زیر بار کامل زیر 200 نانوثانیه می‌مونه
• کش L3 مشترک 164 مگابایتی و L2 دو مگابایتی برای هر هسته
• NVLink C2C تا 780 GB/s پهنای باند بین‌سوکتی داره ولی تأخیر حافظهٔ راه دورش حدود 309 نانوثانیه‌ست
• تأخیر هسته به هسته بین دو سوکت حدود 660 نانوثانیه، در برابر 209 نانوثانیه در Genoa-X
• تو 749.fotonik3d حدود 20٪ از Graviton 5 سریع‌تره، با اینکه هستهٔ خیلی کمتری داره