‏اینستنس‌های جدید EC2 G7 آمازون با GPUهای Blackwell انویدیا

به گفتهٔ آمازون، اینستنس‌های EC2 G7 حالا به‌صورت عمومی در دسترسن و برای کارهای استنتاج هوش مصنوعی، رندر گرافیک و تحلیل داده ساخته شدن. نکتهٔ اصلی خبر اینه که AWS خودش رو اولین ابر بزرگی معرفی می‌کنه که از GPUهای جدید NVIDIA RTX PRO 4500 Blackwell Server Edition پشتیبانی می‌کنه، اون‌هم در کنار پردازنده‌های سفارشی نسل ششم Intel Xeon.

مهم‌ترین ادعای عملکردی اینه که G7 تا ۴.۶ برابر استنتاج هوش مصنوعی و تا ۲.۱ برابر عملکرد گرافیکی بهتری نسبت به نسل قبلی یعنی G6 داره. برای تحلیل دادهٔ شتاب‌گرفته با GPU روی Amazon EMR و Amazon EKS هم سریع‌تر عمل می‌کنه.

بخش زیادی از این جهش به حافظه برمی‌گرده. هر GPU‏ ۳۲ گیگابایت حافظه داره؛ یعنی ۱.۳۳ برابر ظرفیت و ۲.۴۵ برابر پهنای باند حافظهٔ G6. کنارش هم 5th Gen Tensor Cores و 4th Gen RT Cores اومده که بار استنتاج و رندر رو سبک‌تر می‌کنه.

روی شبکه و ذخیره‌سازی هم تغییرات بزرگی هست. آمازون می‌گه G7 تا ۷۰۰ گیگابیت بر ثانیه پهنای باند شبکهٔ مبتنی بر EFA می‌ده که ۷ برابر G6 هست، و تا ۷.۶ ترابایت استوریج محلی NVMe SSD داره تا مدل‌ها و دیتاست‌های بزرگ نزدیک پردازش بمونن. موتورهای جدید NVENC و NVDEC هم انکود و دیکود ویدیوی ‏4:2:2 رو پشتیبانی می‌کنن و تا ۱.۵ برابر استریم ویدیوی هم‌زمان می‌دن.

از نظر مقیاس، هر اینستنس تا ۸ عدد GPU (در مجموع تا ۲۵۶ گیگابایت حافظهٔ گرافیکی)، تا ۱۹۲ هستهٔ مجازی و تا ۷۶۸ گیگابایت رم سیستم می‌ده و توی ۷ سایز مختلف عرضه می‌شه. برای ارتباط سریع بین GPUها هم از NVIDIA GPUDirect P2P و GPUDirect RDMA روی EFA و Amazon FSx for Lustre پشتیبانی می‌کنه.

برای شروع می‌شه از AWS Deep Learning AMIs یا NVIDIA Workstation AMIs استفاده کرد که درایورهای GPU از قبل روشون نصبه. G7 روی چند سیستم‌عامل مثل Amazon Linux، Ubuntu، RHEL و Windows Server کار می‌کنه و با کتابخونه‌های گرافیکی استانداردی مثل DirectX، Vulkan و OpenGL سازگاره.

فعلاً G7 فقط تو دو منطقهٔ US East (Ohio) و US West (Oregon) در دسترسه و با گزینه‌های خریدی مثل On-Demand، Savings Plans و Spot ارائه می‌شه.

نکات کلیدی:

• G7 اولین اینستنس ابری بزرگیه که GPU‏ NVIDIA RTX PRO 4500 Blackwell رو میاره
• تا ۴.۶ برابر استنتاج هوش مصنوعی و تا ۲.۱ برابر گرافیک سریع‌تر از G6
• هر GPU‏ ۳۲ گیگابایت حافظه، با ۱.۳۳ برابر ظرفیت و ۲.۴۵ برابر پهنای باند بیشتر
• شبکهٔ تا ۷۰۰ گیگابیت بر ثانیه EFA و تا ۷.۶ ترابایت استوریج محلی NVMe SSD
• فعلاً فقط تو دو منطقهٔ Ohio و Oregon در دسترسه