‏مینی‌پی‌سی EVO X3 و EVO X2؛ تفاوت فقط یک پورته

شرکت GMKtec دو تا مینی‌پی‌سی EVO X2 و EVO X3 رو کنار هم می‌فروشه و تو این مقاله اومده که هر دو دقیقاً یه چیپ AMD Strix Halo و ۱۲۸ گیگابایت حافظهٔ اشتراکی دارن. Strix Halo یعنی CPU و GPU روی یه دای و روی یه استخر حافظهٔ مشترک که بیشترش رو می‌شه به GPU سپرد. نتیجه اینه که برای هر مدلی که تو همین ۱۲۸ گیگ جا بشه، تعداد توکن بر ثانیهٔ این دو دستگاه عملاً یکیه.

تنها فرق واقعی، یه پورت Oculink پشت EVO X3 هست: یه لینک PCIe با پهنای باند ۶۳ گیگابایت بر ثانیه، یعنی همون کلاس اتصالی که کارت گرافیک داخل یه کیس بزرگ ازش استفاده می‌کنه، فقط از بیرون. پس برای اولین بار می‌شه به یه مینی‌پی‌سی Strix Halo کارت گرافیک واقعی RTX وصل کرد. اختلاف قیمت این دو حدود ۱۰۰ دلاره، تو ردهٔ ۳۶۹۹ دلار.

به گفتهٔ نویسنده، سود بردن از کارت بیرونی کاملاً به این بستگی داره که مدل تو VRAM اون کارت جا بشه یا نه. با یه RTX 5080 با ۱۶ گیگ VRAM، مدلی که راحت جا می‌شد حدود سه برابر سریع‌تر از GPU داخلی جواب داد؛ ولی همین که مدل از ۱۶ گیگ رد شد، سرعتش به حدود ۱.۶ توکن بر ثانیه سقوط کرد، در حالی که خود Strix Halo همون مدل رو با حدود ۱۱ توکن بر ثانیه جلو می‌برد.

با یه RTX Pro 6000 که ۹۶ گیگ VRAM داره ورق برمی‌گرده: یه مدل dense سی‌ودو میلیاردی حدود ۶۹ توکن بر ثانیه و یه مدل MoE صدوبیست‌ودو میلیاردی که هر بار فقط حدود ۱۰ میلیارد پارامترش فعاله، حدود ۱۲۱ توکن بر ثانیه اجرا شد. جالب‌تر اینکه با Vulkan، یعنی یه API محاسباتی که روی سخت‌افزار هر دو شرکت کار می‌کنه، می‌شه یه مدل رو هم‌زمان بین GPU انویدیا و چیپ AMD تقسیم کرد؛ کاری که CUDA و ROCm به‌تنهایی اجازه‌اش رو نمی‌دن.

تو سنگین‌ترین تست، یه مدل ۱۲۲ میلیاردی با دقت Q8 و حجم حدود ۱۳۰ گیگ که تو هیچ‌کدوم از دو GPU جا نمی‌شد، با پخش لایه‌ها بین دو کارت حدود ۳۷ توکن بر ثانیه داد و خود لینک Oculink گلوگاه شد. راه‌اندازی‌اش هم ساده نبود: کارت باید بعد از بوت hot-plug می‌شد و حافظهٔ GPU هم دستی تو BIOS تنظیم می‌شد. جمع‌بندی نویسنده اینه: اگه برنامه‌ای برای کارت بیرونی نداری، اون ۱۰۰ دلار فقط یه پورت بلااستفاده و بدنهٔ لرزون‌تر برات می‌خره؛ اگه داری، حواست باشه داک و خود کارت خیلی گرون‌تر از این ۱۰۰ دلار تموم می‌شن.

نکات کلیدی:

• هر دو دستگاه چیپ AMD Strix Halo و ۱۲۸ گیگابایت حافظهٔ اشتراکی یکسان دارن
• تنها تفاوت سخت‌افزاری، پورت Oculink با پهنای باند ۶۳ گیگابایت بر ثانیه روی EVO X3
• اختلاف قیمت حدود ۱۰۰ دلار، در ردهٔ ۳۶۹۹ دلار
• سرریز مدل از VRAM کارت بیرونی: ۱.۶ توکن بر ثانیه در برابر ۱۱ توکن بر ثانیهٔ خود APU
• کارت RTX Pro 6000 با ۹۶ گیگ VRAM: ۶۹ توکن بر ثانیه روی مدل dense سی‌ودو میلیاردی
• اجرای هم‌زمان روی AMD و Nvidia فقط با Vulkan جواب می‌ده، نه CUDA و نه ROCm