اوپنایآی جزئیات تراشه هوش مصنوعی Jalapeño رو فاش کرد
هوش مصنوعیخلاصهٔ کاملتر
اوپنایآی تو رویداد Hot Chips جزئیات بیشتری از تراشه اختصاصی هوش مصنوعیش به اسم Jalapeño منتشر کرد؛ تراشهای که با همکاری Broadcom ساخته شده. طبق گفته شرکت، این تراشه توان مصرفی اسمی (TDP) ۷۰۰ واتی داره، ولی تو تستهای واقعی مصرف پایدارش رو بار کاریهای امتحانشده زیر یا مساوی ۵۵۰ وات باقی مونده.
به گفته ریچارد هو، معاون بخش سختافزار اوپنایآی، این تراشهها تو رکهای ۱۲۸تایی دیپلوی میشن و یه پاد کامل هم ۲۰۴۸ تا ASIC داره. همین دیپلویمنت ۱۲۸تایی میتونه ۱.۷ اگزافلاپس محاسبات ۴بیتی انجام بده، ۲۷.۵ ترابایت حافظه HBM4 داره، و هر پکیجش هم پهنای باند حافظه ۱۵.۴ ترابایتبرثانیهای داره.
اوپنایآی این تراشه رو روی سه مدل تست کرده: مدل خودش GPT-OSS-120B، و همچنین R1 از DeepSeek و Kimi K2.5 از Moonshot AI. طبق بنچمارکهای InferenceX از SemiAnalysis، شرکت ادعا میکنه سیستمهای مبتنیبر Jalapeño تو throughput اوج بین ۱.۵ تا ۱.۹ برابر کار بیشتری انجام میدن، و تأخیر سرتاسریشون هم ۱.۷ تا ۳.۶ برابر کمتره؛ تو حالت تأخیر فوقپایین هم ۲.۱ تا ۴.۱ برابر سریعتر عمل میکنه، اونهم در مقایسه با رکهای GB200 NVL72 و GB300 NVL72 انویدیا.
با این حال اوپنایآی میگه قصد نداره دیپلوی سختافزار رقبا رو کم کنه و همچنان با انویدیا، Cerebras و بقیه شریکهاش همکاری میکنه، چون نیاز محاسباتیش اونقدر زیاده که با یه منبع بهتنهایی جواب نمیده. فروش این تراشه به شرکتهای دیگه هم فعلاً در برنامه نیست، چون خود اوپنایآی هنوز برای تأمین نیازهای داخلیش کم میاره. طبق گفته هو، نسخه دوم این تراشه عمیقاً تو مرحله توسعهست و نسخه سوم هم شروع شده؛ دیپلوی محدود Jalapeño از همین امسال شروع میشه و گسترش اصلیش برای سال بعده.
نکات کلیدی:
- Jalapeño تراشه هوش مصنوعی اختصاصی اوپنایآیه که با همکاری Broadcom ساخته شده و TDP اسمیش ۷۰۰ واته (مصرف واقعی زیر ۵۵۰ وات)
- هر رک ۱۲۸ تراشه داره و یه پاد کامل ۲۰۴۸ تا ASIC داره؛ رک ۱۲۸تایی ۱.۷ اگزافلاپس محاسبات ۴بیتی و ۲۷.۵ ترابایت HBM4 داره
- روی GPT-OSS-120B، DeepSeek R1 و Kimi K2.5 تست شده
- طبق بنچمارک InferenceX، تا ۱.۹ برابر throughput بیشتر و تا ۴.۱ برابر تأخیر کمتر از رکهای GB200/GB300 انویدیا ادعا شده
- فعلاً فروش این تراشه به شرکتهای دیگه در برنامه نیست؛ دیپلوی محدود از امسال و گسترش گستردهتر از سال آینده
