Blaize میگه راز هوش مصنوعی ارزون، کارِ کمتره نه تراشهٔ بزرگتر
هوش مصنوعیخلاصهٔ کاملتر
نویسنده، مکس مکسفیلد، تعریف میکنه که سه ساله تقریباً هر بحثی دربارهٔ پردازندهها و شتابدهندههای هوش مصنوعی آخرش به رقابت سر عددهای بزرگتر میرسه: پارامتر بیشتر، پهنای باند حافظهٔ بیشتر، TOPS بیشتر. به گفتهٔ اون، گفتوگوش با تیم Blaize مسیر دیگهای داشت؛ اونا بهجای ساختن پردازندهٔ بزرگتر، از کارِ کمتر حرف میزدن. منظورشون هم این نیست که هوش مصنوعی محاسبات کمتری انجام بده، بلکه اینه که محاسبهٔ غیرضروری انجام نشه و مهمتر از اون، داده بیدلیل جابهجا نشه.
نویسنده برای توضیحش از تشبیه کارخونه استفاده میکنه: قطعه از ماشین A به B و C میره و خط تولید پیش میره؛ کاری که هیچوقت نباید بکنیم اینه که بعد از هر مرحله قطعه رو برگردونیم انبار. انبار کار مفیدی انجام نمیده و هر رفتوبرگشت اضافه، وقت و انرژی میبره. استنتاج هوش مصنوعی هم به گفتهٔ Blaize دقیقاً همین مشکل رو داره: خروجی هر لایه ورودی لایهٔ بعدیه و بردنِ مدام این دادههای میانی به حافظهٔ خارجی و برگردوندنشون به یه گلوگاه جدی تبدیل میشه.
جواب Blaize چیزیه که بهش میگن Graph Streaming Processor یا GSP. بهجای اینکه یه بار کاری هوش مصنوعی رو مجموعهای از محاسبات جدا از هم ببینه، یه زمانبند سختافزاری داره که گراف جریان دادهٔ مدل رو میفهمه و تلاش میکنه دادههای میانی تا جای ممکن داخل خود پردازنده جریان داشته باشن. این تراشه یه پردازندهٔ برنامهپذیر تکقطعهایه که مخصوص استنتاج طراحی شده، نه آموزش مدل.
مفهوم دوم Hybrid AI هست. نویسنده مثال یه فرودگاه بزرگ با ۱۰ هزار دوربین امنیتی رو میزنه: میشه همهٔ فریمها رو به یه مدل زبانی-تصویری بزرگ روی چند GPU فرستاد، ولی هزینهٔ سختافزار و برقش سرسامآوره. پیشنهاد Blaize اینه که یه مدل سبک روی GSP مرحلهٔ اول تحلیل رو انجام بده و بیشتر وقتها سریع تشخیص بده همهچیز عادیه؛ فقط وقتی چیز مشکوکی مثل ورود فرد بدون یونیفرم مجاز به منطقهٔ ممنوعه یا یه چمدون بیصاحب دیده شد، داده به مدل بزرگتر روی GPU پاس داده بشه. به این الگو میگن معماری آبشاری (cascade).
روی محصول هم Blaize تراشه رو بهتنهایی نمیفروشه: همون سیلیکون توی ماژول SoM برای سیستمهای تعبیهشده مثل پهپاد و ربات، کارتهای شتابدهندهٔ PCIe با یک یا چهار GSP، دستگاههای لبه و سرورهای رکمونت ۱U عرضه میشه. یه پشتهٔ نرمافزاری مشترک هم روش سواره که جزئیات سختافزار رو پنهان میکنه و پایهٔ تقسیم بار کاری بین GSP و CPU و GPU هست. نویسنده جمعبندی میکنه که Blaize دنبال کنار گذاشتن GPUها نیست و فقط یه سؤال دیگه میپرسه: چقدر از این کار واقعاً لازمه؟ فلسفهشون توی یه جمله: برای یه سؤال یکدلاری، صد دلار خرج نکن.
نکات کلیدی:
- ادعای Blaize: گلوگاه استنتاج بیشتر جابهجایی دادهٔ میانی به حافظهٔ خارجیه تا کمبود توان محاسباتی
- GSP یه پردازندهٔ برنامهپذیر مخصوص استنتاجه که با زمانبند سختافزاری، گراف جریان دادهٔ مدل رو دنبال میکنه
- Hybrid AI یعنی هر بخش از بار کاری روی مناسبترین پردازنده اجرا بشه، نه همهچیز روی GPU
- معماری آبشاری: مدل سبک همهچیز رو غربال میکنه و فقط موارد سخت به مدل سنگین میرسه
- همون تراشه در قالب SoM، کارت PCIe (یک یا چهار GSP)، دستگاه لبه و سرور ۱U عرضه میشه
- یه پشتهٔ نرمافزاری مشترک، تجربهٔ توسعه رو از لبه تا دیتاسنتر یکدست نگه میداره
