تازه‌های زیرساخت هوش مصنوعی گوگل کلاد
هوش مصنوعی
گوگلخلاصهٔ کامل‌تر
گوگل تو این پست ماهانه که ویراستار بلاگ گوگل کلاد می‌نویسه، تازه‌های زیرساخت و ارکستراسیون هوش مصنوعی رو جمع می‌کنه. استدلال مقاله اینه که تو دورهٔ عاملی (agentic)، هوش مصنوعی از مرحلهٔ جواب دادن به مرحلهٔ استدلال و انجام کار رسیده و برای همین زیرساختی لازمه که از شتاب‌دهنده و شبکه تا نرم‌افزار ارکستراسیون با هم طراحی شده باشه — چیزی که گوگل زیر چتر AI Hypercomputer بسته‌بندیش می‌کنه.
مهم‌ترین به‌روزرسانی‌های جولای: Managed Lustre به GA رسیده، با چهار رده کارایی از ۱۲۵ تا ۱۰۰۰ مگابایت بر ثانیه به ازای هر تبی‌بایت ظرفیت و مقیاس تا ۸ پتابایت. سری C4N هم عمومی شده؛ اولین خانوادهٔ VM بهینه‌شده برای شبکه و استوریج بلاکی که با پردازنده‌های Xeon نسل پنجم و سخت‌افزار آفلود Titanium به ۴۰۰ گیگابیت بر ثانیه شبکه، ۹۵ میلیون بسته بر ثانیه و تا ۲۵ گیبی‌بایت بر ثانیه توان استوریج می‌رسه.
در سمت ارکستراسیون، GKE Dataplane V2 تا ۱۵ هزار نود مقیاس می‌گیره و همچنان Network Policy رو کامل اعمال می‌کنه. تو llm-d هم تایم‌اسلایسینگ تعاملی اومده که جاب‌های مستقل یادگیری تقویتی رو روی سخت‌افزار مشترک با هم اجرا می‌کنه و ضریب کارکرد شتاب‌دهنده‌ها رو از حدود ۴۰٪ به ۷۰٪ می‌بره، بدون افت همگرایی یا دقت مدل. برای امنیت هم k8s-aibom متن‌باز شده: کنترلری سبک که رانتایم‌هایی مثل vLLM و Triton رو تشخیص می‌ده و ML-BOM استاندارد CycloneDX می‌سازه.
تو بخش راهنماها و گزارش‌ها، گوگل از پشتیبانی روز صفر از مدل متن‌باز ۲.۸ تریلیون پارامتری Kimi K3 خبر داده و گزارشی از بهینه‌سازی استنتاج Mistral 3 روی Ironwood (TPU v7x) منتشر کرده که با شاردینگ ترکیبی و کاهش درختی تا ۴۸٪ توان عملیاتی بیشتر گرفته. طبق نظرسنجی گوگل از بیش از ۱۴۰۰ مدیر ارشد IT هم ۸۳٪ سازمان‌ها می‌گن برای رسوندن هوش مصنوعی عاملی به مرحلهٔ عملیاتی، باید زیرساخت‌شونو ارتقا بدن.
نکات کلیدی:
- Managed Lustre با چهار رده کارایی و ظرفیت تا ۸ پتابایت به GA رسید
- سری C4N با ۴۰۰ گیگابیت بر ثانیه شبکه و تا ۲۵ گیبی‌بایت بر ثانیه استوریج عمومی شد
- GKE Dataplane V2 تا ۱۵ هزار نود با Network Policy فعال مقیاس می‌گیره
- تایم‌اسلایسینگ تعاملی در llm-d بهره‌وری شتاب‌دهنده‌ها رو از حدود ۴۰٪ به ۷۰٪ می‌بره
- k8s-aibom به‌صورت متن‌باز، ML-BOM کلاسترهای هوش مصنوعی رو خودکار می‌سازه
