کمبود CPU داره گریبان تیم‌های نرم‌افزاری رو می‌گیره
خلاصهٔ کامل‌تر
تا حالا بیشتر بحث کمبود تراشه دور و بر شتاب‌دهنده‌های هوش مصنوعی (GPU) بود، ولی حالا صنعت فناوری با کمبود CPU هم روبرو شده. زمان تحویل سفارش سرور که قبلاً یکی‌دو هفته بود، الان به حدود ۶ ماه رسیده و قیمت‌ها هم از اسفند تا الان ۱۰ تا ۲۰ درصد بالا رفته. مدیر مالی اینتل توی یه تماس با سرمایه‌گذارها گفته این میزان تقاضا غافلگیرشون کرده.
نویسنده می‌گه شاید متوجه نباشیم چقدر به CPU وابسته‌ایم: سرویس‌های API و وب‌سرورها، صف‌ها و ورک‌فلوها، دیتابیس‌ها و حتی CI/CD همه روی CPU اجرا می‌شن؛ و حالا که بیشتر کدها رو ایجنت‌ها می‌نویسن، تعداد بیلد و تست‌ها هم خیلی بیشتر از قبل شده. اگه ایجنت اجرا کنید، ماجرا بدتر هم میشه: هر بار که یه ایجنت بخواد کدی که نوشته رو اجرا کنه یا مرورگر رو کنترل کنه، یه سندباکس یا کانتینر لازم داره که خودش CPU مصرف می‌کنه.
طبق گفته‌ی اینتل، توی دیتاسنترهای متمرکز روی هوش مصنوعی، نسبت CPU به GPU از ۱ به ۸ به ۱ به ۴ رسیده و ممکنه با گسترش کارهای ایجنتی حتی به ۱ به ۱ هم برسه. علتش هم به تنگنای تولیده: بیشتر تراشه‌های منطقی (از جمله CPU و GPU) توی کارخانه‌های TSMC ساخته می‌شن و اونجا GPU و CPU (و حتی اپل و کوالکام) روی یه خط تولید با هم رقابت می‌کنن. از طرفی حافظه‌ی DRAM هم داره به نفع HBM (حافظه‌ی مخصوص شتاب‌دهنده‌ها) کنار گذاشته میشه، که قیمت DRAM معمولی رو هم بالا برده.
نویسنده می‌گه اکثر تیم‌های نرم‌افزاری تا حالا هیچ‌وقت برای CPU برنامه‌ریزی ظرفیت نکردن -فقط دیتابیس و شاید شتاب‌دهنده‌ها رو برنامه‌ریزی می‌کردن و بقیه رو با اسکیل خودکار حل می‌کردن- ولی حالا باید از قبل ظرفیت عمومی رو هم پیش‌بینی کنن. راه‌کارهایی که پیشنهاد می‌ده شامل بهینه‌سازی محدودیت‌های ایزوله‌سازی، سریع‌تر کردن راه‌اندازی کلاسترهای جدید، و بالا بردن بهره‌وری فعلی فلیت‌هاست؛ چون به گفته‌ش میانگین استفاده از CPU توی کوبرنتیز توی کل صنعت فقط حدود ۱۰ درصده.
نکات کلیدی:
- زمان تحویل سفارش سرور از ۱ تا ۲ هفته به حدود ۶ ماه رسیده و قیمت‌ها هم ۱۰ تا ۲۰ درصد بالا رفته
- نسبت CPU به GPU توی دیتاسنترهای هوش مصنوعی از ۱ به ۸ به ۱ به ۴ رسیده و ممکنه به ۱ به ۱ برسه
- علت اصلی، رقابت CPU و GPU روی خطوط تولید TSMC و جابه‌جایی ظرفیت DRAM به سمت HBM هست
- میانگین استفاده از CPU توی کوبرنتیز در کل صنعت فقط حدود ۱۰ درصده، یعنی جای بهینه‌سازی زیاده
- نویسنده پیشنهاد می‌ده تیم‌های مهندسی از الان برای ظرفیت CPU برنامه‌ریزی کنن، نه فقط موقع نیاز
