کمبود CPU؛ دردسر تازهٔ دنیای ابر
هوش مصنوعیخلاصهٔ کامل‌تر
گرگلی اوروش تو شمارهٔ رایگان نیوزلتر Pragmatic Engineer تعریف می‌کنه که سر یه شام با چند CTO و مدیر زیرساخت فهمیده خیلی از شرکت‌ها دیگه نمی‌تونن راحت CPU از ابر بگیرن. روشن‌ترین نشونه‌ش محو شدن قیمت spot ـه: ماشین‌های بیکار ابر که قبلاً تا ۹۰ درصد ارزون‌تر اجاره داده می‌شدن، حالا اصلاً بیکار نمی‌مونن.
به گفتهٔ نویسنده، گرفتن CPU روی spot بدون رابطهٔ طولانی‌مدت با ارائه‌دهنده تقریباً غیرممکن شده. رزرو نوع خاصی از پردازنده باید ماه‌ها قبل انجام بشه و گاهی ابرها درخواست رزرو رو رد می‌کنن چون اون ظرفیت رو ندارن. یه VP مهندسی تو یه شرکت بزرگ inference هم گفته پول و آمادگی برای طولانی‌ترین قراردادها رو دارن، ولی جواب ابرها منفیه.
دو تا فشار هم‌زمان این وضع رو ساخته. اول، خود AI داره CPU می‌خوره. سیمون اسکیلدسن، مدیرعامل turbopuffer، می‌گه Reinforcement Learning (یعنی آموزش مدل با اجرای واقعی کار و گرفتن بازخورد) کلی CPU لازم داره و لابراتوارهای AI دارن ظرفیت رو می‌بلعن. ایجنت‌ها هم کد رو کامپایل و تست و lint می‌کنن که همه‌ش روی CPU می‌شینه. نسبت CPU به GPU تو دیتاسنترهای AI از ۱ به ۸ رسیده به ۱ به ۴ و شاید به ۱ به ۱ برسه.
دوم، سمت تولید. به نوشتهٔ Katelyn Lesse از Claude Platform، تو TSMC خط تولید GPU با CPU رقابت می‌کنه و AMD چون کارخونهٔ خودش رو نداره باید از همون سهمیهٔ محدود بگیره. اینتل هم درگیر مشکل yield ـه و بخشی از ظرفیت چیپ PC رو برده سمت سرور. از اون طرف SK Hynix و سامسونگ و میکرون ویفرهاشون رو می‌دن به HBM، پس DRAM که CPU بهش نیاز داره گرون‌تر شده.
توصیهٔ عملی مقاله سه‌تاست. اول ظرفیت‌سنجی تا ۱۲ ماه جلوتر، چون سفارش سرور که قبلاً یکی دو هفته طول می‌کشید الان حدود شش ماهه تحویل میشه و قیمت‌ها ۱۰ تا ۲۰ درصد بالا رفته. دوم استفادهٔ بهتر از همین CPUهای موجود: ببین کدوم سرویس‌ها واقعاً CPU-intensive هستن و کدوم‌ها رو میشه روی نود کمتر جمع کرد. سوم، اگه رشد جدی در پیش داری همین حالا ظرفیت ثابت بگیر، حتی اگه گرون‌تر باشه.
نکات کلیدی:
- قیمت spot که تا ۹۰ درصد تخفیف می‌داد عملاً از بین رفته
- نسبت CPU به GPU تو دیتاسنترهای AI از ۱ به ۸ به ۱ به ۴ رسیده
- تحویل سفارش سرور از ۱ تا ۲ هفته به حدود ۶ ماه رفته و قیمت ۱۰ تا ۲۰ درصد بالاتره
- AMD به سهمیهٔ TSMC وابسته‌ست و اینتل درگیر مشکل yield
- DRAM گرون شده چون SK Hynix و سامسونگ و میکرون سراغ HBM رفتن
