هیاهوی «ظرفیت کلاد تموم شده» از کنترل خارج شده
خلاصهٔ کاملتر
نویسندهی این یادداشت تو InfoWorld از خبری شروع میکنه که میگفت ظرفیت کلاد AWS تا ۲۰۲۷ «تقریباً فروش رفته». با طعنه میگه پس دیگه AWS رو به کسی برای کارهای AI پیشنهاد نمیده. بعد توضیح میده که احتمالاً همین امروز هم میشه وارد کنسول AWS شد و برای AI منابع گرفت. چیزی که شاید واقعاً پر شده، رزروهای عظیم و چندسالهی GPU برای آموزش مدلهای frontier هست، نه کل کلاد.
حرف اصلی نویسنده اینه که «ظرفیت محدوده» و «ظرفیت تموم شده» دو جملهی متفاوتن. تقاضا بالاست، GPU گرونه، برق مشکل داره و دیتاسنتر یهشبه ساخته نمیشه. ولی وقتی شرکتهای کلاد برای نشوندادن تقاضا به سرمایهگذارها میگن «همهچی فروش رفته»، مدیرها اینطوری میشنون که پروژهشون از همین الان قفل شده و از قافله عقب موندن.
نویسنده یادآوری میکنه که بیشتر شرکتها قرار نیست مدل frontier از صفر آموزش بدن. اونا دارن سیستمهای RAG (یعنی مدلی که قبل از جوابدادن از دادههای خود شرکت اطلاعات میگیره) میسازن، مدلهای کوچیکتر رو fine-tune میکنن یا inference (یعنی اجرای مدل آماده برای گرفتن جواب) راه میندازن. نیاز یه بانک که یه مدل داخلی رو اجرا میکنه با یه استارتاپ که روی هزاران GPU مدل غولپیکر آموزش میده اصلاً یکی نیست.
به گفتهی نویسنده، هیاهوی بازار AI حتی از دورهی dot-com هم بیشتره و این اغراقها به شرکتهایی که با پول واقعی تصمیم میگیرن کمکی نمیکنه. پیشنهادش اینه که شرکتهای کلاد دقیق حرف بزنن: اگه یه نوع GPU تو یه region خاص کمه، یا رزرو بلندمدت کلاسترهای آموزش پر شده، همینو بگن. اون میگه معمارهای نرمافزار الان باید هم توضیح بدن که AWS برای AI تعطیل نشده، هم اینکه محدودیتها واقعی هستن.
سه توصیهی نویسنده برای شرکتها اینه: اول، نوع کارها رو از هم جدا کنن (آموزش، fine-tuning، inference، تست، پردازش دستهای و جابهجایی داده)، چون هر کدوم نیاز و هزینهی خودش رو داره. دوم، در دسترس بودن رو مستقیم از ارائهدهندهها بپرسن: نوع instance، region، سهمیه، قیمت و زمان تحویل، ترجیحاً کتبی. سوم، طوری طراحی کنن که به یه ارائهدهنده قفل نشن و از ترس جاموندن، اولین قرارداد رزرو ظرفیت رو امضا نکنن.
نکات کلیدی:
- AWS گفته ظرفیت کلادش تا ۲۰۲۷ تقریباً فروش رفته، ولی این بیشتر مربوط به رزروهای بزرگ و چندسالهی GPU هست.
- کارهای رایج شرکتها مثل RAG، fine-tuning و inference نیاز خیلی متفاوتی با آموزش مدل frontier دارن.
- قبل از حرف زدن دربارهی ظرفیت، باید نوع workloadها رو از هم جدا کرد.
- در دسترس بودن instance، region، سهمیه و قیمت رو باید مستقیم و کتبی از ارائهدهنده گرفت.
- امضای عجولانهی قرارداد رزرو ظرفیت از ترس جاموندن، میتونه تا ۱۲ ماه بعد اشتباه از آب دربیاد.




