بلوپرینت ذخیرهسازیِ متا برای هوش مصنوعی
هوش مصنوعیخلاصهٔ کاملتر
نویسندهها میگن اگه AI مغز باشه، استوریج حافظهشه: توانایی و سرعتش به اندازه و سرعتِ بازیابیِ حافظه وابستهست. مشکل اینه که کارایی محاسبات AI هر دو سال حدوداً سه برابر شده، ولی رشد استوریج و اینترکانکت خیلی کندتر بوده؛ برای همین گلوگاههای استوریج یکی از دلایل اصلیِ توقفِ GPUان و مستقیم رو هزینه و زمانِ عرضه اثر میذارن. این پست دربارهٔ اینه که معماری BLOB متا چطور برای دو هدف تکامل پیدا کرد: بیشینه کردنِ بهرهوریِ GPU و سرعتِ پژوهش.
به گفتهٔ نویسندهها متا صدها کلاستر در مقیاس اگزابایت داره که روی یه لایهٔ بلوکِ افقیمقیاس به اسم Tectonic ساخته شدن. Tectonic یه فابریکِ منطقهایِ چندمستأجریه که با erasure coding دوام و دسترسپذیریِ بالا میده، بین رسانهها (HDD و فلش) لایهبندی میکنه و دادهٔ داغ و سرد و ولرم رو هوشمند جایگذاری میکنه. لایههای BLOB روی Tectonic یه فابریکِ ذخیرهسازیِ جهانی و بینهایتمقیاسپذیر ارائه میدن.
نویسندهها توضیح میدن چرا تأخیر مهمه: موقع آموزش، صدها هزار GPU چند دوره روی داده میچرخن و هر چند قدم حالتشونو همگام میکنن؛ اگه یه GPU کند بشه، کلِ آموزش کند میشه. مشکل معماریِ قدیمیِ BLOB این بود که برای یه getObject ساده، سرور کلی جستوجوی متادیتا رو لایههای مختلف (و گاهی بین منطقهها) انجام میداد که میتونست صدها میلیثانیه بشه — برای بارِ کاریِ سنتیِ HDD مشکلی نبود، ولی برای AI که به فلش با دسترسیِ میلیثانیهای نیاز داره، بازدارنده بود.
به گفتهٔ نویسندهها فرضهای طراحی هم عوض شده بودن: بارِ AI به تأخیرِ کراندار تا pMax نیاز داره؛ «جهانی بهصورت پیشفرض» دیگه لازم نیست؛ بهجای HDD به فلش و IOPS بالا نیاز هست؛ و مهمتر از همه، دیتاسنترها حالا محدودِ توان (پاور) شدن نه فضا، پس هر کیلووات که صرف استوریج بشه، صرف GPU نشده.
برای همین کل معماری رو بازسازی کردن: زیرسیستمِ متادیتا رو بازنویسی و تو یه اسکیمای واحد و مسطح روی ZippyDB جمع کردن که جستوجوی O(1) میده؛ پراکسیِ دیتاپلین رو حذف و یه SDK کلاینتِ «چاق» ساختن که بایتها رو مستقیم از سرورهای Tectonic به کلاینت استریم میکنه (هم توان کمتر، هم توانعبورِ بیشتر)؛ و استکِ BLOB رو بهصورت منطقهای کنارِ GPUها مستقر کردن. برای اسپایکها و نقاط داغ (مثل ریاستارت GPU یا وزنهای داغ) هم از کشِ توزیعشده و کنترلِ همزمانیِ پویا استفاده کردن.
برای سرعتِ پژوهش، مشکل این بود که چون GPUها جغرافیایی پخش شدن، پژوهشگر باید دیتاست رو بین منطقهها جابهجا میکرد و این ساعتها طول میکشید. ایدهٔ کلیدی این بود که به استوریج مثل یه دیسک تو یه «کامپیوترِ در مقیاس سیاره» نگاه کنن و از دنیای سیستمعامل الهام بگیرن: یه کشِ لایهای که حافظه و فلشِ هاستِ GPU بهعنوان L1 و L2، فابریکِ منطقهایِ فلش بهعنوان L3، و HDDِ جهانی منبعِ حقیقته. با prefetchِ دیتالودر، یه prefetch() صریح برای گرم کردنِ زودهنگام، و چرخهٔ عمرِ خودکار (TTL/LRU)، زمانِ اینجستِ داده از ساعتها بهشدت کم شد و پژوهشگرها تو چند دقیقه ایتریت میکنن.
نکات کلیدی:
- گلوگاههای استوریج یکی از دلایل اصلیِ توقفِ GPU و هزینهٔ بالای AIان
- متادیتا تو یه اسکیمای واحد روی ZippyDB با جستوجوی O(1) بازنویسی شد
- حذفِ پراکسیِ داده و SDKِ کلاینتِ چاق، استریمِ مستقیم و توانِ کمتر رو ممکن کرد
- استقرارِ منطقهایِ استوریج کنارِ GPUها سربارِ صفر روی Tectonic میده
- کشِ لایهای شبیه سیستمعامل با prefetch، زمانِ اینجستِ داده رو از ساعتها به دقیقه رسوند
