Blacksmith: اجرای CI روی سخت‌افزار گیمینگ
هوش مصنوعیخلاصهٔ کامل‌تر
Blacksmith زیرساختی می‌سازه که کارهای CI (یعنی تست‌ها و بررسی‌های خودکاری که قبل از merge هر تغییر اجرا می‌شن) رو خیلی سریع‌تر از AWS و GCP و Azure اجرا می‌کنه. این شرکت تازه یه Series C به مبلغ ۶۶ میلیون دلار با ارزش یه میلیارد دلار و به رهبری Sequoia جذب کرده. Sequoia قبلاً تو SAFE اولیه از طریق Y Combinator و Series A هم سرمایه‌گذاری کرده بود.
به گفته تیم، ایده اصلی به شکل کار برمی‌گرده. ابرهای بزرگ برای کارهایی بهینه شدن که خوب بین چند رشته (thread) و چند مشتری تقسیم می‌شن. اما یه job تو CI، مثل کامپایل یا اجرای تست‌ها، بیشتر یه زنجیره طولانی از کارهای پشت سر همه که توش سرعت یه هسته مهم‌تر از موازی‌سازیه. این بیشتر شبیه اجرای یه بازی روی کامپیوتر گیمینگه تا یه وب‌سرویس ابری. برای همین Blacksmith از سخت‌افزاری با کارایی تک‌رشته‌ای قوی استفاده می‌کنه.
بخش دیگه کار روی caching هست، یعنی استفاده دوباره از خروجی بیلدهای قبلی به‌جای انجام دوباره کار. Blacksmith داده‌های کش رو از نظر فیزیکی نزدیک نودهای محاسباتی نگه می‌داره تا تأخیر خوندنشون کم بشه. تیم میگه کلی نرم‌افزار داخلی برای مدیریت رشد سرورها و observability نوشته و عمداً محصول رو محدود نگه داشته تا یه تیم کوچیک بتونه از مشتری‌های زیاد پشتیبانی کنه.
مقاله میگه این گلوگاه رو ابزارهای کدنویسی هوش مصنوعی ساختن. وقتی سرعت تولید کد چند برابر میشه ولی CI همون‌قدر کند می‌مونه، توسعه‌دهنده‌ها دیگه منتظر سرعت تایپ خودشون نیستن، منتظر تمام شدن تست‌ها هستن. یه مثال LangChain هست که روی GCP حدود ۱۵ تا ۲۰ دقیقه فقط برای گرفتن منابع محاسباتی منتظر می‌موند و بعد از انتقال به Blacksmith این زمان به حدود ۱۰ تا ۱۵ ثانیه رسید.
سه موسس شرکت از دانشگاه Waterloo هستن و هیچ‌کدوم سابقه DevOps نداشتن. دو نفرشون روی دیتابیس کار کرده بودن و یکی روی زیرساخت جستجو. اولش سرورهای گیمینگ رو از یه شرکت آلمانی اجاره کردن که بیشتر برای میزبانی سرورهای Minecraft و Call of Duty معروفه. بعدها به قراردادهای مستقیم با دیتاسنترها در حد مگاوات رسیدن. به گفته شرکت، استفاده از سرویس تو یه سال گذشته ۲۰ برابر شده و تیم از حدود ۵ نفر به حدود ۳۰ نفر رسیده.
مقاله ریسک‌ها رو هم میگه. یه موج برق تو دیتاسنتر Phoenix هم سیستم خنک‌کننده اصلی و هم پشتیبان رو از کار انداخت و شرکت رو به سمت پخش کردن زیرساخت تو مناطق بیشتر برد. هر بار یه LLM جدید منتشر میشه، استفاده یهو بالا می‌ره و چون خرید و نصب سرور فیزیکی زمان می‌بره، همگام شدن با این جهش‌ها یه چالش دائمیه. قدم بعدی شرکت هم QA خودکاره، یعنی جمع کردن اسکرین‌شات و ویدیو از تست‌ها تا توسعه‌دهنده‌ها راحت‌تر merge کنن.
نکات کلیدی:
- Blacksmith یه Series C به مبلغ ۶۶ میلیون دلار با ارزش یه میلیارد دلار به رهبری Sequoia جذب کرده.
- jobهای CI روی سخت‌افزاری با کارایی تک‌رشته‌ای قوی، شبیه کامپیوترهای گیمینگ، اجرا می‌شن.
- زمان انتظار برای منابع CI در LangChain از ۱۵ تا ۲۰ دقیقه روی GCP به ۱۰ تا ۱۵ ثانیه رسید.
- استفاده از سرویس تو یه سال ۲۰ برابر شده و تیم از حدود ۵ به ۳۰ نفر رسیده.
- قطعی خنک‌کننده تو دیتاسنتر Phoenix باعث شد شرکت زیرساختش رو تو مناطق بیشتری پخش کنه.
