سولارویندز Avior رو معرفی کرد؛ ایجنتهایی که فقط پیشنهاد نمیدن و خودشون هشدارها، کانفیگ و compliance شبکه رو مدیریت میکنن.
نسخهٔ 1.1 استاندارد Ultra Ethernet اومده تا اترنت رو برای شبکههای داخل سرورهای GPU هم مناسب کنه و کنترل ازدحام رو از سختافزار کارت شبکه بیرون بکشه.
یه کانکتور جدید تو vLLM کارهای آمادهسازی انتقال KV cache رو از مسیر حساس بیرون میکشه و زمان رسیدن اولین توکن رو زیر بار سنگین تا یکسوم میکنه.
یه گروه لابی که آمازون، گوگل و متا عضوش هستن میگه قانون جدید حاکمیت کلاد اروپا شش برابر برآورد خود کمیسیون هزینه داره. ولی پشت این عدد یه فرض بزرگ هست.
موزیلا یه نسخه سازمانی از فایرفاکس معرفی کرده که کنسول مدیریتش روی زیرساخت خود شرکت اجرا میشه و دادهها پیش خودش میمونه.
ماژول نوری جدید USFP قراره تا ۱۲.۸ ترابیت بر ثانیه رو تو یه پورت جا بده و شلوغی کابلهای دیتاسنترهای هوش مصنوعی رو کم کنه.
یه کوئری ساده بعد از دو ثانیه بیکاری دو برابر کندتر میشد. تیم ClickHouse ریشهشو تو رفتار TCP لینوکس پیدا کرد و با یه پچ ساده درستش کرد.
ایجنتهای کدنویسی هرچی جلسه طولانیتر بشه کندتر میشن. یه سری تست نشون میده کش داخلی vLLM بیشتر کارو انجام میده و LMCache فقط یه جای خاص برندهست.
کایل کوربیت با یه حساب ساده نشون میده اگه AGI واقعاً برسه، اجارهی هر GPU از حدود ۳.۵ دلار به ۳۰ دلار یا بیشتر در ساعت میرسه.
یکی از Distinguished Engineerهای Uber توضیح میده چطور ابزارهای داخلی ده سال گذشته، راه رو برای ایجنتهای هوش مصنوعی تو کار روزانهٔ مهندسها باز کرد.
ادمینهای Exchange Online چند ساعت نتونستن وارد پنل مدیریت بشن و مقصر، مثل چند بار قبل، یه تغییر پیکربندی بود که آخرش برگردونده شد.
با یه فایل mise.toml نسخهٔ دقیق ابزارهای هر پروژه مشخص میشه و mise با جابهجا شدن بین پوشهها، نسخهٔ درست رو خودش جلوی دستت میذاره.
سازندهٔ یه فیدخوان شخصیسازیپذیر بعد از معروف شدن تو HN فهمید کندی سایتش بیشتر کار رباتها و crawlerهای هوش مصنوعی بوده تا کاربرای واقعی.
هر نوبت یه ایجنت هوش مصنوعی کل گفتگو رو از اول میخونه، مگه اینکه KV cache داشته باشه. تستها نشون میدن این تفاوت گاهی تا هفت برابر سرعته.
حالا میشه یه سرور HTTP عادی Node.js رو بدون adapter روی Lambda اجرا کرد؛ هر محیط چند درخواست رو همزمان جواب میده و فقط پول CPU مصرفی رو میدی.
اگه OneNote خالی نشون میده یا سایتها یهو connection reset میدن، شاید مقصر یه نرمافزار اینتل باشه که روی خیلی از لپتاپها از قبل نصبه.
بخشهایی از کتاب تازه Sam Newman درباره disaster recovery، کمبود سختافزار و اینکه چطور به سرویسهای مدل هوش مصنوعی وابسته باشی و زمین نخوری.
مایکروسافت میگه از ۲۰۲۷ تراشههای Maia سیستم اصلی inference محصولاتش میشن و Maia 300 قراره با همون برق خیلی بیشتر از GPUها توکن تولید کنه.
اپل یه سیستم داخلی ساخته که GPUهای بیکار مکهای شرکت رو جمع میکنه تا کارهای inference هوش مصنوعی به جای ساعتها، تو چند دقیقه شروع بشن.
وقتی Claude روزانه دهها هزار تغییر کد merge میکنه، گیت دیگه جواب نمیده. Anthropic تو پنج ماه یه سیستم کنترل نسخهٔ جدید ساخت و کل مونوریپوش رو بهش منتقل کرد.