Prism ML وزنهای یه مدل ۲۷ میلیاردی رو به سه حالت -۱، ۰ و +۱ خلاصه کرده؛ حجم از ۵۴ گیگ به زیر ۸ گیگ رسیده و روی لپتاپ حدود ۴۷ توکن در ثانیه جواب میده.
CXMT بزرگترین سازندهٔ حافظهٔ چینه و میگه نسل پنجم پلتفرمش وارد تولید انبوه شده. عددی که رو کرده چشمگیره، ولی عددی که واقعاً پول توشه هنوز منتشر نشده.
vLLM داره برای رسیدن به بیشترین سرعت روی GPUهای جدید، مدلهاش رو جوری بازنویسی میکنه که دیگه با torch.compile نمیسازن. حالا یه مسیر دوم اضافه شده تا بقیهٔ سختافزارها جا نمونن.
یه URL میتونه چند جواب درست داشته باشه و هدر Vary همینو به کش میگه، ولی نمیگه کدوم تفاوت واقعاً مهمه. حالا خودت میتونی برای هر هدر تصمیم بگیری.
یه استارتاپ سنفرانسیسکویی نورون زنده پرورش میده تا ازشون برای بهینهکردن مدلهای AI ایده بگیره. حالا با AWS شریک شده تا اولین محصولش، یه مدل متنبهویدیو، رو بفروشه.
از اول فوریه ۲۰۲۷ دیگه نمیشه با کد پیامکی وارد حساب Entra ID شد. مایکروسافت میگه ادمینها از همین حالا کاربرها رو ببرن روی passkey تا اون روز کسی پشت در نمونه.
کلادفلیر Worker Previews رو منتشر کرد: با یه دستور، هر برنچ گیت آدرس، کانفیگ، استیت و لاگ مستقل خودشو میگیره تا قبل از merge تست بشه.
مایکروسافت میخواد ایجنتها رو مثل یه کاربر واقعی تو سیستمعامل ثبت کنه، ابزارهاشون رو ایزوله کنه و مدلها رو لوکال اجرا کنه؛ همهش هم برای برگردوندن برنامهنویسهایی که رفتن.
آموزش Mixture-of-Experts معمولاً سر یکی از چهار قلهٔ حافظه میخوابه. یه مقالهٔ تازه چهار زمانبندی میده که هر چهارتا رو سقفدار میکنه، بدون اینکه loss و گرادیان تکون بخوره.
مهاجرت به تبادل کلید هیبریدی پساکوانتومی برای این پسوردمنیجر فقط دو تغییر تنظیمات بود: یک پالیسی روی لودبالانسر AWS و یک خط توی Cargo.toml.
Vast Data محیطی معرفی کرده که مدل و دادهٔ رمزگشاییشده رو داخل خود سختافزار جدا نگه میداره؛ بانک و بیمارستان میتونن مدل اختصاصی رو روی دادهٔ خودشون اجرا کنن.
انویدیا برنامهای راه انداخته که محصولات برق و خنککنندهٔ شریکها رو با طراحی مرجع DSX میسنجه؛ شروعش با باتریهای ذخیرهٔ انرژی و یونیتهای توزیع خنککنندهست.
کایتوس نسخه تازه MotusAI رو منتشر کرده؛ پلتفرمی که مدلها و دادهها رو داخل دیتاسنتر خود شرکت نگه میداره و میگه هزینه سالانه توکن رو ۳۰ تا ۵۰ درصد پایین میاره.
یه پروژهٔ متنباز که کل وبمیل رو روی اکانت Cloudflare خودت بالا میآره؛ دریافت ایمیل رایگانه و فقط برای ارسال به پلن ۵ دلاری Workers نیاز داری.
مسیر /up لاراول فقط میگه اپلیکیشن بالا اومده یا نه. این پکیج سه تا اندپوینت جدا برای پرابهای کوبرنتیز میسازه و برای هرکدوم میتونی چکهای متفاوت بذاری.
یه ابزار متنباز که کل مخزن کد رو به گراف تبدیل میکنه تا ایجنت به جای خوندن فایل کامل، فقط همون تیکهای رو بگیره که واقعا لازم داره.
تیم مهاجرت ابری اطلسین برای تست ابزارهاش به دیتاستهای غولپیکر جیرا و کانفلوئنس نیاز داشت. راهحلشون این بود که ساخت ردیفها رو از وصل کردن رابطهها جدا کنن.
قابلیت Data Pipelines حالا اجازه میده تیمها قبل از اینکه تلهمتری ذخیره و تحلیل شه، نویزش رو بگیرن و مسیر و لایهٔ هزینهاش رو خودشون مشخص کنن.
تراشه تازه Zhenwu V900 سه برابر نسل قبلی کار میکنه و میشه تا ۵۰۰ هزارتاش رو کنار هم گذاشت؛ هدف بعدی، یه مدل با ۵ تا ۱۰ تریلیون پارامتره.
تستهای لینیر از اول سال تقریباً چهار برابر شدن، ولی انتظار هر PR روی CI از بیشتر از ۶ دقیقه به کمی بالای ۵ دقیقه رسیده.