اسکنر چهار هزار آسیبپذیری پیدا کرده و ۷۸ تاش بحرانیه. سرویس تازهٔ کلادفلر با ترکیب تحلیل کد و ترافیک زندهٔ شبکه میگه کدومش واقعاً در معرض خطره.
ساخت دیتاسنترهای هوش مصنوعی قراره عمدتاً با وام تأمین بشه؛ رقمی که تا ۲۰۳۰ بازپرداختش به یه رشد سالانه ۵۵ درصدی درآمد نیاز داره.
وقتی یه حادثهٔ جدید باز میشه، ایجنت روتلی تو پسزمینه تاریخچه رو میگرده و حادثههای شبیهش رو با دلیل شباهت میفرسته تو کانال اسلک.
مدیرعامل Ollama میگه دورهٔ انتشار مدلهای متنباز از شش ماه به چند هفته رسیده و آمادهسازی هر مدل عملاً به یه مانور فشرده تو یه شبانهروز تبدیل شده.
وقتی بیست تا زیرایجنت همزمان کار میکنن، دیگه سرعت یه پاسخ ملاک نیست. این مقاله تنظیمهای دقیقی رو میگه که یه سیستم چهار کارته رو به یه ماشین ایجنت تبدیل میکنه.
یه شرط if که هیچوقت اجرا نشد، دو ساعت طول کشید تا برگرده، و توکن صدها اتصال برای همیشه سوخت. تیم Nango میگه OAuth استاندارده ولی ارائهدهندهها نیستن.
انویدیا نسخهٔ بتای PAIR رو منتشر کرده؛ نرمافزاری که سیستمهای RTX، DGX Spark و مکهای یک شبکهٔ خانگی رو به یه اندپوینت واحد وصل میکنه تا مدلها محلی اجرا بشن.
مهاجمها با نفوذ به زیرساخت کلادفلرِ Coder، سرورهای غیرمجاز به رجیستری اضافه کردن و حدود ۱۴ ساعت ماژولهای ترافرم آلوده به کاربرها رسوندن.
یه مسیر دومرحلهای که صفحهٔ وب رو با یه مرورگر ۳۰ مگابایتی میگیره و مستقیم میده دست مدل زبانی روی همون ماشین، بدون اینکه چیزی به API بیرونی برسه.
OpenAI برای اولین بار تراشهی خودش رو ساخته؛ فقط برای اجرای مدلها، نه آموزش دادنشون. ادعا اینه که از GB200 و GB300 کممصرفتر و سریعتره، ولی خرید سختافزار Nvidia هم ادامه داره.
یه مرورگر هدلس نوشتهشده با Rust که صفحههای سنگین جاوااسکریپتی رو با یکدهم رم کروم رندر میکنه و خروجی رو مارکداون آمادهٔ مدل زبانی تحویل میده.
یه مدل ۴ میلیارد پارامتری متنباز که باگ یه اپ واقعی رو خودش پیدا و درست کرد، ولی سه چهار برابر مدلهای بزرگتر وقت گرفت و ادعای ۲۰۰ زبانش هم زیر تست لنگ زد.
سرور pixeldrain سر ۲۰ گیگابیت کرش میکرد و یک سال طول کشید تا به ۱۰۰ گیگابیت برسه؛ حاصلش چند sysctl، تنظیم ethtool و یک گزینهی BIOS ـه که همهچی رو خراب میکرد.
یه کاربر حرفهای مدلهای محلی روی چهار تا RTX 3090 هر دو مدل رو تست کرده و به نتیجهای رسیده که با شهود رایج جور نیست: مدل کندتر تو یه سشن کدنویسی دوروزه برنده شد.
کن شیریف حافظهی کامپیوتر آزمایشگاه فضایی اسپیسلب رو باز کرده: ۱۲۸ کیلوبایت روی حدود یک میلیون حلقهی فریت، ساخت ۱۹۸۰.
یه ابزار متنباز از SpecterOps که کل یه سازمان AWS رو به گراف تبدیل میکنه تا ببینی از دسترسی فعلیت نهایتاً به کجا میشه رسید.
اکستروپیک میگه نویز الکتریکی تراشه رو بهجای حذف کردن میشه به منبع تصادفی تبدیل کرد و برق هوش مصنوعی رو پایین آورد. فقط سختافزارش تا ۲۰۲۷ نمیرسه.
یه کاربر حرفهای مدلهای لوکال میگه چرخهٔ دانلود و تست مدلهای تازه وقتشو خورده؛ برگشته سراغ یه Qwen حدود ۲۷ میلیاردی با دقت FP16 و همونجا موند.
یه اپلاینس آمادهٔ on-prem از AMD و Supermicro و Spectro Cloud که مدل کدنویسی رو روی GPUهای خودت اجرا میکنه تا هزینهٔ توکن سقف داشته باشه و سورسکد جایی نره.
مدلی که برای هر توکن فقط ۴ میلیارد پارامتر فعال میکنه ولی باید هر ۳۶ میلیارد پارامترش تو حافظه بشینه؛ راهنمای عملی سختافزار، کوانتایز و موتور اجرا.