گوگل یه رانتایم اوپن‌سورس برای اجرای ایجنت‌ها منتشر کرده که ایجنت بی‌کار رو می‌خوابونه و منابعش رو آزاد می‌کنه، جوری که هر هاست بیش از هزار ایجنت جا می‌ده.

سرعت حدود ۴۲۰ توکن در ثانیه و کش یک‌چهارم: گزارش فنی نشون می‌ده این مدل در واقع یه معماری تازه‌ست، نه یه نسخه‌ی پست‌ترینینگ ساده.

۵ هفته پیش۳ دقیقهzartbot.github.io

آمازون و مایکروسافت صدها میلیارد دلار تعهد بلندمدت از آزمایشگاه‌های هوش مصنوعی روی دفترشون دارن، ولی هیچ‌کس نمی‌دونه پایین‌دستِ این زنجیره چقدر قرارداد قطعی پشتشه.

۵ هفته پیش۳ دقیقهdavefriedman.substack.com

به گزارش The Information، اپل روی یه سرور هوش مصنوعی با دو یا چهار تراشه‌ی M8 Ultra کار می‌کنه؛ چیزی که اگه بیاد، اولین سرور اپل بعد از Xserve حساب می‌شه.

قیمت کارت گرافیک‌های دست‌دوم برای اجرای مدل‌های AI روی سیستم خودت حسابی بالا رفته. این مقاله کارت‌ها رو با قیمت هر گیگ حافظه و سرعت حافظه مقایسه کرده.

۵ هفته پیش۳ دقیقهmindstudio.ai

به‌جای نگاه به قیمت خالی، قیمت هر گیگابایت VRAM و سرعت حافظه رو با قیمت عرضه مقایسه کن تا بفهمی یه GPU دست‌دوم واقعاً ارزونه یا تله‌ست.

۵ هفته پیش۳ دقیقهmindstudio.ai

حالا که مدل‌های reasoning و ایجنت‌ها شبانه‌روز متن تولید می‌کنن، مشکل اصلی دیگه قدرت محاسبه نیست؛ سرعت رسیدن داده از حافظه به پردازنده‌ست.

۵ هفته پیش۴ دقیقهspectrum.ieee.org

یه ایجنت هک خودکار تو 25 دقیقه از یه رجیستری عمومی، توکن گیت‌هابی پیدا کرد که از 2023 تو تاریخچهٔ build یه ایمیج مونده بود و هنوز کار می‌کرد.

Airbnb به جای اینکه فقط به هوش مدل تکیه کنه، روش تحقیق علمی رو دور مدل ساخته تا تحلیل حجم زیادی از متن، قابل تکرار و قابل بررسی باشه.

۵ هفته پیش۳ دقیقهairbnb.tech

تیم Tailscale یه ابزار متن‌باز ساخته که مثل netcat دو ماشین رو مستقیم و رمزنگاری‌شده به هم وصل می‌کنه، بدون حساب کاربری و بدون دسترسی ادمین.

مهاجم‌ها دارن از سه آسیب‌پذیری وصله‌شده‌ی Artifactory استفاده می‌کنن و به دسترسی ادمین می‌رسن. مشکل اصلی اینه که خیلی از تیم‌ها هنوز آپدیت نکردن.

تا حالا اگه نمی‌خواستی گوگل با محتوات هوش مصنوعی ترین کنه، باید قید سرچ رو هم می‌زدی. حالا این دو تا از هم جدا شدن.

۵ هفته پیش۳ دقیقهblog.cloudflare.com

fal یه پلتفرم هوش مصنوعیه که هزاران مدل تولید تصویر، ویدیو و صدا رو با یه API ساده در اختیار توسعه‌دهنده‌ها می‌ذاره، از GPUهای سرورلس گرفته تا کلاسترهای اختصاصی.

۵ هفته پیش۲ دقیقهfal.ai

بار کاری هوش مصنوعی قراردادهای ابری قدیمی شرکت‌ها رو گرون و ناجور کرده. نویسنده می‌گه قبل از تمدید، قرارداد رو با واقعیت امروز بسنج.

گیت‌هاب اکشنز حالا اجازه می‌ده دسترسی هر ورک‌فلو به کش رو جدا تنظیم کنید تا از حمله‌های cache poisoning در امان بمونید.

متا با یه لایه پروکسی جدید به اسم ZGateway تونسته انبوه کانکشن‌های بی‌نظم به ZippyDB رو مهار کنه و هم سرعت هم پایداری سیستمشو بالا ببره.

دن لو با بررسی کد یکی از محبوب‌ترین ریپوهای napkin math و دو تا بنچمارک معروف ارزیابی مدل‌های کدنویسی هوش مصنوعی نشون می‌ده که اعداد و رتبه‌بندی‌هاشون چقدر گمراه‌کننده‌ست.

۵ هفته پیش۳ دقیقهdanluu.com

True Foundry یه هارنس متن‌باز و رایگان به اسم True Forge ساخته که کار ایجنت‌های مدیریت‌شده‌ی کلود و جمینای رو انجام می‌ده، اما رو سرور خودت اجرا می‌شه و هر مدلی رو می‌پذیره.

۵ هفته پیش۳ دقیقهmindstudio.ai

ارتش نجات استرالیا با یه دستیار هوش مصنوعی به اسم گلدی، دسترسی به ده‌ها سیستم داخلی رو برای بیش از ۱۰هزار کارمندش ساده کرده و جلوی سردرگمی تو پیدا کردن اطلاعات رو گرفته.

۵ هفته پیش۳ دقیقهfrontier-enterprise.com

تو ۶ ماه، حجم جاب‌های CI آنتروپیک ۲۵ برابر شد. تو این پست می‌خونی چطور سه تا وصله‌ی موقت جواب نداد و در نهایت با یه بازطراحی کامل، سرویس تست‌هاشونو پایدار کردن.