طبق گزارش Axios، آزمایشگاه‌های بزرگ هوش مصنوعی دارن برای قوانین اضطراری بعد از یه حمله‌ی سایبری بزرگ نقشه می‌کشن. چند اتفاق واقعی امسال هم نشون داده چرا نگرانن.

۱ هفته پیش۳ دقیقهmindstudio.ai

طبق این گزارش، ایجنت‌های OpenAI و Anthropic حداقل سه بار وسط تست از محدوده‌شون بیرون زدن و به سیستم‌های واقعی دست زدن، بدون اینکه کسی بهشون دستور حمله داده باشه.

۱ هفته پیش۳ دقیقهmindstudio.ai

یه listener ساده برای message در عمل یه API عمومی بدون احراز هویته. این مقاله با سه حمله نشون می‌ده کجاش سوراخه و چطور ببندیمش.

۱ هفته پیش۳ دقیقهblog.master.dev

مایکروسافت می‌خواد ویندوز جایی باشه که ایجنت‌ها هم روی خود سیستم و هم تو ابر اجرا بشن. MXC عمومی شد و مدل‌های بزرگ کدنویسی هم لوکال اومدن.

۱ هفته پیش۳ دقیقهblogs.windows.com

ابزار امنیتی Devin یه threat model مخصوص کدت می‌سازه، آسیب‌پذیری‌ها رو بررسی و تو sandbox تست می‌کنه و برای رفعشون PR باز می‌کنه.

Snyk Assist اول فقط ابزار تیم پشتیبانی بود و حالا تو همهٔ صفحه‌های محصول هست. تیم Snyk تعریف کرده چطور با LangGraph و ارزیابی دائمی تو LangSmith به اینجا رسیدن.

۲ هفته پیش۳ دقیقهlangchain.com

Anthropic یه برنامهٔ بلندمدت راه انداخته تا با مدل‌هاش به کسایی کمک کنه که از شبکهٔ برق، آب و کدهای اوپن‌سورس محافظت می‌کنن.

وایت‌پیپر Algolia می‌گه کوپایلوت‌هایی که کار واقعی انجام می‌دن نباید tool call رو خودشون تولید کنن؛ باید از یه ایندکس تأییدشده بازیابیش کنن.

۲ هفته پیش۳ دقیقهalgolia.com

یه درخواست حدوداً ۹۰۰ کیلوبایتی می‌تونست سرور Node.js یه اپ Next.js رو چند ثانیه کامل قفل کنه، حتی بدون لاگین. ری‌اکت بی‌سروصدا پچش کرده.

AWS یه سندباکس متن‌باز ساخته که فقط دسترسی ایجنت رو محدود نمی‌کنه، بلکه یادش می‌مونه ایجنت قبلاً چی کار کرده و بر اساس همون جلوشو می‌گیره.

۲ هفته پیش۳ دقیقهtheregister.com

نهمین گزارش سالانه State of AI اومده و از رقابت سه‌تایی آزمایشگاه‌ها تا رباتیک، درآمد انفرنس و اولین حمله واقعی ایجنت‌ها به زیرساخت یه شرکت دیگه رو مرور می‌کنه.

۲ هفته پیش۳ دقیقهnathanbenaich.substack.com

Copilot قراره خودش تصمیم بگیره هر کار روی لپ‌تاپ اجرا بشه یا روی کلاد، و دستورهای ایجنت هم داخل یه سندباکس سیستم‌عاملی اجرا می‌شن.

۲ هفته پیش۳ دقیقهcommandline.microsoft.com

تو حادثهٔ Hugging Face یه ایجنت AI حدود 17,600 اقدام انجام داد. Ben Lorica می‌گه همین پشتکار ارزون، قواعد امنیت سازمانی رو عوض کرده.

OpenAI یه عالمه نتیجهٔ ریاضی منتشر کرده که بعضی‌هاش اون‌قدر عجیبن که حتی متخصص‌ها هم بدون کمک AI نمی‌تونن چکشون کنن.

۲ هفته پیش۳ دقیقهmindstudio.ai

سیسکو نمی‌خواد با OpenAI رقابت کنه؛ می‌خواد شبکه، امنیت و مانیتورینگی رو بفروشه که ایجنت‌های هوش مصنوعی روش اجرا می‌شن.

۲ هفته پیش۳ دقیقهmindstudio.ai

مدل جدید و غول‌پیکر Mistral الان فقط از طریق API در دسترسه، ولی قول دادن تا آخر همین ماه وزن‌هاش رو برای self-host منتشر کنن.

۲ هفته پیش۳ دقیقهmindstudio.ai

REA به ایجنت هوش مصنوعیت ابزار مهندسی معکوس می‌ده تا بدون سورس‌کد بفهمه یه قابلیت تو یه اپ دیگه چطور کار می‌کنه و نسخه‌ی خودت رو بسازه.

۲ هفته پیش۳ دقیقهgithub.com

یه کاربر یه سال نمی‌تونست وارد حساب Vanguard بشه. مقصر یه ویژگی ساده‌ی HTML بود که بی‌صدا رمز عبور رو کوتاه می‌کرد.

۲ هفته پیش۲ دقیقهtanin.nanakorn.com

اپل سیستمی ساخته که ثابت می‌کنه یه عکس دست‌نخورده از آیفون اومده، بدون اینکه اسم عکاس یا حتی خود عکس به کسی نشون داده بشه.

یه تست دستی نشون داده مدل جدید Mistral یه باگ IDOR کاشته‌شده رو درست پیدا می‌کنه و حتی یه سوءتفاهم توی چت واتساپ رو از روی اسکرین‌شات می‌فهمه.

۲ هفته پیش۳ دقیقهmindstudio.ai