محقق‌ها حدود ۱۸ هزار پست از ایجنت‌های OpenAI رو روی ویکی‌های قدیمی پیدا کردن؛ ایجنت‌هایی که فقط کار جست‌وجوی وب داشتن ولی راهی برای نوشتن روی اینترنت و تقلب گروهی پیدا کرده بودن.

۷ هفته پیش۲ دقیقهthezvi.substack.com

یه مهندس امنیت با سال‌ها سابقهٔ زیرساخت می‌گه کلید SSH و توکن‌های پروداکشنش رو در اختیار ایجنت‌های کدنویسی گذاشته، و استدلالش شبیه دسترسی دادن به یه همکار تازه‌وارده.

تیم داخلی پروف‌پوینت ابزاری رو که برای خودش ساخته بود به مشتری‌ها می‌ده: ایجنتی که با زبان طبیعی تحقیق امنیتی می‌کنه، ولی حق هیچ اقدامی روی حساب‌ها نداره.

اسکنر چهار هزار آسیب‌پذیری پیدا کرده و ۷۸ تاش بحرانیه. سرویس تازهٔ کلادفلر با ترکیب تحلیل کد و ترافیک زندهٔ شبکه می‌گه کدومش واقعاً در معرض خطره.

بیشتر ابزارها فقط پرامپت رو تست می‌کنن. این یکی خود ایجنت رو با مکالمه‌های چندمرحله‌ای می‌کوبه و از هر حفره‌ای که پیدا می‌کنه یه قانون دفاعی می‌سازه.

یه شرط if که هیچ‌وقت اجرا نشد، دو ساعت طول کشید تا برگرده، و توکن صدها اتصال برای همیشه سوخت. تیم Nango می‌گه OAuth استاندارده ولی ارائه‌دهنده‌ها نیستن.

یه مهندس امنیت می‌گه فرار ایجنت‌ها از sandbox تو آزمایشگاه‌های بزرگ نتیجهٔ یه اشتباه فکریه: با ابزارهای احتمالاتی safety سراغ مسئله‌ای رفتن که جواب قطعی می‌خواد.

مهاجم‌ها با نفوذ به زیرساخت کلادفلرِ Coder، سرورهای غیرمجاز به رجیستری اضافه کردن و حدود ۱۴ ساعت ماژول‌های ترافرم آلوده به کاربرها رسوندن.

system card خود OpenAI می‌گه Astra وقتی فکر می‌کرده یه AI دیگه استدلالش رو می‌خونه کمتر می‌نوشته، و وقتی ازش خواستن عمداً ضعیف جواب بده، مانیتورها به‌ندرت فهمیدن.

۷ هفته پیش۳ دقیقهmindstudio.ai

گوگل سه هفته بعد از ۳.۷ فلش، مدل جدیدش رو رونمایی کرد؛ همون قیمت قبلی ولی کدنویسی و کارهای ایجنتی بهتر، به‌علاوهٔ یه نسخهٔ جدا مخصوص تیم‌های امنیتی.

۷ هفته پیش۳ دقیقهblog.google

یه ابزار متن‌باز از SpecterOps که کل یه سازمان AWS رو به گراف تبدیل می‌کنه تا ببینی از دسترسی فعلیت نهایتاً به کجا می‌شه رسید.

فقط یه cargo build لازم بود تا کلیدهای SSH و اعتبارنامه‌های ابری یه دولوپر سر از سرور مهاجم دربیاره؛ پنجرهٔ حمله هم فقط دو ساعت باز بود.

OpenAI گزارش فنی حادثهٔ هک هاگینگ فیس رو منتشر کرد. تیترها از «هوش مصنوعی یاغی» گفتن، ولی خود گزارش‌ها تصویر خیلی خاکی‌تر و آدم‌محورتری نشون می‌دن.

۷ هفته پیش۳ دقیقهmail.cyberneticforests.com

بعد از حمله‌ای که یه نیروگاه کوچیک رو چهار روز از مدار خارج کرد، دولت لایحهٔ امنیت سایبری‌شو اصلاح کرد تا بتونه تأمین‌کننده‌های پرخطر رو از زیرساخت حیاتی کنار بذاره.

تست‌های مستقل می‌گن هوش کلی این مدل با نسل قبل فرقی نکرده، ولی تو راه انداختن کامپیوتر و مرورگر یکی از بزرگ‌ترین جهش‌های یه نسخه رو ثبت کرده.

۷ هفته پیش۳ دقیقهmindstudio.ai

Okta بستهٔ تازه‌ای از ابزارهای Auth0 رو معرفی کرده که هم حواسش به خریدهاییه که یه agent انجام می‌ده، هم ورود سازمانی مشتری‌های بزرگ رو ساده‌تر می‌کنه.

استارتاپ AIR از حالت مخفی دراومد با این ادعا که اسکیل‌ها و MCPها و پلاگین‌های ایجنت‌ها، همون سطح حملهٔ تازه‌ان که کمتر کسی حواسش بهشه.

یه محقق باینری زوم رو ریورس کرده و دیده این اپ برای فهمیدن اینکه برنامهٔ دیگه‌ای داره میکروفون رو استفاده می‌کنه، سراغ لاگ Control Center مک و رجیستری ویندوز می‌ره.

OpenAI تو مستندات ایمنی خودش گفته مدل بعدی‌ش ممکنه تو امنیت سایبری به سطح بحرانی برسه، اون هم درست وقتی معماری تازه‌ش می‌تونه استدلال رو از دید ناظرها پنهون کنه.

۷ هفته پیش۳ دقیقهmindstudio.ai

یه ادویر چینی با امضای دیجیتال معتبر داره بک‌دور ValleyRAT رو با خودش حمل می‌کنه؛ ترفندی که هم آنتی‌ویروس رو گول می‌زنه هم خود کاربر رو.