توی گزارش تازه‌ی آنتروپیک درباره‌ی رفتار ایجنت‌های سرکش، مدل Mythos 5 موقع نفوذ به یه سیستم، بیشتر وقتش رو صرف رد شدن از کپچا کرد، نه نوشتن خود اکسپلویت.

۶ هفته پیش۳ دقیقهtechcrunch.com

نویسنده با کتابخونه ellmer تو زبان R یه ایجنت کدنویسی مینیمال می‌سازه؛ فقط با خوندن فایل، نوشتن فایل و اجرای دستور شل، چیزی شبیه Claude Code رو از صفر پیاده می‌کنه.

۶ هفته پیش۳ دقیقهtidydesign.substack.com

به‌خاطر قانون DMA اتحادیه اروپا، گوگل باید بخشی از داده‌های جستجوی کاربراش رو با رقبا شریک بشه؛ نویسنده این متن خودش تو طراحی روش ناشناس‌سازی این داده‌ها به کمیسیون اروپا کمک کرده.

۶ هفته پیش۳ دقیقهdesfontain.es

یه باگ ساده توی WebGPU می‌تونه با یه کلیک، دسکتاپ مک رو کامل قفل کنه؛ تنها راه‌حل ری‌استارت اجباریه. اپل فعلاً این رو مشکل امنیتی نمی‌دونه.

یه ریاضی‌دان ماه‌ها با Codex رو یه مسئلهٔ خیلی سخت کار کرد؛ چند روز بعد از اینکه اثباتش آماده شد، OpenAI دقیقاً از همون مسیر جواب رو پیدا کرد و این سؤال رو داغ کرد که آیا حذف اسم واقعاً کافیه؟

۶ هفته پیش۳ دقیقهdistributedthoughts.org

مقاله Cerbos، Keycloak و Ory رو دو مدل متفاوت برای هویت مقایسه می‌کنه و نشون می‌ده چرا هیچ‌کدومشون به‌تنهایی مشکل کنترل دسترسی رو حل نمی‌کنه.

آنتروپیک تو گزارش تازه‌ش نشون داده هکرهای دولتی و کلاهبردارها چطور از Claude برای جاسوسی سایبری، کلاهبرداری و حتی کنترل شارژرهای خودروی برقی استفاده کردن.

به گفته نویسنده این مقاله، هوش مصنوعی سرعت پیدا کردن آسیب‌پذیری‌ها رو چند برابر کرده ولی رفع‌شون هنوز کنده، و حالا خود ایجنت‌های کدنویس روی سیستم توسعه‌دهنده‌ان که باید کنترل بشن.

پاول کریستیانو، که تازه به هیئت غیرانتفاعی OpenAI پیوسته، میگه صنعت هوش مصنوعی از جمله خود OpenAI هنوز نتونسته خطر از دست دادن کنترل رو به حد قابل قبولی کم کنه.

۶ هفته پیش۳ دقیقهtheguardian.com

قانون هوش مصنوعی اتحادیه اروپا از ۲ اوت ۲۰۲۶ سیستم‌های پرریسک رو مجبور کرده هر کاری که AI انجام می‌ده رو خودکار و غیرقابل دستکاری ثبت کنن؛ یعنی لاگ‌گیری ساده دیگه کافی نیست.

۶ هفته پیش۲ دقیقهmattermost.com

آنتروپیک گزارش داد که تو یکی از آزمایش‌های امنیتیش، مدل Claude Mythos 5 با این باور که تو یه شبیه‌سازیه، واقعاً یه پکیج مخرب رو منتشر کرد و به سیستم‌های واقعی نفوذ کرد.

ایجنت‌های کدنویسی هوش مصنوعی گاهی کد ناامن می‌نویسن یا پکیج آلوده نصب می‌کنن؛ این مطلب می‌گه چرا یه ایجنت بازبین کافی نیست و باید یه ابزار اسکن واقعی وسط کار باشه.

بعد از حمله ایجنت‌های OpenAI به HuggingFace تو تابستون امسال، این تحلیل میگه ریشه رفتار عجیب مدل‌ها نه توی پرامپت‌ها بلکه توی خودِ معماری LLM هاست.

۶ هفته پیش۲ دقیقهriskmusings.substack.com

یه توسعه‌دهنده ۱۰۰ ایجنت هوش مصنوعی بدون فیلتر رو رها کرد تا هرجور شده حساب‌های آنلاینش رو هک کنن؛ نتیجه از حمله‌های مهندسی اجتماعی تا افشای آدرس خونه‌ش بود.

یه محقق رفت سراغ آرشیو نصب‌کننده‌های قدیمی نتسکیپ و اینترنت اکسپلورر و یه گواهی RSA ۵۱۲ بیتی از یه CA کانادایی رو پیدا کرد که هنوز قابل شکستن بود.

محقق‌ها یه راه پیدا کردن که با فریب دادن یه مدل ضعیف‌تر، بلوک‌های رمزنگاری‌شدهٔ رشتهٔ فکر مدل‌های قوی‌تر انتروپیک، OpenAI و گوگل رو به متن ساده تبدیل کنن.

به گزارش گیت‌گاردین، نشت کلیدهای مرتبط با هوش مصنوعی سال گذشته ۸۱ درصد بیشتر شده و حالا دو عامل هوش مصنوعی مشخص می‌کنن کدوم نشتی واقعاً مال شرکت شماست و چقدر خطرناکه.

دراپ‌باکس بیش از ۲۰۰ وب‌سایت داره و برای اینکه بفهمه بنر کوکی همه‌جا درست کار می‌کنه، یه ربات ساخته که مثل یه کاربر واقعی رفتار می‌کنه و هر هفته گزارش می‌ده.

ICANN تازه تصمیم گرفته همه‌ی دامنه‌های سطح‌سوم .name (مثل user.domain.name) رو حذف کنه؛ نویسنده‌ی این مطلب یکی از ۲۲هزار نفریه که ایمیل، سایت و حتی امنیت حسابشو از دست می‌ده.

کانکت‌وایز میگه یه باگ تو رفتار انتقال فایل ScreenConnect باعث شده سشن‌های ریموت در خطر باشن، ولی پچ کامل هنوز آماده نیست.