مدل Mythos شرکت Anthropic آسیبپذیری سیستمهای محرمانهٔ آمریکا رو پیدا کرد
هوش مصنوعیخلاصهٔ کاملتر
یه مقام آمریکایی که نخواسته اسمش فاش بشه، به خبرگزاری آسوشیتدپرس گفته یکی از مدلهای هوش مصنوعی شرکت Anthropic تو یه تمرین آزمایشی تونسته آسیبپذیریهایی رو تو سیستمهای کامپیوتریِ حساس و امنِ دولت آمریکا پیدا کنه. به گفتهٔ این مقام، Anthropic برای این تستها با سازمانهای اطلاعاتی آمریکا و مدل Mythos خودش همکاری کرده و مدل تونسته بعضی ضعفها رو در عرض چند ساعت شناسایی کنه؛ ولی اون تأکید کرده این به معنی این نیست که مدل تو همون مدت تونسته ازشون سوءاستفاده کنه.
به گفتهٔ این مقام، این تست تو قالب ابتکاری به اسم Project Glasswing انجام شده؛ طرحی که غولهای فناوری و چند شرکت دیگه رو کنار هم آورده تا نرمافزارهای حیاتی دنیا رو در برابر خطراتی که مدل Mythos میتونه برای امنیت عمومی، امنیت ملی و اقتصاد ایجاد کنه، ایمن کنن.
این موضوع رو سناتور دموکرات، Mark Warner، تو یه جلسهٔ استماع در ۱۱ ژوئن بهطور کوتاه مطرح کرده بود. اون گفته بود این ابزار «تقریباً به همهٔ سیستمهای محرمانهٔ ما نفوذ کرد، نه در چند هفته بلکه در چند ساعت» و این حرف رو به رئیس آژانس امنیت ملی (NSA) و فرماندهی سایبری آمریکا، ژنرال Joshua Rudd، نسبت داده بود. هم NSA و هم Anthropic از اظهارنظر دربارهٔ این ماجرا خودداری کردن.
با وجود این همکاری، تنش بین Anthropic و دولت ترامپ بیشتر شده. تو مقاله اومده که دولت این ماه دستور داده Anthropic جلوی استفادهٔ اتباع خارجی از جدیدترین مدلهاش، یعنی Fable 5 و Mythos 5، رو بگیره. Fable نسخهٔ محدودتری از Mythosِ پیشرفتهتره که شرکت بهخاطر نگرانیهای امنیتی، دسترسی بهش رو خیلی محدود کرده. Anthropic گفته برای اجرای این دستور، مدلها رو برای همهٔ مشتریهاش غیرفعال کرده، هرچند فکر نمیکنه این اقدامها لازم بوده.
از طرف دیگه، یه گروه از مدیرهای امنیت سایبری از دولت خواستن این محدودیت رو برداره و هشدار دادن که این کار ممکنه بیشتر به نفع دشمنان آمریکا تموم بشه. بیشتر از ۱۰۰ کارشناس و مدیر از شرکتهایی مثل Adobe و Nvidia تو نامهای نوشتن که مدلهای Mythos تو پیداکردن ضعفهای نرمافزاری «خیلی خوبن»، ولی «بهطور منحصربهفرد» بهتر از بقیه نیستن؛ چون خیلیها مدلهای متنباز و دیگه رو هم برای همین کار استفاده میکنن.
نکات کلیدی:
- مدل Mythos شرکت Anthropic تو یه تمرین آزمایشی، ضعفهای سیستمهای محرمانهٔ دولت آمریکا رو در عرض چند ساعت پیدا کرد
- این تست بخشی از ابتکار Project Glasswing و با همکاری سازمانهای اطلاعاتی آمریکا بوده
- دولت ترامپ استفادهٔ اتباع خارجی از مدلهای Fable 5 و Mythos 5 رو محدود کرده و Anthropic هم اونا رو غیرفعال کرده
- بیش از ۱۰۰ کارشناس امنیتی خواستار لغو این محدودیت شدن و میگن ممکنه به ضرر خود آمریکا تموم بشه
