۷۸٪ شرکتها با هوش مصنوعی به دردسر امنیتی خوردن
هوش مصنوعیخلاصهٔ کاملتر
به گزارش The Register، طبق یه نظرسنجی سفارشی از شرکت هویت دیجیتال DigiCert، اکثر شرکتهایی که سیستمهای هوش مصنوعی رو راه میندازن، سر امنیت به پای خودشون شلیک میکنن. تو این نظرسنجی، ۷۸٪ شرکتها گفتن یا حادثهٔ امنیتی مرتبط با AI تجربه کردن یا آسیبپذیری مرتبط با AI شناسایی کردن.
طبق جزئیاتی که سخنگوی شرکت به The Register داده، ۲۷٫۷٪ یه حادثه، ۲۱٫۹٪ چند حادثه، و ۲۸٫۴٪ بدون حادثه ولی با آسیبپذیری شناساییشده مواجه بودن. جزئیات حادثهها فاش نشده، ولی نکتهٔ مهم اینه که اینها ناشی از ایجنتهای AIِ غیرمجاز یا بدپیکربندیشده بودن، نه ایرادهایی که از کد تولیدشده با AI دربیان.
همسو با حوزهٔ کاری خودش، DigiCert این یافتهها رو به نبود «حاکمیت AI» نسبت میده. به گفتهٔ Amit Sinha، مدیرعامل این شرکت، «ما به یه کارمند اجازه نمیدیم بدون هویت تأییدشده کار کنه؛ ایجنتهای AI هم نباید فرقی داشته باشن.» نویسنده میگه این حرف به یه شعار رایج تبدیل شده و چند ابتکار برای دادن شناسه به باتها در جریانه — مثل PACTs، شناسههای دیجیتال استونی برای ایجنتها، و Agent ID مایکروسافت — ولی زیرساخت «نشانگذاری بات» هنوز کامل نیست و ایجنتها تو خیلی سازمانها رها میچرخن.
نویسنده اشاره میکنه این نتایج با یه گزارش مشابه از Spacelift دو هفته قبل همخونی داره که گفته بود ۹۳٪ سازمانها حادثهٔ زیرساختی ناشی از AI داشتن ولی فقط ۱۹٪ برنامهٔ حاکمیتی داشتن. اینها در تضاد کامل با گزارش State of AI 2026 انویدیاست که با آبوتاب میگه AI تو هر صنعتی درآمد و بهرهوری رو بالا برده.
این نظرسنجی جواب ۱۰۰۱ مدیر IT و امنیت سایبری تو آمریکا، بریتانیا و استرالیا رو در بر میگیره و نشون میده شرکتها اول AI رو راه میندازن و بعد سؤال میپرسن. با اینکه ۹۰٪ سازمانها تو سطح هیئتمدیره دربارهٔ حاکمیت AI حرف زدن، فقط ۵۰٪ بودجه و برنامهٔ رسمی حاکمیت دارن، و همین نقاط کور عملیاتی رو باقی میذاره.
فقط ۵۳٪ گفتن میتونن تصمیمهای AI رو به مدلها و دادهٔ منبعی که تولیدشون کرده ردیابی کنن — که به گفتهٔ گزارش، لحظهای که یه سیستم AI نتیجهٔ غیرمنتظره یا جنجالی بده به یه مشکل تبدیل میشه، چون همه میپرسن «چرا اینکارو کرد؟»
نکات کلیدی:
- طبق نظرسنجی DigiCert، ۷۸٪ شرکتها حادثهٔ امنیتی مرتبط با AI داشتن یا آسیبپذیری AI پیدا کردن.
- علت بیشتر حادثهها ایجنتهای غیرمجاز یا بدپیکربندیشده بوده، نه ایراد کد تولیدشده با AI.
- ۹۰٪ تو سطح هیئتمدیره دربارهٔ حاکمیت AI حرف زدن ولی فقط ۵۰٪ بودجه و برنامهٔ رسمی دارن.
- فقط ۵۳٪ میتونن تصمیمهای AI رو به مدل و دادهٔ منبع ردیابی کنن؛ گزارش Spacelift هم رقم ۹۳٪ حادثهٔ زیرساختی رو گفته بود.
