‏هوش مصنوعی؛ هم سپر، هم تهدید در امنیت سایبری

دو پژوهش مستقل از Hack The Box و ISC2 تصویر جالبی از وضعیت امنیت سایبری در عصر هوش مصنوعی ارائه می‌دن. نتیجه مشترک هر دو گزارش اینه که AI دیگه فقط یه ابزار کمکی نیست — هم می‌تونه دفاع سایبری رو قوی‌تر کنه، هم می‌تونه دست مهاجمان رو پر کنه.

گزارش Hack The Box بر اساس داده‌های익익 익anonymized بیش از ۷۰۲ هزار متخصص امنیتی از ۲۵۱ کشور تهیه شده. بر اساس این داده‌ها، ۲۹٪ از چالش‌های امنیتی مرتبط با AI که روی پلتفرم حل شدن، مربوط به prompt injection بودن — یعنی حملاتی که سعی می‌کنن با دستکاری ورودی‌ها، یه مدل هوش مصنوعی رو فریب بدن. بعد از اون، بهره‌برداری از مدل‌های یادگیری ماشین با ۲۴٪ و ربودن کنترل agentic AI (سیستم‌های خودمختار هوش مصنوعی) با ۱۲٪ قرار دارن.