‏Anthropic Cyber Mission: هوش مصنوعی به کمک مدافعان امنیتی

Anthropic تو این پست از Anthropic Cyber Mission رونمایی کرده، یه تعهد بلندمدت برای اینکه به مدافعان امنیتی ابزار، تحقیق و منابع بده. به گفتهٔ Anthropic، مدل‌های frontier (یعنی قوی‌ترین مدل‌های روز) می‌تونن برای حمله هم استفاده بشن و مدافعان زیرساخت‌ها و جامعهٔ اوپن‌سورس با کمبود جدی منابع روبه‌رو هستن. شروع کار با دو حوزه‌ست: زیرساخت‌های حیاتی و نرم‌افزار اوپن‌سورس.

حوزهٔ اول operational technology هست، یعنی کنترلرها و شبکه‌های صنعتی که برق، آب و حمل‌ونقل رو می‌چرخونن. این سیستم‌ها رو معمولاً نمی‌شه برای patch خاموش کرد، برای همین باگ‌های شناخته‌شده سال‌ها باز می‌مونن. برنامهٔ جدید Critical Infrastructure Defense Program مدل‌های Claude، مهندس‌های حضوری و تحقیقات تهدید رو به شرکت‌هایی می‌ده که اپراتورها بهشون تکیه می‌کنن. شرکای اولش یازده تا هستن، از جمله Accenture، CrowdStrike، Deloitte، Dragos، Palo Alto Networks و Rockwell Automation.

حوزهٔ دوم اوپن‌سورسه. Anthropic تو Project Glasswing صدها پروژهٔ پرکاربرد رو اسکن کرده بود و یافته‌ها رو بعد از بررسی انسانی به نگهدارنده‌ها گزارش داده بود. حالا سرویس اختیاری OSS Scanner رو با الهام از OSS-Fuzz گوگل راه انداخته: پروژه‌های عضو، اسکن دوره‌ای و رایگان با قوی‌ترین مدل‌ها می‌گیرن. هر گزارش شامل proof of concept، توضیح و پیشنهاد رفع هست، ولی بدون بررسی انسانی فرستاده می‌شه. یعنی سریع‌تر می‌رسه ولی ممکنه خطا هم داشته باشه، مثلاً شدت باگ اشتباه باشه.

Anthropic انتظار داره نرخ true positive این سرویس بالای ۹۰٪ باشه. OSS Scanner برای پروژه‌هاییه که ظرفیت رسیدگی به حجم یافته‌ها رو دارن و بقیه همچنان گزارش‌های تأییدشده توسط انسان می‌گیرن. کنارش به بنیادهایی مثل Python Software Foundation، OpenSSF و Apache Software Foundation هم کمک مالی شده. Project Glasswing هم با Cyber Verification Program ادغام شده تا مدافعان بیشتری به مدل‌های قوی دسترسی داشته باشن.

پیش‌بینی Anthropic اینه که تا دو سال دیگه هوش مصنوعی به نفع دفاع کار می‌کنه، ولی فعلاً شاید اینطور نباشه. هزینهٔ exploit کردن باگ‌ها پایین اومده، در حالی که تأیید و رفعشون هنوز کند و وابسته به آدم‌هاست. تو Glasswing گاهی ماه‌ها بین پیدا شدن و رفع یه باگ فاصله بوده و تو سیستم‌های صنعتی ممکنه رفع یه باگ حتی دهه‌ها طول بکشه.

نکات کلیدی:

• Critical Infrastructure Defense Program با ۱۱ شریک بنیان‌گذار شروع شده
• OSS Scanner اختیاری و رایگانه و گزارش‌هاش بدون بررسی انسانی فرستاده می‌شن
• نرخ true positive مورد انتظار OSS Scanner بالای ۹۰٪ هست
• برنامهٔ دفاع سایبری دولت‌های محلی از ژوئن به بیش از نصف ایالت‌های آمریکا رسیده
• نگهدارنده‌های اوپن‌سورس می‌تونن از طریق Claude for Open Source اشتراک رایگان Claude Max بگیرن