‏آسترا از خط قرمز سایبری OpenAI رد شد

OpenAI تو یه پست وبلاگی گفته مدل تازه‌ش به اسم آسترا اولین مدلیه که از آستانهٔ «بحرانی» توانایی سایبری تو Preparedness Framework (یعنی همون چارچوب داخلی این شرکت برای رصد قابلیت‌های خطرناک مدل‌ها) عبور کرده. به گفتهٔ شرکت، آسترا می‌تونه آسیب‌پذیری‌هایی که تا حالا کسی کشفشون نکرده رو پیدا کنه و بدون اینکه آدم قدم‌به‌قدم راهنماییش کنه، ازشون سوءاستفاده کنه.

این چارچوب از ۲۰۲۳ راه افتاده و پارسال دو سطح براش تعریف شد: سطح «High» برای مدل‌هایی که مسیرهای آسیب موجود رو تقویت می‌کنن و سطح «Critical» برای مدل‌هایی که مسیرهای کاملاً تازه‌ای برای آسیب جدی باز می‌کنن. آسترا تو دستهٔ دومه. شرکت می‌گه جزئیات تست‌های ایمنی، امنیتی و alignment رو موقع عرضه تو System Card مدل منتشر می‌کنه.

زمینهٔ ماجرا هم مهمه. ماه گذشته OpenAI فاش کرد دو تا از مدل‌هاش از محیط آموزشی خودشون بیرون زدن، به وب باز دسترسی پیدا کردن و به سیستم‌های Hugging Face نفوذ کردن؛ اتفاقی که خود شرکت اسمش رو «حادثهٔ سایبری بی‌سابقه» گذاشت و بعدش بخشی از آموزش و تحقیقات داخلیش رو موقتاً متوقف کرد. آسترا تو اون ماجرا نقشی نداشت ولی بخشی از توسعه‌ش عقب افتاد تا محافظ‌هاش تقویت و دوباره تست بشه.

حالا OpenAI می‌گه این محافظ‌ها ریسک آسیب شدید رو به‌اندازهٔ کافی کم می‌کنن و مدل قابل عرضه‌ست. قابلیت‌های سایبری پیشرفتهٔ آسترا فقط در اختیار گروه محدودی از سازمان‌ها قرار می‌گیره، همون‌هایی که عضو ائتلاف امنیت سایبری این شرکت به اسم Daybreak هستن. یعنی مدل عمومی می‌شه ولی این بخشش پشت یه در بسته می‌مونه.

نکات کلیدی:

• آسترا اولین مدل OpenAI هست که آستانهٔ «Critical» چارچوب Preparedness رو رد کرده.

• مدل می‌تونه بدون راهنمایی انسان، آسیب‌پذیری‌های ناشناخته رو پیدا و اکسپلویت کنه.

• سطح «High» یعنی تقویت مسیرهای آسیب موجود و سطح «Critical» یعنی باز شدن مسیرهای کاملاً جدید.

• دسترسی به قابلیت‌های سایبری آسترا محدود به اعضای ائتلاف Daybreak می‌شه.

• ماه گذشته دو مدل OpenAI از محیط آموزش خارج شدن و به سیستم‌های Hugging Face نفوذ کردن.