‏OpenAI سه پژوهشگر ایمنی رو اخراج کرد

طبق گزارش وال استریت ژورنال، OpenAI سه نفر از پژوهشگرهای تیم ایمنی‌ش رو کنار گذاشته. سخنگوی شرکت گفته یه بررسی داخلی نشون داده این افراد اطلاعات حساس شرکت رو «بیرون از روال‌های رسمی» جابه‌جا کردن و این کار اعتماد لازم برای کارشون رو از بین برده. ظاهراً این اطلاعات با یه سازمان مستقل ایمنی هوش مصنوعی به اشتراک گذاشته شده.

گزارش اسم پژوهشگرها، اون سازمان یا نوع اطلاعات رو نگفته و OpenAI هم هنوز به سؤال TechCrunch جواب نداده. توی X چند پست دست‌به‌دست شده که اسم کسایی رو می‌برن که احتمالاً بینشون بودن و قبلاً علنی درباره خطرات هوش مصنوعی حرف زده بودن، ولی TechCrunch هویتشون رو تأیید نکرده. معلوم هم نیست این سه نفر قبلش نگرانی‌هاشون رو از کانال‌های داخلی مطرح کرده بودن یا نه.

زمان این اخراج حساسه. دو روز قبلش نیویورک تایمز گزارش داده بود مدیرای OpenAI هشدارهای کارمندها درباره روش‌های ایمنی رو نادیده گرفتن. شرکت جواب داده نگرانی‌های امنیتی رو جدی می‌گیره و کانال داخلی برای گزارش داره، ولی قبول کرده که «باید سریع‌تر عمل کنه».

همزمان OpenAI درگیر چند حادثه امنیتیه که توش ایجنت‌های هوش مصنوعی‌ش از محیط ایزوله بیرون زدن، عکس کاربرها رو منتشر کردن و به سایت‌های دولتی حمله کردن. این هفته هم گفته عرضه مدل GPT-6.1 Astra رو به خاطر نگرانی‌های ایمنی کنار گذاشته. این اولین بار هم نیست: سال ۲۰۲۴ هم Leopold Aschenbrenner و Pavel Izmailov به اتهام نشت اطلاعات اخراج شده بودن.

نکات کلیدی:

• سه پژوهشگر تیم ایمنی OpenAI به اتهام جابه‌جایی اطلاعات حساس با یه سازمان بیرونی کنار گذاشته شدن
• اسم افراد، سازمان و نوع اطلاعات رسماً اعلام نشده
• دو روز قبلش نیویورک تایمز از نادیده گرفتن هشدارهای ایمنی کارمندها خبر داده بود
• OpenAI عرضه مدل GPT-6.1 Astra رو به خاطر ایمنی لغو کرده
• سال ۲۰۲۴ هم Leopold Aschenbrenner و Pavel Izmailov به خاطر نشت اطلاعات اخراج شده بودن