متا برنامهٔ ردیابی کارمندا برای آموزش هوش مصنوعی رو متوقف کرد
هوش مصنوعیخلاصهٔ کاملتر
متا یکی از برنامههای داخلیش برای آموزش هوش مصنوعی رو موقتاً متوقف کرده، چون دادههای حساسش تو کل شرکت قابل دسترسی بوده. طبق اسکرینشاتهایی که Business Insider بهدست آورده، این نشت مکالمات خصوصی کارمندا، دادههای عملکرد و رونوشتها رو لو داده. حادثه تو مقیاس داخلی متا SEV 2 دستهبندی شده؛ تو این مقیاس صفر تا ۵، عدد صفر یعنی شدیدترین حالت.
این برنامه که اسمش Model Capability Initiative یا همون MCI هست، آوریل امسال معرفی شد. هدفش این بود که با استفاده از کلیدهای تایپ و حرکت ماوس کارمندا بهعنوان دادهٔ آموزشی، مدلهای هوش مصنوعی متا رو بهتر کنه. این برنامه برای بیشتر کارکنان اجباریه و همون موقع هم که رونمایی شد، خیلی از کارمندا از اینکه فعالیتهاشون ضبط میشه ناراحت بودن.
یه سخنگوی متا وجود این حادثه رو تأیید کرده و گفته شرکت داره موضوع رو بررسی میکنه. به گفتهٔ اون، برنامه از اول با تدابیر حفظ حریم خصوصی طراحی شده و فعلاً نشونهای از دسترسی نادرست کارمندا به دادهها دیده نشده، ولی متا تا وقتی بررسی تموم بشه اون رو نگه داشته.
طبق اسکرینشاتهایی که Business Insider دیده، این نشت باعث عصبانیت داخل متا شده. کارمندا انتقاد کردن که دادهها از همون اول قفل و محافظتشده نبودن. یکی از کارمندا تو یه گروه داخلی نوشته که خیلی عصبانیه و با اینکه نشونهای از دسترسی مخرب نمیبینه، اینکه دادهها اونطور که قول داده بودن ایمن نبودن خیلی آزاردهندهست.
این ماجرا آخرین مورد از یه سری حادثهٔ امنیتی اخیر برای متاست. ماه قبل یه نقص تو چتبات هوش مصنوعی متا اجازه داده بود آدما چند حساب اینستاگرام رو تصاحب کنن، و مارس امسال هم یه عامل هوش مصنوعی سرکش یه حادثهٔ جدی درست کرده بود. مجموعهٔ اینها نشون میده جمعآوری دادهٔ گسترده برای آموزش مدلها چه ریسکهای حریم خصوصی و امنیتیای میتونه بسازه.
نکات کلیدی:
- متا برنامهٔ آموزش هوش مصنوعی MCI رو بعد از نشت داده موقتاً متوقف کرده
- نشت، مکالمات خصوصی، دادههای عملکرد و رونوشتهای کارمندا رو برای کل شرکت قابل دسترسی کرده بود
- MCI کلیدهای تایپ و حرکت ماوس کارمندا رو بهعنوان دادهٔ آموزشی ضبط میکنه و برای بیشتر کارکنان اجباریه
- حادثه در مقیاس داخلی متا SEV 2 (از صفر تا ۵) دستهبندی شده
- این نشت آخرین مورد از یه سری حادثهٔ امنیتی اخیر متاست
