متا برنامه جمعآوری داده از کارمندها رو متوقف کرد
هوش مصنوعیخلاصهٔ کاملتر
به گزارش وایرد که این ماجرا رو منتشر کرده، متا از آوریل یه برنامه به اسم Model Compatibility Initiative (MCI) راه انداخته بود که ورودیهای کامپیوتر مثل حرکت موس، محل کلیک و تایپ کیبورد، بهعلاوهٔ محتوای صفحهنمایش کارمندها رو جمع میکرد. اولش کارمندها حتی نمیتونستن انصراف بدن. هدف متا این بود که هوش مصنوعیش یاد بگیره درست مثل آدمها با نرمافزار کار کنه.
دادهای که جمع میشد فقط حرکت موس نبود؛ پرامپتهای کامل، متن مکالمهها، گفتوگوهای خصوصی و حتی داده عملکرد کارمندها هم توش بود. به گفتهٔ متا، یه معاون این شرکت گفته که روز ۱۸ ژوئن متوجه شدن کارمندهای غیرمجاز به دادههای MCI دسترسی پیدا کردن و حفره رو «تو چهار ساعت» بستن، ولی اون وصله دووم نیاورد و مجبور شدن دسترسی رو بیشتر محدود کنن.
متا تو یه بیانیه تأیید کرده که فعلاً برنامه رو متوقف میکنه و میگه هیچ نشونهای نداره که دادهای بهشکل نادرست دیده شده باشه، ولی تا وقتی بررسی تموم بشه پاز نگهش میداره. نکتهٔ جالب اینه که این دادهها از نظر قانونی PII یا اطلاعات شناسایی شخصی حساب نمیشدن، و همین شاید متا رو تو یه حس امنیت کاذب انداخته.
کارشناسها میگن دقیقاً همینجا اشتباه بوده. به گفتهٔ اونها، شرکتها راحت میگن «خب این که PII نیست» انگار یعنی داده کمخطره، در حالی که پرامپت و مکالمه و یادداشت عملکرد داخلی کلی چیز دربارهٔ اینکه شرکت چطور کار میکنه و کجاش لنگ میزنه لو میده. یکی از کارشناسها میگه داده رفتاری کارمند ذاتاً حساسه و باید مثل «راز تولید» ازش محافظت کرد، نه مثل پسماند تحلیلی.
جمعبندی کارشناسها اینه که خطر واقعی خود دادهای که لو رفته نیست، بلکه اعتماده. یکیشون میگه سیاست امنیتی فقط وقتی جواب میده که آدمها بهش باور داشته باشن، و حالا همین باور زیر سؤاله. وقتی کارمند حس کنه دادهاش بیش از حد جمع و کمتر از حد محافظت میشه، همزمان هم ریسک داخلی و هم آسیب به اعتبار شرکت درست میشه.
نکات کلیدی:
- برنامهٔ MCI متا حرکت موس، کلیک، تایپ، محتوای صفحه و حتی مکالمههای خصوصی کارمندها رو برای آموزش هوش مصنوعی جمع میکرد.
- کارمندهای غیرمجاز دوبار تونستن به این دادههای حساس دسترسی پیدا کنن؛ وصلهٔ اول دووم نیاورد.
- این داده از نظر قانونی PII نبود و همین باعث شد متا اونقدر که باید ازش محافظت نکنه.
- به گفتهٔ کارشناسها مشکل اصلی نبود محافظت درسته، نه خود جمعآوری داده.
- اعتماد کارمند خودش یه کنترل امنیتیه؛ وقتی بره، بیاعتمادی میافته رو هر سیاست بعدی.
