مدیران فناوری مسئول هوش مصنوعیای هستن که کنترلش نمیکنن
هوش مصنوعیخلاصهٔ کاملتر
به گفتهٔ IBM، توی یه مطالعهٔ جهانی روی ۲۰۰۰ مدیر ارشد فناوری (CIO و CTO)، دو سوم اونها مجبورن مسئولیت سیستمهای هوش مصنوعیای رو قبول کنن که عملاً نمیتونن نظارت واقعی روشون داشته باشن. فقط ۱۱٪ گفتن برای مقیاس بهکارگیری ایجنتهای هوش مصنوعی کاملاً آمادهن. این یعنی شکاف بین چیزی که مدیرها پاسخگوش هستن و چیزی که واقعاً کنترل میکنن، داره بازتر میشه.
نکتهٔ اصلی مقاله اینه که سرعت از حاکمیت (governance) جلو زده. هشتاد درصد مدیرها از سمت مدیرعامل دستور تحول گرفتن، ولی ۷۷٪ میگن پذیرش هوش مصنوعیشون از توان فعلی حاکمیت سازمان جلوتره. تا سال ۲۰۲۷ هم انتظار دارن تعداد ایجنتهای مستقر شده ۳۸٪ بیشتر بشه.
Matt Lyteson، مدیر ارشد اطلاعات IBM، میگه چالش دیگه فقط سریعتر مستقر کردن هوش مصنوعی نیست؛ مسئله اینه که سازمانها چطور از همون اول کنترل و دید رو توی معماریشون جا بدن. به گفتهٔ اون، خیلی از سازمانها هنوز با معماری و مدلهای بودجهای کار میکنن که برای تصمیمگیری با سرعت انسان طراحی شده، نه سیستمهایی که با سرعت ماشین کار میکنن.
تحلیل IBM میگه توی سازمانهایی که به حاکمیت دستی تکیه میکنن، با بزرگتر شدن مقیاس هوش مصنوعی ریسک حادثه هم بالا میره؛ ولی اونهایی که کنترل رو مستقیم توی سیستمهاشون تعبیه میکنن ۲۵٪ حوادث کمتری دارن. نزدیک شش نفر از هر ده مدیر هم نگرانیهای امنیتی و انطباق (compliance) رو مانع اصلی مقیاسدهی به ایجنتها دونستن.
سازمانها بهطور میانگین پارسال ۵۴ حادثهٔ مربوط به ایجنت هوش مصنوعی داشتن؛ یعنی اتفاق ناخواسته یا مضری که نیاز به اصلاح انسانی داشته. از اینها ۱۷٪ شدت بالا بودن و بیش از چهار ساعت طول کشیده تا مهار بشن: ۳۷٪ به افشای داده یا نقض امنیتی منجر شدن، ۳۳٪ خرابی زنجیرهای سیستم درست کردن و ۱۷٪ مشکل انطباق به وجود آوردن.
بخش پول هم جالبه: سهم هوش مصنوعی از بودجهٔ IT قراره از کمتر از ۱۵٪ توی ۲۰۲۵ به نزدیک ۲۵٪ توی ۲۰۲۷ برسه، ولی ۸۴٪ مدیرها هنوز مدیریت مالی هوش مصنوعی رو کامل عملیاتی نکردن و ۸۵٪ دید بلادرنگ کاملی به هزینهٔ واقعی ندارن. سازمانهایی که کنترل رو توی سیستم جا دادن، ۱۶ برابر بیشتر ایجنت مستقر میکنن، ۱۸٪ حاشیهٔ عملیاتی بالاتر دارن و فقط یکچهارم بودجهٔ هوش مصنوعی رو خرج میکنن.
نکات کلیدی:
- دو سوم مدیرهای CIO و CTO مسئول سیستمهای هوش مصنوعیایان که نمیتونن واقعاً نظارتشون کنن و فقط ۱۱٪ خودشون رو کاملاً آماده میدونن.
- ۷۷٪ میگن پذیرش هوش مصنوعی از توان فعلی حاکمیت جلوتره و تا ۲۰۲۷ انتظار رشد ۳۸٪ تعداد ایجنتها رو دارن.
- تعبیه کردن کنترل مستقیم توی سیستمها ۲۵٪ حوادث رو کم میکنه و ۱۶ برابر استقرار بیشتر ممکن میکنه.
- پارسال میانگین ۵۴ حادثهٔ ایجنت رخ داده که ۳۷٪شون به افشای داده یا نقض امنیتی منجر شده.
- سهم بودجهٔ هوش مصنوعی تا ۲۰۲۷ به حدود ۲۵٪ میرسه، ولی بیشتر سازمانها دید بلادرنگ به هزینههاش ندارن.
