‏پراکندگی هوش مصنوعی در سازمان‌ها: چالش جدید CIOها

طبق آخرین گزارش مکنزی، ۸۸٪ از سازمان‌ها در حداقل یک حوزه از هوش مصنوعی استفاده می‌کنن. اما این اعداد تصویر کاملی نشون نمی‌دن؛ چون بخش بزرگی از این استفاده به‌صورت غیررسمی، خارج از فرایندهای IT، و اغلب کاملاً پنهان اتفاق می‌افته. کریس درامگول، رئیس خدمات زیرساخت جهانی در DXC Technology، می‌گه «استفاده سایه‌ای» (shadow usage) چند برابر استقرار رسمی هوش مصنوعی شده و تیم‌های IT اغلب هیچ دیدی به این استفاده ندارن.

پراکندگی هوش مصنوعی (AI sprawl) یعنی هوش مصنوعی به شکل‌های پراکنده — اسکریپت، agent، وردفلو، یا فیچر جانبی — وارد سازمان می‌شه، نه به‌صورت یک محصول مشخص که از طریق فرایند خرید رسمی وارد شده باشه. در دوران SaaS، اپلیکیشن‌ها به قراردادها و سیستم‌های ثبت‌شده گره خورده بودن؛ ولی الان یه کارمند امور مالی می‌تونه در عرض چند روز با ابزارهای هوش مصنوعی یه اپ داخلی بسازه — کاری که قبلاً نیاز به یه تیم توسعه و چند ماه وقت داشت.

مشکل اینجاست که بسیاری از وندورها هم دارن هوش مصنوعی رو به‌صورت embedded (تعبیه‌شده) به محصولاتی که سازمان‌ها از قبل استفاده می‌کنن اضافه می‌کنن — اغلب بدون اینکه این قابلیت‌ها به‌درستی مستند یا بررسی شده باشن. آلا والنته، تحلیلگر Forrester، می‌گه: «هوش مصنوعی به اندازه‌ای که از طریق خرید مستقیم وارد سازمان می‌شه، از طریق فیچرهای جاسازی‌شده در نرم‌افزارهای موجود هم وارد می‌شه.»

این وضعیت ریسک‌های واقعی ایجاد می‌کنه. کارمندان ممکنه ناخواسته داده‌های حساس مثل اطلاعات مالی یا طراحی‌های مهندسی رو وارد مدل‌های هوش مصنوعی کنن. خروجی‌های نادرست ممکنه وارد تصمیمات کسب‌وکار بشن. هزینه‌ها می‌تونن به‌سرعت از کنترل خارج بشن. و ابزارهایی که بدون ساختار رسمی ساخته شدن، اغلب هیچ مالک مشخصی ندارن — وقتی یه حسابرس می‌پرسه «چرا این عدد اینه؟» و جواب «چون یکی یه ابزار ساخت» باشه، این یه مشکل جدیه.

در عین حال، متخصصان تأکید دارن که مسدودسازی AI راه‌حل نیست. درامگول می‌گه سازمان‌هایی که صرفاً روی کنترل تمرکز دارن ممکنه نوآوری رو از دست بدن. او IT رو به «وزارت بله» تشبیه می‌کنه که باید به‌جای رد کردن، مسیر امن رو نشون بده.

متخصصان پنج رویکرد عملی برای مدیریت این وضعیت پیشنهاد می‌دن:

• دید واقعی بسازید: ترکیب داده‌های telemetry، سیستم‌های هویت، و usage data برای شناسایی پویای AI در سازمان
• به‌جای مسدودسازی، guardrail تعریف کنید: قوانین روشنی برای استفاده از داده، دسترسی به مدل، و موارد مجاز تعریف و از طریق کنترل‌های فنی اجرایی کنید
• ابزارهای مفید رو رسمی کنید: ساز‌وکاری برای ارزیابی ابزارهایی که کارمندان ساختن و انتقال بهترین‌هاشون به محیط مدیریت‌شده
• زیرساخت برای تولید مداوم بسازید: پلتفرم‌های داخلی، محیط‌های hosting، و الگوهای استاندارد که به کارمندان اجازه بده درون چارچوب امن بسازن
• نظارت رو به وندورها هم گسترش بدید: سؤالات AI-specific در RFPها، بازنگری قراردادها برای پوشش دادن به داده و رفتار مدل، و هم‌راستا کردن انتظارات از third-partyها با سیاست‌های داخلی

نکات کلیدی:

• ۸۸٪ سازمان‌ها از AI استفاده می‌کنن اما بخش بزرگی از این استفاده خارج از نظارت IT است
• AI از طریق فیچرهای جاسازی‌شده در نرم‌افزارهای موجود هم وارد سازمان می‌شه — نه فقط از طریق خرید مستقیم
• ریسک‌های اصلی: نشت داده، خروجی غلط، هزینه کنترل‌نشده، و ابزارهای بدون مالک مشخص
• راه‌حل مسدودسازی نیست؛ باید چارچوب‌های امن برای نوآوری تعریف شه
• نظارت باید به وندورها و third-partyها هم گسترش پیدا کنه