‏هزینهٔ پنهان هوش مصنوعی: حاکمیت و نظارت

این مقاله از ITPro دربارهٔ یه هزینهٔ کمتر دیده‌شدهٔ AI حرف می‌زنه: AI governance، یعنی همهٔ قواعد و کارهایی که مطمئن می‌شن AI درست و امن کار می‌کنه. تأیید پروژه، تست، audit trail (یعنی ثبت سابقهٔ تصمیم‌ها برای بررسی بعدی)، بازبینی انسانی و مستندسازی همه وقت و پول می‌برن. حالا که agentها کارهای پیچیده‌تری رو با دخالت کمتر آدم انجام می‌دن، این بار بین تیم‌های IT، امنیت، حقوقی، ریسک و داده پخش شده. البته این بزرگ‌ترین خرج نیست و توکن و لایسنس جلوترن، ولی سهمش تو هزینهٔ کل مالکیت (TCO) داره بیشتر می‌شه.

به گفتهٔ David Menninger از ISG، بزرگ‌ترین هزینه اینه که governance رو بعداً به پروژه‌ها اضافه کنن، کاری که می‌تونه چند ماه به راه‌اندازی اضافه کنه. تحقیق ISG روی ۱۲۰۰ مورد استفادهٔ AI نشون می‌ده حدود یک‌سومشون به production رسیدن. این دو برابر پارساله، ولی هنوز دوسوم نرسیدن. همین تحقیق می‌گه تموم کردن این پروژه‌ها به‌طور میانگین دو برابرِ چیزی که تا حالا خرج شده هزینه داره و بیشتر از یه سال طول می‌کشه. Enza Iannopollo از Forrester معتقده پایلوت بهترین زمان برای تست و تنظیم کنترل‌هاست.

بخش بعدی دربارهٔ human-in-the-loop هست، یعنی وقتی یه آدم خروجی AI رو بررسی و تأیید می‌کنه. طبق ISG، ۹۰ درصد کارهایی که با AI انجام می‌شن هنوز آدم وسطشون هست. نکتهٔ جالب اینه که AI کارهای ساده رو خودکار می‌کنه و سخت‌ترین تصمیم‌ها برای آدم‌ها می‌مونه. Menninger می‌گه تعیین آستانهٔ بازبینی، یعنی اینکه فقط موارد پرریسک به آدم برسن، از موفق‌ترین روش‌ها برای کنترل هزینه و ریسک بوده. پیش‌بینی ISG اینه که تا آخر ۲۰۲۷ فقط ۱۳ درصد کارهای AI کاملاً خودکار می‌شن.

مشکل دیگه اینه که نظارت دستی تو مقیاس بالا گلوگاه می‌شه. مدلی که برای ده پروژه جواب می‌ده، ممکنه تو صد پروژه از هم بپاشه. Iannopollo می‌گه باید کنترل‌های فنی و اتوماسیون اضافه بشن و کار انسانی با دقت تقسیم بشه. ISG هم می‌گه فقط یک‌سوم بیشتر از دوجین vendorی که بررسی کردن، معیارهاشون برای ابزار ارزیابی agent رو کامل داشتن. پس شرکت‌ها باید انتظار داشته باشن ابزار و فرایند اضافه لازم دارن. Gartner پیش‌بینی کرده خرج پلتفرم‌های AI governance از ۲۷۵ میلیون دلار تو ۲۰۲۶ به ۴۶۲ میلیون دلار تو ۲۰۲۷ برسه.

جمع‌بندی مقاله اینه که governance نباید ترمز نوآوری دیده بشه. به گفتهٔ Iannopollo، تو بیشتر موارد نبودِ governance مانع اصلیه. بهترین مدل، مدلیه که بر اساس ریسک لایه‌بندی شده باشه: کارهای روتین با اتوماسیون، و نظارت سنگین‌تر فقط برای موارد پرریسک. یعنی هزینهٔ governance رو هم باید از روز اول مثل compute و لایسنس تو بودجهٔ پروژه حساب کرد.

نکات کلیدی:

• طبق ISG، حدود یک‌سوم از ۱۲۰۰ مورد استفادهٔ AI به production رسیدن که دو برابر پارساله.
• اضافه کردن governance بعد از شروع پروژه می‌تونه چند ماه به راه‌اندازی اضافه کنه.
• ۹۰ درصد کارهای AI هنوز بازبینی یا کمک انسانی دارن و تا آخر ۲۰۲۷ فقط ۱۳ درصد کاملاً خودکار می‌شن.
• Gartner پیش‌بینی کرده بازار پلتفرم‌های AI governance از ۲۷۵ میلیون دلار به ۴۶۲ میلیون دلار برسه.
• مدل پیشنهادی: نظارت لایه‌بندی‌شده بر اساس ریسک، با اتوماسیون برای کارهای کم‌ریسک.