پنج راه برای اینکه صورتحساب هوش مصنوعی شوکهتون نکنه
هوش مصنوعیخلاصهٔ کاملتر
خرج هوش مصنوعی دیگه با مدل آشنای صندلی و لایسنس و پایلوت جور در نمیآد. به نوشتهٔ CIO، حالا که هوش مصنوعی از کوپایلت به جریانهای کاری تعبیهشده و ایجنتهای خودمختار رسیده، یه درخواست کاربر میتونه چند فراخوان مدل، چند مرحلهٔ بازیابی، تلاش مجدد، لایهٔ ارکستراسیون و رویداد زیرساختی راه بندازه. ابزاری که تو پایلوت ارزون به نظر میرسه، وصل که بشه به سیستمهای تولیدی رفتار کاملاً دیگهای داره.
مایکل کوریگان، مدیر فناوری World Insurance Associates، میگه هوش مصنوعی اساساً یه مدل هزینهای متفاوت آورده: مصرفمحور، غیرخطی و چسبیده به فعالیت کسبوکار. به گفتهٔ او موفقیت یعنی گذر از بودجهبندی سنتی فناوری به انضباطی شبیه FinOps که توش مصرف، ارزش و حاکمیت بلادرنگ مدیریت میشه.
اول، بهجای کاربر، جریان کاری رو پیشبینی کنین. تو World که حدود ۳ هزار کارمند داره، بیشترین رشد مربوط به هوش مصنوعی سفارشیسازیشده دور فرایندهای خاصه — جایی که هزینه از لایسنس صندلی به مصرف توکن (یا مدل ترکیبی) جابهجا شده. المر مورالس، مدیرعامل koder.com، میگه متغیر مهم تعداد نفرات نیست، بلکه تعداد تصمیمهاییه که ایجنت در هر کار میگیره، چقدر دادهٔ بیرونی میکشه، چقدر کانتکست حمل میکنه و چند سیستم رو لمس میکنه.
دوم، مسیر شکست رو مدل کنین، نه فقط مسیر خوشبینانه. به گفتهٔ مورالس خیلی از سازمانها هزینه رو بر اساس سناریوی تمیز حساب میکنن: پرامپت شفاف، درک درست، انجام کار، تمام. ولی محیط تولید کثیفتره و ایجنت اغلب باید کارش رو دوباره چک کنه یا از نو انجام بده. به تعبیر او یه ایجنت ممکنه تا رسیدن به هدف اولیه ۵۰ تا ۱۰۰ فراخوان مدل بزنه، در حالی که یه پرامپت کوپایلت فقط یه فراخوانه. پس باید از قبل روشن باشه چند تلاش مجدد مجازه، چقدر کانتکست دوباره فرستاده میشه و کِی آدم باید دخالت کنه.
سوم، کنترل هزینه رو تو معماری جا بدین. پاوان مادوری از W.W. Grainger میگه نگاهکردن به دادهٔ مصرف گذشته — کاری که FinOps سنتی میکنه — دیر میرسه: داشبورد و بازپرداخت داخلی حسابداری تاریخیه و پول از جیب رفته. پیشنهاد او سقف سخت توکن، محدودیت عمق تلاش مجدد، سقف زمان اجرا، اولویتبندی بار کاری و کنترلهای سطح کلاستره. روی زیرساخت هم میگه با ابزارهایی مثل KEDA نودهای GPU رو بهمحض افت تقاضا تا صفر کوچک کنین. کوریگان هم از سقف نرخ، سقف خرج، هشدار و دروازهٔ تأیید استفاده میکنه.
چهارم، کار رو به مدل مناسب مسیردهی کنین. فرض پیشفرض اینکه هر کاری قویترین مدل رو لازم داره غلطه: یه تیکت پشتیبانی ساده یا تجزیهٔ لاگ با مدل کوچکتر و ارزونتر هم راه میافته، در حالی که تصمیم معماری یا تحلیل حقوقی چندمرحلهای مدل قویتر رو توجیه میکنه. مادوری اسم پیشفرضگذاشتن روی مدل مرزی برای همهچیز رو «تنبلی معماری» میذاره. جیم اولسن از ModelOp هم میگه استفاده از بزرگترین مدل برای همهچیز مثل اینه که گرانترین مهندس رو استخدام کنی تا چندتا رنگ تو CSS یه سایت عوض کنه.
پنجم، مصرف رو به ارزش کسبوکار گره بزنین. به گفتهٔ اولسن مسئلهٔ عمیقتر «شوک ارزش» هست، نه فقط شوک صورتحساب: خرج ۲۰۰ هزار دلار در یه فصل اگه ۲ میلیون دلار ارزش بسازه توجیه داره؛ مشکل جاییه که خرج سنگین میشه بدون بازگشت معنادار. ردیابی توکن به تفکیک کاربر یا دپارتمان فقط نشون میده کی مصرف کرده، نه اینکه مصرف ارزش داشته یا نه. راهحل او یه فهرست موجودی هوش مصنوعیه: ثبت اینکه کدوم جریان کاری از کدوم مدل، ایجنت و ارائهدهنده استفاده میکنه.
نکات کلیدی:
- هزینهٔ هوش مصنوعی مصرفمحور و غیرخطیه؛ پایلوت تصویر واقعی نمیده
- جریان کاری رو پیشبینی کنین، نه تعداد کاربر؛ ملاک تعداد تصمیم ایجنته
- مسیر شکست و تلاش مجدد رو هم مدل کنین، نه فقط سناریوی تمیز
- سقف توکن، محدودیت تلاش مجدد و مقیاسدهی رویدادمحور تو معماری جاسازی بشه
- مصرف بدون فهرست موجودی و اتصال به ارزش کسبوکار قابل قضاوت نیست
