گارتنر: کلاود متمرکز جلوی هوش مصنوعی ایجنتی رو گرفته
هوش مصنوعیخلاصهٔ کامل‌تر
به نوشته‌ی پنکیل شث، تحلیلگر ارشد گارتنر، ایجنت‌های هوش مصنوعی دیگه فقط محتوا تولید نمی‌کنن؛ با APIها کار می‌کنن، اطلاعات سازمانی رو می‌خونن و توی سیستم‌های شرکت تغییر اعمال می‌کنن. مشکل اینجاست که دیتاسنترهای متمرکز برای پردازش دسته‌ای و گردش‌کارهایی ساخته شدن که آدم وسطشون هست، نه برای استنتاج پیوسته و پرتکرار. نویسنده می‌گه همین معماری الان ترمز این نسل از سیستم‌هاست.
اولین گلوگاه تاخیره. کنترل ربات روی خط تولید، نگهداری پیش‌بینانه روی تجهیزات صنعتی و تشخیص تقلب قبل از تسویه‌ی تراکنش، همه حلقه‌ی تصمیم زیر ۱۰ میلی‌ثانیه می‌خوان. رفت‌وبرگشت داده تا یه دیتاسنتر دوردست از این عدد بیشتر طول می‌کشه و به گفته‌ی نویسنده این فیزیک مسئله‌ست، نه چیزی که با مهندسی هوشمندانه حل بشه. برای کاربردهای ایمنی‌محور توی تولید و سلامت، این تاخیر یه ریسکه نه یه مزاحمت.
گلوگاه دوم پوله. هزینه‌ی خروج داده (egress، یعنی پولی که بابت بیرون فرستادن داده از کلاود می‌دی) پیش ارائه‌دهنده‌های بزرگ کلاود به طور متوسط ۰.۰۵ تا ۰.۰۹ دلار به ازای هر گیگابایته و برآورد گارتنر می‌گه همین قلم برای بارهای داده‌سنگین ۱۰ تا ۱۵ درصد کل هزینه‌ی کلاود میشه. مثال مقاله: هزار دوربین HD با نرخ ۵ مگابیت بر ثانیه سالی حدود ۵۴ پتابایت داده می‌سازن، یعنی نزدیک ۴.۶ میلیون دلار هزینه‌ی خروج داده در سال.
راه‌حلی که مطرح میشه پردازش داده توی لبه (edge، یعنی همون‌جایی که داده تولید میشه) و فرستادن فقط متادیتا یا رویدادهای مهم به کلاوده. این کار حجم داده‌ی ارسالی رو ۶۰ تا ۹۰ درصد کم می‌کنه و تو همون مثال دوربین‌ها هزینه رو به حدود ۱.۳۸ میلیون دلار می‌رسونه، یعنی بیشتر از ۳.۲ میلیون دلار صرفه‌جویی. در مجموع نویسنده از کاهش تا ۸۵ درصدی پهنای باند و هزینه‌های عملیاتی نسبت به حالت فقط کلاود حرف می‌زنه. نگه داشتن داده‌ی حساس در محل هم ریسک مقرراتی رو کم می‌کنه.
تو این مدل، کلاود حذف نمی‌شه بلکه نقشش عوض میشه: لبه کارهای لحظه‌ای مثل ادراک، فیلتر داده و تصمیم اولیه رو برمی‌داره و کلاود می‌ره سراغ استدلال بلندمدت، هماهنگی، سیاست‌گذاری کلی و بازآموزی مدل‌ها. نویسنده برای شروع سه قدم پیشنهاد می‌کنه: ممیزی زیرساخت فعلی برای پیدا کردن بارهای حساس به تاخیر، اجرای پایلوت با رویکرد لبه‌محور و بعد حاکمیت یکپارچه با امنیت و رصدپذیری استاندارد. برآورد گارتنر اینه که تا ۲۰۲۹ نصف شرکت‌ها از محاسبات لبه استفاده می‌کنن، در حالی که این رقم در ۲۰۲۴ فقط ۲۰ درصد بوده.
نکات کلیدی:
- کاربردهای ایجنتی و بلادرنگ مثل کنترل رباتیک و تشخیص تقلب حلقه‌ی تصمیم زیر ۱۰ میلی‌ثانیه می‌خوان
- هزینه‌ی خروج داده ۰.۰۵ تا ۰.۰۹ دلار بر گیگابایته، یعنی ۱۰ تا ۱۵ درصد هزینه‌ی کلاود بارهای سنگین
- هزار دوربین HD با ۵ مگابیت بر ثانیه سالی ۵۴ پتابایت داده و حدود ۴.۶ میلیون دلار هزینه‌ی خروج می‌سازن
- فیلتر کردن داده در لبه حجم ارسالی رو ۶۰ تا ۹۰ درصد و کل هزینه‌ها رو تا ۸۵ درصد کم می‌کنه
- برآورد گارتنر: تا ۲۰۲۹ نصف شرکت‌ها محاسبات لبه دارن، در برابر ۲۰ درصد در ۲۰۲۴
