مانیتورینگ هوش مصنوعی با New Relic AIM؛ از دیباگ دستی تا observability هوشمند
تیم مهندسی داخلی New Relic قبلاً مجبور بود تلمتری ایجنتهای هوش مصنوعیشون رو بهصورت دستی و با کدنویسی سفارشی دنبال کنه؛ کاری که هم زمانبر بود و هم خطاپذیر. با پذیرش AIM یا همون AI Monitoring پلتفرم New Relic، این فرایند بهکلی تغییر کرد و تیم تونست با یه تغییر کوچیک در کانفیگ Python agent، به متریکهای آمادهی مصرف توکن، زمان پاسخ و نرخ خطا دسترسی داشته باشه. این ابزار بهشون کمک میکنه هم هزینههای مدلهای مختلف رو کنترل کنن و هم عملکرد ایجنتها رو در محیطهای staging و production بهصورت مدا
این محتوا بهصورت خودکار با استفاده از هوش مصنوعی تولید شده است. بررسی نهایی آن پیش از استفاده توصیه میشود و مسئولیت استفاده از آن بهعهده کاربر است. برای مطالعه متن اصلی خبر،اینجا را کلیک کنید




