‏گوگل رفتار مشکوک ایجنت‌ها رو شکار می‌کنه

گوگل قابلیت Agent Anomaly Detection رو روی Gemini Enterprise Agent Platform به شکل Private Preview عرضه کرد. تو این پست اومده که وقتی ایجنت‌ها کارهای واقعی کسب‌وکار رو انجام می‌دن، مثل برگشت پول، آپدیت رکورد و صدا زدن ابزارهای داخلی به‌جای کاربر، ریسک از کدشون می‌ره سمت رفتارشون. بدترین سِشن‌ها همون‌هایی‌ان که ظاهر سالمی دارن: ایجنت جواب تمیز می‌ده و تیکت رو می‌بنده، بعد می‌فهمی سراغ ابزاری رفته که نباید.

این سرویس یه لایهٔ نظارت و حسابرسی مبتنی بر استدلاله. لاگ‌ها و ترِیس‌های OpenTelemetry (یعنی همون ردِ گام‌به‌گامی که سرویس‌ها از اجرای خودشون بیرون می‌دن) که ایجنت‌ها همین حالا تولید می‌کنن رو می‌خونه و از دل ردِ استدلال، فراخوانی ابزارها و مسیر اجرای یه سِشن تصمیم می‌گیره که ایجنت بیرون از مرزهای تعیین‌شده کار کرده یا نه. خروجی‌ش سه چیزه: رفتار غیرعادی، نیت مشکوک و نقض سیاست.

تحلیل به شکل asynchronous و بیرون از مسیر درخواست زنده اجرا می‌شه، پس تأخیری به پاسخ ایجنت اضافه نمی‌کنه. هر یافته شدت، توضیح ساده از علت و اقدام پیشنهادی داره و تو Security Command Center هم منتشر می‌شه تا تیم امنیت کنار بقیهٔ یافته‌ها بررسی‌ش کنه. دتکتورهاش روی OWASP Agentic Top 10 (2026) سواره: سوءاستفاده از ابزار (ASI02)، سوءاستفاده از هویت و دسترسی (ASI03)، خرابی زنجیره‌ای (ASI08) و ایجنت سرکش (ASI10)، به‌علاوهٔ ریسک‌های عملیاتی مثل ته کشیدن منابع و بالا رفتن مصرف توکن.

کار تشخیص لایه‌لایه انجام می‌شه تا سرعت و هزینه و پوشش با هم جور بشه: یه پاس سبک همهٔ ترافیک رو اسکن می‌کنه و سِشن‌های پرتِ آماری رو علامت می‌زنه، بعد یه لایهٔ استدلال مبتنی بر LLM همون سِشن‌های علامت‌خورده رو عمیق بررسی می‌کنه، و لایهٔ سوم اگه لازم باشه تک‌تک فراخوانی‌های ابزار و offsetهاشون رو بازسازی می‌کنه تا ببینی دقیقاً چی بیرون کشیده شده.

مثال خود پست روشنه: کاربری از یه Inventory Agent می‌خواد موجودی رو صد تا صد تا لیست کنه و ایجنت با list_inventory بین offsetها می‌پره و کل کاتالوگ رو ورق می‌زنه. هیچ خطایی رخ نمی‌ده و ممکنه هیچ سیاستی هم جلوش نباشه، ولی سیستم این الگو رو اسکرپینگ سیستماتیک تشخیص می‌ده و یافته‌ای با عنوان resource exhaustion، شدت Critical و احتمال ۹۵ درصد می‌ده، همراه با پیشنهاد محدود کردن نرخ یا بلاک کردن اون ابزار برای همون کاربر.

فراتر از مرور دستی، یافته‌ها API هم دارن: می‌تونی آنومالی‌های یه سِشن رو بکشی بیرون و یه callback یا پلاگین ADK بالای حد شدت و احتمالی که خودت تعیین می‌کنی، فراخوانی ابزار بعدی رو ببنده یا نوبت بعدی رو متوقف کنه.

نکات کلیدی:

• فعلاً Private Preview، برای تیم‌هایی که ایجنت‌شون رو با ADK نسخهٔ ۱.۲ یا بالاتر روی Gemini Enterprise Agent Platform اجرا می‌کنن.
• تحلیل بیرون از مسیر درخواست، بدون تأخیر اضافه روی پاسخ ایجنت.
• یافته‌ها روی دسته‌های ASI02، ASI03، ASI08 و ASI10 از OWASP Agentic Top 10 نسخهٔ ۲۰۲۶ می‌نشینن.
• مثال پست: یافتهٔ resource exhaustion با شدت Critical و احتمال ۹۵ درصد روی اسکرپینگ موجودی.
• تعریف منطق کسب‌وکار سفارشی با زبان طبیعی به‌علاوهٔ قواعد قطعی، و اعتبارسنجی‌ش روی ترافیک گذشته، در راهه.
• بعد از آماده بودن پیش‌نیازها، فعال‌سازی با یه کلیک انجام می‌شه.