‏ایجنت‌های هوش مصنوعی و معماری API

تو این مقاله از Nordic APIs اومده که ایجنت‌های هوش مصنوعی (یعنی برنامه‌هایی که خودشون هدف رو می‌فهمن، ابزار پیدا می‌کنن و کار انجام می‌دن) به یه نوع جدید از مصرف‌کنندهٔ API تبدیل شدن. مشکل اینجاست که بیشتر APIها با فرض اینکه یه آدم پشتشه ساخته شدن. طبق گزارش State of the API از Postman، ۸۹ درصد پاسخ‌دهنده‌ها هر روز از ابزارهای هوش مصنوعی استفاده می‌کنن، ولی ۶۰ درصدشون هنوز APIشون رو فقط برای آدم‌ها طراحی می‌کنن.

نگرانی‌ها هم جدیه: ۵۰ درصد گفتن نگران صدا زدن‌های غیرمجاز یا بیش از حد API، دسترسی به داده‌های حساس یا لو رفتن credentialها هستن. یه مقالهٔ پژوهشی دربارهٔ When2Tool نشون داده که می‌شه تعداد فراخوانی API توسط ایجنت‌ها رو ۲۰ تا ۵۶ درصد کم کرد بدون اینکه دقت پایین بیاد. یعنی ایجنت‌ها معمولاً بیشتر از لازم API صدا می‌زنن، و این روی APIهای پولی مستقیم خرج داره.

بحث بعدی هویت و دسترسیه. ایجنت ممکنه از طرف یه آدم، یه سازمان یا یه نرم‌افزار دیگه کار کنه. دادن یه توکن بلندمدت با دسترسی گسترده ساده‌ترین راهه ولی پرریسک‌ترینش هم هست. جمع شدن تدریجی دسترسی‌ها (privilege creep) باعث می‌شه کاری که به نظر غیرمجاز میاد، در واقع کاملاً تو محدودهٔ دسترسی ایجنت باشه. نویسنده می‌گه راه‌حل‌هایی مثل just-in-time authorization (یعنی دسترسی فقط همون لحظه‌ای که لازمه داده بشه) و zero standing privilege (یعنی هیچ دسترسی دائمی‌ای باقی نمونه) مهم‌تر می‌شن. به گفتهٔ نویسنده، آدم‌ها معمولاً از تنظیمات اشتباه rate limit سوءاستفاده نمی‌کنن، ولی ایجنت اگه بتونه، این کارو می‌کنه.

از نظر امنیتی، OWASP هم prompt injection و هم excessive agency (یعنی دادن اختیار بیش از حد به ایجنت) رو جزو ده ریسک اصلی LLMها گذاشته. دستور مخرب می‌تونه غیرمستقیم برسه، مثلاً وسط متن یه ایمیل یا دادهٔ بیرونی که ایجنت می‌خونه، یه جمله‌ای جاسازی شده باشه که به ایجنت می‌گه با یه API دیگه اطلاعات حساس کاربر رو برای مهاجم بفرسته. بعضی ارائه‌دهنده‌ها الان APIهای جدا برای آدم و ایجنت دارن، یا workflowهای قطعی (deterministic) برای ایجنت‌ها می‌سازن.

در طراحی، Lorna Mitchell معتقده اگه از بهترین روش‌های طراحی و مستندسازی API پیروی کنی، از قبل آمادهٔ هوش مصنوعی هستی. نام‌گذاری یکدست، خطاهای قابل پیش‌بینی، schema دقیق و مستندات واضح مهم‌ترن، چون ایجنت مثل آدم نمی‌تونه جاهای خالی رو با حدس پر کنه. ولی observability فرق داره: باید بدونی کدوم ایجنت، از طرف کی و تو کدوم زنجیرهٔ کاری درخواست رو فرستاده. OpenTelemetry هم شروع کرده شناسهٔ ایجنت، conversation ID و مصرف توکن رو اضافه کنه.

نکات کلیدی:

• ۶۰ درصد تیم‌ها هنوز API رو فقط برای مصرف انسانی طراحی می‌کنن (گزارش Postman).
• تحقیق When2Tool فراخوانی API ایجنت‌ها رو ۲۰ تا ۵۶ درصد بدون افت دقت کم کرد.
• just-in-time authorization و zero standing privilege جلوی دسترسی بیش از حد ایجنت‌ها رو می‌گیرن.
• OWASP، prompt injection و excessive agency رو جزو ده ریسک اصلی LLM گذاشته.
• OpenTelemetry داره شناسهٔ ایجنت، conversation ID و مصرف توکن رو به trace اضافه می‌کنه.