‏عامل‌های هوش مصنوعی سازمانی: خودمختاری داخل قید و بند

به گفتهٔ عدنان مسعود تو InfoWorld، تیم‌های سازمانی دیگه دنبال یه دستیار چت‌محور نیستن؛ چیزی می‌خوان که کد بنویسه، تیکت ثبت کنه، رکورد CRM رو آپدیت کنه و قدم بعدی رو هم خودش جلو ببره. نویسنده agentic system (یعنی نرم‌افزاری که هدف کاربر رو به زنجیره‌ای از قدم‌ها تبدیل می‌کنه، با ابزارها اجراشون می‌کنه و یه خروجی قابل ممیزی تحویل می‌ده) رو تعریف می‌کنه و مرز مسئولیت‌ها رو هم می‌کشه: مدل فقط برنامه‌ریزی و زبون رو می‌ده، اختیار و وضعیت و کنترل کار سیستم اطرافشه.

حلقهٔ کاری این سیستم چهار مرحله داره و به گفتهٔ نویسنده هر مرحله باید قابل مشاهده باشه: Plan یعنی انتخاب اقدام بعدی بر اساس هدف و وضعیت فعلی و سیاست، Act یعنی صدا زدن ابزار با آرگومان ساختاریافته، Verify یعنی سنجیدن نتیجه با چک‌های قطعی، و Commit یعنی نوشتن تغییر وضعیت تو یه انبار پایدار همراه با رویداد ممیزی. نکتهٔ ظریفش اینه که خروجی مدل خودش یه ورودی‌ـه که باید اعتبارسنجی بشه، نه یه حقیقت.

حرف اصلی مقاله اینه که بیشترین ریسک عملیاتی از خود ابزارها می‌آد، چون ابزار می‌تونه سیستم‌های ثبت رسمی رو عوض کنه. برای همین نویسنده «قرارداد ابزار» رو جزو مستندات طراحی می‌دونه: اسکیمای ورودی که پارامتر آزاد رو رد کنه، دامنهٔ دسترسی و مرز داده، کلید idempotency (یعنی کلیدی که باعث می‌شه تلاش دوبارهٔ یه درخواست، رکورد تکراری نسازه)، سقف نرخ، کدهای خطای پایدار، و فیلدهای ممیزی مثل شناسهٔ درخواست و ارجاع به مقدار قبل و بعد.

الگوی مرجعی که پیشنهاد می‌ده اسمش supervisor هست: یه ناظر مرکزی مالک سیاست و مسیریابی و وضعیته، و کارگرهای تخصصی با حداقل دسترسی لازم کارهای باریک مثل بازیابی یا اقدام روی مخزن کد رو انجام می‌دن. اسکلت ساده‌شدهٔ حلقه تو مقاله این شکلیه:

while ctx.open_steps:
    intent = planner.propose_next(ctx)
    intent = policy.enforce_intent(intent, ctx)
    call = tool_router.bind(intent, ctx)
    result = call.execute(idempotency_key=ctx.step_key)
    checks = verifier.run(intent, result, ctx)
    ctx = commit_step(ctx, intent, result, checks)

برای پایدار موندن این سیستم‌ها هم چند تا عادت عملیاتی معرفی می‌کنه: شروع از کارهای کم‌دامنه و خواندنی، لیست مجاز محدود برای ابزارها، انتشار مرحله‌ای از کاربرهای داخلی به بیرون، بودجهٔ سفت برای حداکثر قدم و حداکثر تماس ابزار و سقف هزینه، و runbook با کلید خاموش‌کردن جدا برای هر ابزار. سنجه‌هایی هم که پیشنهاد می‌ده کاملاً عملیاتی‌ان: نرخ تکمیل کار، میانگین قدم‌ها، نرخ خطای ابزار، نرخ شکست اعتبارسنجی و نرخ تأیید انسانی.

نکات کلیدی:

• حلقهٔ عامل چهار مرحله داره: Plan، Act، Verify، Commit؛ و هر مرحله باید trace خودش رو ثبت کنه.
• قرارداد ابزار باید شش چیز داشته باشه: اسکیمای ورودی، دسترسی، idempotency، سقف نرخ، کد خطای پایدار و فیلد ممیزی.
• سیاست باید یه ماژول نسخه‌دار و اجراشدنی تو مسیر درخواست باشه، نه یه سند روی کاغذ.
• وضعیت بیرون از مدل و به‌ازای هر قدم ذخیره می‌شه تا موقع حادثه بشه کل مسیر رو بازپخش کرد.
• برای اقدام‌های پرریسک، تأیید انسانی با دامنهٔ باریک و شواهد کافی گذاشته می‌شه.