سازمان خودکار: کار رو کجا باید به ایجنت هوش مصنوعی سپرد؟
هوش مصنوعیخلاصهٔ کامل‌تر
مقاله با یه مثال شروع می‌کنه: مشتری سفارشش رو عوض می‌کنه و یه ایجنت هوش مصنوعی موجودی رو چک می‌کنه، زمان تحویل رو به‌روز می‌کنه، سیستم مالی رو آپدیت می‌کنه و تأیید می‌فرسته، بدون اینکه کسی دستی کاری بکنه. فرقش با اتوماسیون قدیمی اینه که ایجنت خودش ابزار انتخاب می‌کنه و تصمیم می‌گیره چطوری به هدف برسه. همین قدرت یه سؤال مدیریتی جدی می‌سازه: چه تصمیم‌هایی رو باید بهش داد و چقدر اختیار؟
کلر لبارز، CTO شرکت Malt، می‌گه بهترین کارها برای ایجنت سه ویژگی دارن: قابل برگشت (اگه اشتباه کرد ارزون درست میشه)، محدود (تو یه دامنه‌ی مشخص می‌مونه) و قابل مشاهده (نتیجه زود معلوم میشه). مثل مسیردهی درخواست‌ها، تطبیق رکوردها و پایش ناهنجاری‌ها. به گفته‌ی اون، چیزی که هنوز نباید سپرد کاریه که خود سازمان هنوز سر تعریف موفقیتش بحث داره، چون ایجنت نمی‌تونه ابهامی رو حل کنه که سازمان حل نکرده. سایمون جیمز از Publicis Sapient هم می‌گه ایجنت‌ها جایی خیلی مفیدن که کار بین بخش‌ها گیر می‌کنه، مثل وام تجاری که روزها تو اینباکس آدم‌ها معطل می‌مونه.
به گفته‌ی کارشناس‌ها، هر تصمیمی که شرکت رو متعهد می‌کنه باید دست آدم بمونه. کیث مک‌فارلین، CTO شرکت Globality، می‌گه ایجنت‌شون با تأمین‌کننده‌ها مذاکره می‌کنه و سناریوهای واگذاری می‌سازه، ولی خودش هیچ‌وقت قرارداد رو نمی‌بنده. از اون طرف، کریس تالوی از Domino Data Lab می‌گه گاهی ایجنت باید اول عمل کنه و بعد بررسی بشه، مثلاً جدا کردن یه سرور هک‌شده یا باطل کردن یه credential لو رفته. ولی به هر حال باید همیشه آدم‌هایی باشن که استثناها رو بررسی کنن. صف تأییدی که کسی وقت نداره درست نگاهش کنه هم عملاً هیچ محافظتی نمی‌کنه.
کوبوس گریلینگ از kore.ai می‌گه خودمختاری محدود باید تو معماری طراحی بشه، نه اینکه تو prompt توضیح داده بشه. لبارز هم می‌گه «prompt یه پیشنهاده، permission یه کنترل». هر ایجنت باید هویت خودش، یه مالک مشخص و مجوزهای مربوط به کارش رو داشته باشه، با سقف مالی و لیست گیرنده‌های مجاز. محتوای بیرونی مثل پیام تأمین‌کننده‌ها هم ممکنه دستورهایی برای فریب ایجنت داشته باشه، پس باید ورودی غیرقابل اعتماد حساب بشه. تو سیستم چندایجنتی هم ممکنه هر ایجنت کارش رو درست انجام بده ولی نتیجه‌ی کلی برای شرکت بد باشه.
برای سنجش، مقاله می‌گه تعداد کار انجام‌شده و ساعت‌های صرفه‌جویی‌شده چیز زیادی نشون نمی‌ده و باید نتیجه‌ی واقعی فرایند رو سنجید. استیون اجینگتون از Dext می‌گه تو حسابداری ایجنتی که سریعه ولی اشتباه می‌کنه، فقط کار رو می‌ندازه عقب. لبارز پیشنهاد می‌ده «هزینه‌ی واقعی هر نتیجه‌ی موفق» حساب بشه، شامل inference، تلاش‌های دوباره، خطاها و وقت آدم‌ها برای بررسی. همه‌ی کارهای ایجنت هم باید ثبت بشه: چه اطلاعاتی داشته، چه ابزاری استفاده کرده و چه مجوزهایی فعال بوده.
پیشنهاد مقاله برای اجرا یه مسیر مرحله‌ایه: اول ایجنت فقط کار رو نگاه می‌کنه، بعد پیشنهاد می‌ده، بعد با تأیید عمل می‌کنه و آخر سر اختیار مستقل محدود می‌گیره. هر مرحله باید با شواهد همون نوع تصمیم جلو بره. جمع‌بندی لبارز اینه که ایجنت‌ها تو اجرا خیلی خوبن، ولی تصمیم اینکه چی ارزش اجرا داره هنوز کار آدمه.
نکات کلیدی:
- کار مناسب ایجنت سه ویژگی داره: قابل برگشت، محدود و قابل مشاهده.
- تصمیم‌هایی که شرکت رو متعهد می‌کنه، مثل بستن قرارداد با تأمین‌کننده، باید دست آدم بمونه.
- محدودیت ایجنت باید با هویت، مالک و مجوز تو معماری اعمال بشه، نه با متن prompt.
- معیار درست هزینه‌ی هر نتیجه‌ی موفقه، با احتساب inference، تلاش دوباره، خطا و وقت بررسی.
- اختیار ایجنت مرحله‌ای زیاد میشه: مشاهده، پیشنهاد، عمل با تأیید، و بعد اختیار مستقل محدود.
