وقتی ایجنت‌ها تصمیم می‌گیرن، اختیار دست کیه؟
هوش مصنوعیخلاصهٔ کامل‌تر
نویسنده که سابقهٔ مدیریت فناوری تو حوزهٔ بانک و پرداخت داره می‌گه سؤال‌های قدیمی حاکمیت فناوری (امنه؟ تاب‌آوره؟ استاندارد معماری رو رعایت می‌کنه؟) هنوز مهمن ولی دیگه کافی نیستن. سؤال مهم‌تر اینه که چه کسی یا چه چیزی اختیار انجام اون کارو داره. طبق گزارش AI Index 2026 دانشگاه استنفورد، ۸۸٪ سازمان‌های بررسی‌شده تو ۲۰۲۵ از هوش مصنوعی استفاده کردن، ولی استقرار ایجنت‌ها تقریباً تو همهٔ واحدهای کسب‌وکار هنوز تک‌رقمی مونده.
فرق اصلی اینجاست که سیستم سنتی مجوز رو اجرا می‌کنه، ولی سیستم مبتنی بر هوش مصنوعی نیت رو تفسیر می‌کنه. مثالش پرداخته: یه اپلیکیشن معمولی اجازه می‌ده کارمند تا سقف مشخصی پرداخت رو تأیید کنه، ولی یه ایجنت می‌تونه درخواست رو بررسی کنه، مدرک جمع کنه، با سیستم دیگه‌ای حرف بزنه، استثنا پیشنهاد بده و قدم بعدی رو شروع کنه. تک‌تک این کارها قانونی به نظر میان، ولی مجموعه‌شون اختیاری می‌سازه که هیچ‌کس صریحاً نداده بود.
نویسنده چهار اصل برای این معماری پیشنهاد می‌ده. اول اینکه قبل از انتخاب فناوری، خود تصمیم رو تعریف کنی و از تصمیم کسب‌وکار شروع کنی نه از پلتفرم. دوم اینکه توانایی رو از اختیار جدا کنی، با یه نردبان پنج‌پله‌ای: مشاهده، پیشنهاد، آماده‌سازی، اجرا تا سقف مشخص، و اجرا با اختیار استثنا. بالا رفتن از این نردبان باید با شواهد باشه نه با هیجان، و دقت مدل فقط یکی از ورودی‌هاست؛ برگشت‌پذیری، توضیح‌پذیری و زمان بازیابی هم مهمن.
اصل سوم اینه که اختیار باید فنی و قابل اعمال باشه: متن سیاست جلوی صدا زدن یه API توسط ایجنت رو نمی‌گیره، پس اختیار باید تو هویت، سطح دسترسی، سقف تراکنش، تفکیک وظایف، گیت تأیید، پایش زمان اجرا و مکانیزم قطع اضطراری نوشته بشه. اصل چهارم هم اقتصاد اختیاره، چیزی که نویسنده بهش می‌گه خودمختاری تعدیل‌شده با مسئولیت: ارزش واگذاری اجرا بعد از کم کردن هزینهٔ نظارت، اصلاح خطا، انطباق، بازیابی و آسیب احتمالی.
به گفتهٔ نویسنده مرز کنترل رو باید پیامد تعیین کنه نه فعالیت؛ ایجنتی که یه جلسهٔ داخلی رو جابه‌جا می‌کنه با ایجنتی که تصمیم اعتبارسنجی مشتری رو عوض می‌کنه یا پول جابه‌جا می‌کنه یکی نیست. کار عملی هم از یه فهرست اختیارات شروع میشه: کجاها ماشین روی تصمیم‌های پیامددار اثر می‌ذاره یا اجراشون می‌کنه، با چه هویتی، به چه سیستم‌هایی می‌رسه و اختیارش چطور پس گرفته میشه. چارچوب NIST AI RMF و مادهٔ ۱۴ قانون هوش مصنوعی اتحادیهٔ اروپا هم همین جهت رو نشون می‌دن.
نکات کلیدی:
- طبق AI Index 2026 استنفورد، ۸۸٪ سازمان‌ها تو ۲۰۲۵ از هوش مصنوعی استفاده کردن ولی استقرار ایجنت تو اغلب واحدها تک‌رقمی مونده
- نردبان اختیار پنج پله داره: مشاهده، پیشنهاد، آماده‌سازی، اجرا تا سقف مشخص، اجرا با اختیار استثنا
- مادهٔ ۱۴ قانون هوش مصنوعی اتحادیهٔ اروپا برای سیستم‌های پرخطر نظارت مؤثر انسانی و امکان override رو الزامی کرده
- معیار پیشنهادی سنجش «هزینه به ازای هر نتیجهٔ موفق و کنترل‌شده»ست، نه دقت مدل یا هزینهٔ واحد
- نویسنده می‌گه بازبینی انسانی در انتهای یه سیستم بی‌مرز، نظارت واقعی نیست
