ایجنتهای هوش مصنوعی: مثل کارمند مدیریتشون کن، ولی کارمند صداشون نزن
هوش مصنوعیClaude Sonnet 5خلاصهٔ کاملتر
این روزا بعضی از رهبرای فناوری به ایجنتهای هوش مصنوعی میگن کارمند، همکار یا کارآموز، نه فقط یه نرمافزار. دلیلش اینه که وقتی یه ایجنت میتونه رکورد آپدیت کنه، بازپرداخت انجام بده یا پیام بفرسته، دیگه شبیه نصب یه اپلیکیشن ساده نیست. چند تا مقاله هاروارد بیزینس ریویو هم همین استعاره رو جدی گرفتن و پیشنهاد دادن به ایجنتها نقش، اختیار، ناظر و حتی برنامه آنبوردینگ داده بشه.
اما یه پژوهش دیگه از هاروارد بیزینس ریویو رو ۱۲۶۱ مدیر نشون داد وقتی هوش مصنوعی بهعنوان «کارمند» معرفی میشه، مدیرایی که باهاش کار کردن مسئولیت شخصی کمتری برای نتیجه قبول میکنن، مسئولیت رو بیشتر گردن AI میندازن، بیشتر مشکل رو ارجاع میدن و خطاهای کمتری رو خودشون میگیرن. تو این تحقیق ۳۱٪ گفتن شرکتشون همین الان AI رو بهعنوان همتیمی معرفی میکنه و ۲۳٪ گفتن ایجنتها تو چارت سازمانی هستن.
امی لومیس از IDC میگه مسئولیتپذیری یه ویژگی کاملاً انسانیه و ایجنت فقط میتونه زبان فرهنگ سازمانی رو تقلید کنه، نه واقعاً درکش کنه؛ برای همین صدا زدنش «همکار» میتونه باعث بشه آدما قضاوتشون رو به سیستم بسپرن. رجا اقبال از Ejento AI هم که خودش یکی از نویسندههای همون مقالهست، با این حرف موافقه: اون هویت انسانی و پرسونا رو برای ایجنت رد میکنه، ولی میگه باید یه هویت فنی قابل ردیابی داشته باشه تا بشه فهمید چیکار کرده؛ به قول خودش «هویت، ابزار ردیابیه؛ آدم مسئول، ابزار پاسخگوییه.» اون پیشنهاد میده اختیار ایجنت رو مرحلهبهمرحله زیاد کنن، شبیه دوره آزمایشی یه کارمند جدید.
راسل جوکز، مدیر دیجیتال DXC که تو یه سازمان ۱۱۵هزار نفره هوش مصنوعی رو مدیریت میکنه، میگه بهش «ابرقدرت» نگاه میکنه نه آدم. تو DXC ایجنتهای شخصی (حدود ۸۰۰۰ تا) با هویت خود کارمند کار میکنن، ولی ایجنتهای حرفهای (حدود ۱۰۰ تا) هویت، مجوز و نظارت جدا دارن و از طریق کنترلپلین قابل خاموششدن هستن. جوکز میگه اولین باری که AI رو مثل یه SaaS معمولی راهاندازی کرد هیچکس ازش استفاده نکرد، چون بر خلاف نرمافزار قطعی، ایجنت میتونه خودش انتخاب کنه و مسیر رو تعیین کنه؛ برای همین دیگه هیچوقت AI رو مثل SaaS دیپلوی نمیکنه.
نینا تاتسی، مدیر ارشد فناوری Quadient، ایجنتها رو «کارآموز» مینامه ولی فقط بهعنوان یه تشبیه، نه یه عنوان رسمی؛ به گفته اون باید هم مثل نرمافزار امن و قابلکنترل باشن، هم به خاطر رفتار احتمالاتیشون نظارت اضافه داشته باشن. Quadient اسم انسانی رو ایجنتها نمیذاره چون میترسه آدما زیادی به AI اعتماد کنن؛ تو یکی از پروژههای حسابداری، ایجنت اول فقط کار کارمندا رو دنبال کرد و یاد گرفت، بعد از اثبات عملکردش شروع به پیشنهاد دادن کرد، ولی تصمیم نهایی همیشه با آدم بود.
نکات کلیدی:
- تحقیقی رو ۱۲۶۱ مدیر نشون داد صدا زدن AI بهعنوان «کارمند» باعث میشه مدیرا مسئولیت کمتری قبول کنن و خطای بیشتری از دستشون در بره
- امی لومیس (IDC) و رجا اقبال (Ejento AI) هر دو میگن ایجنت باید هویت فنی قابل ردیابی داشته باشه، نه هویت انسانی
- DXC از حدود ۸۰۰۰ ایجنت شخصی و ۱۰۰ ایجنت حرفهای با نظارت سختگیرانهتر استفاده میکنه
- Quadient ایجنتها رو مثل کارآموز آزمایش میکنه ولی هیچوقت اسم انسانی روشون نمیذاره تا اعتماد بیش از حد شکل نگیره
