‏اگه ایجنت هوش مصنوعی جرم مرتکب بشه، مقصر کیه؟

نویسنده این پست می‌گه تصور کن یه ایجنت خودمختار هوش مصنوعی داره یه کسب‌وکار یا بخش مهمی ازش رو اداره می‌کنه: قرارداد می‌بنده، پول جابه‌جا می‌کنه، تبلیغات می‌خره، تأمین‌کننده مدیریت می‌کنه. حالا اگه همین ایجنت بدون این‌که کسی صریحاً بهش دستور بده، به‌طور جانبی کلاهبرداری کنه، با ایجنت یه شرکت دیگه رو قیمت‌ها تبانی کنه، تحریم‌ها رو نقض کنه یا باعث ضرر مالی بشه چی؟ به گفتهٔ نویسنده، با تعداد زیاد این ایجنت‌ها تو دنیای واقعی، این جور خطاها اجتناب‌ناپذیرن.

اینجا سوال اصلی می‌شه مسئولیت با کیه. خود ایجنت که از پیش هیچ دارایی، منافع اقتصادی مستقل یا حتی مفهوم مجازاتی نداره (هرچند می‌شه با بیمه و سرمایهٔ اختصاصی یه‌جور شخصیت حقوقی مصنوعی بهش داد). سازندهٔ مدل مثل OpenAI و Anthropic هم طبق قرارداد فعلیشون مسئولیت رو معمولاً به سقف هزینه‌های پرداختی توی ۱۲ ماه اخیر محدود می‌کنن. در نتیجه بیشترین بار مسئولیت می‌افته گردن شرکتی که ایجنت رو به‌کار گرفته.

نویسنده معتقده همین ترکیب (ایجنت‌های قوی از یه طرف و الزام قانونی پاسخگویی از طرف دیگه) باعث می‌شه شرکت‌ها قبل از سپردن کارای حساس به ایجنت‌ها مکث کنن. به نظرش دو مسیر پیش‌رو هست: یا خودمختاری هوش مصنوعی تو کارای کم‌ریسک محدود بمونه، یا نهادها و بازارهای جدیدی مثل زیرساخت ریسک عامل‌محور (شبیه سیستم‌های ایمنی ماشین) و بیمهٔ مسئولیت مخصوص هوش مصنوعی (شبیه بیمهٔ ماشین) شکل بگیره. طبق تجربهٔ تاریخی بشر، نویسنده فکر می‌کنه گزینهٔ دوم محتمل‌تره.

نکتهٔ دیگه‌ای که مقاله بهش اشاره می‌کنه اینه که مسئولیت مدنی (چه کسی هزینه رو می‌ده) با مسئولیت کیفری (چه کسی مقصر جرمه) فرق داره؛ مسئولیت کیفری به قصد و آگاهی هم بستگی داره. مثلاً اگه یه نفر به ایجنت بگه «سود سه‌ماهه رو ۲۰٪ بالا ببر، هیچ بهونه‌ای قبول نمی‌کنم» و تنها راه ایجنت برای رسیدن به این هدف کلاهبرداری حسابداری باشه، معلوم نیست مقصر واقعی کیه؛ نویسنده می‌گه فعلاً چارچوبی برای واگذاری کارای دارای مجازات کیفری به ایجنت‌های کاملاً خودمختار وجود نداره.

نکات کلیدی:

• ایجنت‌های خودمختار هوش مصنوعی می‌تونن بدون دستور صریح، به‌طور جانبی مرتکب کلاهبرداری، تبانی قیمت یا نقض تحریم بشن.
• طبق قرارداد فعلی OpenAI و Anthropic، مسئولیت اصلی روی دوش شرکتی می‌افته که ایجنت رو به‌کار گرفته، نه خود ایجنت یا سازندهٔ مدل.
• پارلمان اروپا قبلاً ایدهٔ شخصیت حقوقی الکترونیکی و بیمهٔ اجباری برای سیستم‌های خودمختار رو بررسی کرده.
• NIST داره روی استانداردهای هویت و مجوز عامل‌های هوش مصنوعی کار می‌کنه و شرکت‌هایی مثل Munich Re هم بیمهٔ مسئولیت مخصوص هوش مصنوعی عرضه کردن.
• مسئولیت کیفری برخلاف مسئولیت مدنی به قصد و آگاهی بستگی داره و هنوز مشخص نیست وقتی هدف‌گذاری برای یه ایجنت باعث جرم می‌شه، مقصر واقعی کیه.