مسئولیت حرفی که هوش مصنوعی می‌زنه
هوش مصنوعی
گوگلخلاصهٔ کامل‌تر
بروس اشنایر با یه خبر شروع می‌کنه: یه دادگاه آلمانی حکم داده گوگل در قبال خلاصه‌های جست‌وجوی هوش مصنوعی‌اش مسئولیت حقوقی داره. دادگاه دفاع‌هایی مثل «کاربرها خودشون می‌تونن چک کنن» و «همه می‌دونن نباید به محتوای AI کورکورانه اعتماد کرد» رو رد کرده و گفته این خلاصه‌ها انعکاس خود شرکتن و «بیش از هر چیز بیانِ فعالیت تجاری گوگل».
به گفته‌ی اشنایر این تازه‌ترین درگیری تو یه دعوای دهه‌هاست: تفاوت حامل (carrier) و ناشر (publisher). شرکت تلفن حامله — هرچی بگی منتقل می‌کنه و مسئول کلماتت نیست. روزنامه ناشره — کلماتی که چاپ می‌کنه رو خودش انتخاب می‌کنه و اگه افترا باشه مسئوله. شرکت‌های اینترنتی سال‌هاست هر وقت به نفعشونه یکی از این دو نقاب رو می‌زنن، و Section 230 هم همین دوگانگی رو تثبیت کرد.
نکته‌ی محوری نویسنده اینه که AI Overviewها اصلاً پیچیدگی این بحث رو ندارن. جست‌وجوی سنتی محتوای دیگران رو آرشیو و در دسترس می‌ذاشت، ولی خلاصه‌ی AI فقط نقل‌قول نمی‌کنه — حرف بقیه رو بازنویسی می‌کنه و دقیقاً مثل یه مقاله‌ی روزنامه اختیار تحریریه‌ای اعمال می‌کنه. این فقط مسئله‌ی گوگل نیست: سایت نقد رستوران با خلاصه‌ی AI، یا سایتی که قوانین دولتی رو خلاصه می‌کنه هم همین وضع رو دارن.
نمونه‌ی دو سال پیش ایر کانادا رو یادآوری می‌کنه: چت‌بات شرکت به مسافر تخفیفی وعده داد که شرکت بعداً زیرش زد و تو دادگاه گفت بات «یه شخصیت حقوقی جداست که مسئول اعمال خودشه». دادگاه به نفع مسافر رأی داد و گفت شرکت هوایی همون‌قدر مسئول حرف چت‌باتشه که مسئول محتوای سایتش.
استدلال اصلی اشنایر همینه: ایجنت‌های AI نماینده‌ی همون شخص یا سازمانی‌ان که به‌کارشون می‌گیره و قانون هم باید همین‌طور باهاشون رفتار کنه. اگه شرکتی نویسنده‌ی انسانی استخدام کنه، مسئول اشتباهاتشه؛ اگه نماینده‌ی انسانی‌اش قرارداد امضا کنه، شرکت پایبنده؛ و اگه پزشکی توصیه‌ی خطرناک بده، مسئول قصور پزشکیه. اجازه دادن به کسب‌وکارها که پشت «تقصیر AI بود» قایم بشن، یه هدیه‌ی بزرگ به شرکت‌ها و انگیزه‌ای فاجعه‌بار برای بدرفتاری شرکتیه.
بعد به اعداد اشاره می‌کنه: تست‌های امسال نشون دادن AI Overview گوگل حدود ۱۰٪ مواقع اشتباه داره. با بیش از ۵ تریلیون جست‌وجو در سال، این یعنی چیزی حدود ۱۶ هزار خلاصه‌ی غلط در هر ثانیه. بیشترشون بی‌ضررن، ولی بعضی‌هاشون آسیب می‌زنن — مثل خلاصه‌ای که یه نوازنده‌ی کانادایی رو به‌اشتباه متجاوز جنسی معرفی کرد و حالا پرونده‌اش تو دادگاه اونتاریوئه.
نویسنده می‌گه پیامد این نگاه ممکنه سنگین باشه: خیلی از کاربردهای فعلی ایجنت‌ها شاید اصلاً از نظر تجاری قابل‌اجرا نباشن. شرکت‌ها احتمالاً نمی‌تونن وکیل و پزشک و اینفلوئنسر AI رو سودآور اداره کنن اگه مسئول حرف و عملشون باشن. جمع‌بندی صریحشه: با این نتیجه مشکلی نداریم — هیچ‌جای قانون ما رو موظف نکرده سیستم‌های AI غیرقابل‌اعتماد رو تحمل کنیم، همون‌طور که سیستم‌های انسانی غیرقابل‌اعتماد رو تحمل نمی‌کنیم.
نکات کلیدی:
- دادگاه آلمان: خلاصه‌های AI گوگل حرفِ خود گوگله، نه بازنشر حرف دیگران
- تفاوت حامل و ناشر: AI چون بازنویسی می‌کنه، اختیار تحریریه‌ای داره و رفتارش ناشرانه‌ست
- سابقه‌ی ایر کانادا: شرکت مسئول وعده‌ی چت‌باتش شناخته شد
- خطای حدود ۱۰٪ در AI Overview یعنی حدود ۱۶ هزار خلاصه‌ی غلط در هر ثانیه
- اگه مسئولیت درست تخصیص داده بشه، بعضی کاربردهای ایجنتی ممکنه اصلاً به‌صرفه نباشن — و نویسنده می‌گه اشکالی نداره
