پنج اصل گلدمنساکس برای هوش مصنوعی مطمئن
هوش مصنوعیخلاصهٔ کاملتر
طبق این مقاله، گلدمنساکس یه چارچوب پنجبخشی به اسم VAULT ساخته که راهنمای استفادهٔ مسئولانه از هوش مصنوعی تو کارای واقعیه. این اصول از تجربهٔ خود بانک و اظهارات مدیر ارشد فناوریش، مارکو آرجنتی، گرفته شده که همیشه میگه باید به خروجی هوش مصنوعی با شک نگاه کرد و کنترل کارای مهم رو دست انسان نگه داشت.
حرف اول VAULT، یعنی Verify (تأیید)، میگه باید حتی قبل از اجرای مدل، دادهٔ ورودی رو چک کنی، چون یه جواب شیک و مرتب که رو دادهٔ کثیف ساخته شده بازم غلطه، فقط سریعتر غلطه. نویسنده پیشنهاد میده مدل رو مجبور کنی هر عدد و ادعایی رو دوباره چک کنه، براش منبع بیاره، و هرجا مطمئن نیست بگه.
اصل دوم، Augment (تقویت نه جایگزینی)، میگه هر مشکلی نیاز به ایجنت هوش مصنوعی نداره. اگه یه کار قانون مشخص و جواب ثابت داره، اتوماسیون معمولی که هربار دقیقاً یهجور اجرا میشه، انتخاب بهتریه؛ هوش مصنوعی رو باید برای کارایی گذاشت که نیاز به قضاوت و انعطاف دارن.
اصل سوم و چهارم میگن اول باید بفهمی چرا داری این سیستم رو میسازی (یه جمله بنویس که مشکل چیه و جواب خوب چه شکلیه)، و بعد انسان رو دقیقاً همونجایی وارد کار کن که ریسک بالاست. نویسنده یه نمونهٔ واقعی میآره: یه ایجنت خودمختار یه کار رو اشتباه فهمید و یه کد تخفیف رو برای نزدیک به ۲۰۰هزار نفر فرستاد، دقیقاً همون چیزی که «دخالت انسان» باید جلوشو بگیره.
اصل آخر، شفافیت، یعنی بتونی نشون بدی خروجی از کجا اومده: منبع داده، فرضها، ابزارهای استفادهشده و نقاط تصمیمگیری باید ثبت بشن تا هرکس دیگهای بتونه سیستم رو بفهمه و دستش بگیره.
نکات کلیدی:
- VAULT یعنی Verify، Augment، Understand why، Loop humans in، Transparency
- یه ایجنت خودمختار یهبار بهاشتباه کد تخفیف رو برای نزدیک به ۲۰۰هزار نفر فرستاد
- سطح نظارت انسانی باید متناسب با ریسک کار باشه، نه یکسان برای همه کارا
- برای کارای قانونمند و ثابت، اتوماسیون معمولی از هوش مصنوعی مطمئنتره
- مدیر ارشد فناوری گلدمنساکس، مارکو آرجنتی، تأکید داره روی قابلاعتماد بودن سیستم
