چرا Anthropic رو بیشتر از OpenAI دوست داریم
هوش مصنوعیخلاصهٔ کاملتر
نویسنده، Kristen Berman، با یادآوری «معمای واگن» شروع میکنه: یه قطار داره به سمت پنج نفر میره و تو یه اهرم داری که اگه بکشیش قطار منحرف میشه، پنج نفر نجات پیدا میکنن ولی یه نفر میمیره. بعد به نسخهٔ سختترش از David Pizarro، فیلسوف اخلاق دانشگاه Cornell، میرسه؛ همون که باید یه آدم درشتهیکل رو از روی پل هل بدی تا جلوی قطار رو بگیره. نویسنده میگه نکتهٔ اصلی Pizarro خود جواب نیست، بلکه اینه که ما آدمهایی رو که جور دیگهای جواب میدن چطور قضاوت میکنیم.
به گفتهٔ اون، تحقیقها نشون میدن ما پیامدگراها رو سختتر قضاوت میکنیم. کسی که میگه «حساب کردم، هلدادن جون بیشتری نجات میده پس هل دادم» سرد و کماعتمادتر به نظر میرسه. برعکس به کسی که یه خط قرمز اخلاقی داره و میگه «هیچوقت جون نمیگیرم» بیشتر اعتماد میکنیم، حتی وقتی همین انتخاب باعث میشه پنج نفر بمیرن.
نویسنده میگه Pizarro یه قدم جلوتر هم میره: نحوهٔ هلدادن هم مهمه. کسی که سریع و با خنده این کارو میکنه با کسی که تردید میکنه، کلنجار میره، شاید حتی گریه میکنه و آخرش هل میده، فرق داره. ما به دومی بیشتر اعتماد میکنیم چون اون کشمکش آشکار یه چیزی دربارهٔ نیت طرف بهمون میگه که تصمیم سریع نمیگه.
حالا اینجا نویسنده تئوریش رو دربارهٔ دو شرکت هوش مصنوعی مطرح میکنه. به نظر اون یه دلیل اینکه Anthropic نسبت به OpenAI معتمدتر به نظر میرسه، با اینکه مدلهاشون تقریباً همسطحه، اینه که Anthropic نشون میده مسئله چقدر سخته؛ بلند فکر میکنه، علنی کلنجار میره و مثلاً دربارهٔ اثرات هوش مصنوعی روی بشریت مطالعه منتشر میکنه. این یعنی «ما هم نگرانیم و داریم عمیق فکر میکنیم».
در مقابل، برداشت خیلیها اینه که OpenAI همون دلیبریشن رو به نمایش نمیذاره و بیشتر سریع و مطمئن جلو میره بدون اینکه سنگینی کاری که داره میکنه رو نشون بده. نویسنده میگه با منطق Pizarro، ما داریم هر دو رو بابت یه کنش قضاوت میکنیم ولی چون میزان تأمل ظاهریشون فرق داره، برداشتمون هم فرق میکنه؛ انگار Anthropic اون آدمیه که عمیق فکر میکنه و بعد تصمیم میگیره، و OpenAI اونیه که هل داد و خندید.
درس عملیش، به گفتهٔ نویسنده، هم تو محصول کاربرد داره هم تو زندگی. اگه میخوای یه کار سخت بکنی، مثلاً یه گفتوگوی سخت با شریک یا تیمت، نشون بده که مضطربی و شفاف بگو چطور به این تصمیم رسیدی. بدترین کار اینه که تصمیم رو سریع اعلام کنی و بذاری بقیه فکر کنن اصلاً بهش فکر نکردی. همینطور اگه یه شرکتی و میخوای قیمت بالا ببری، به مشتری بگو که تأمل کردی و به تأثیرش روشون فکر کردی؛ وگرنه خودشون یه توضیح میسازن که معمولاً «شرکت پولپرست» از آب درمیاد.
نکات کلیدی:
- ما به کسی که سریع و بیتردید تصمیم سخت میگیره کمتر اعتماد میکنیم
- کشمکش و تردید آشکار، اعتماد رو زیاد میکنه چون دربارهٔ نیت حرف میزنه
- Anthropic علنی دربارهٔ سختی مسئله فکر میکنه، برای همین آدمدوستتر به نظر میرسه
- برداشت متفاوت از دو شرکت، از میزان تأمل ظاهریشون میآد نه از تفاوت مدلها
- تو محصول و زندگی، نشوندادن اینکه تصمیم برات سخت بوده اعتماد میسازه
- سر قیمتگذاری، توضیحندادن دلیل باعث میشه مشتری بدترین برداشت رو بکنه
