مقاومت در برابر «مغز کهکشانی»: وقتی استدلال هر چیزی رو توجیه میکنه
خلاصهٔ کاملتر
ویتالیک بوترین تو این مقاله یه مفهوم به اسم galaxy brain resistance (یعنی چقدر سخته از یه شیوهٔ فکر کردن برای توجیه هر چیزی سوءاستفاده کنی) رو معرفی میکنه. به گفتهٔ اون، اگه استدلالهات بتونن هر چیزی رو توجیه کنن، پس هیچ چیزی رو ثابت نمیکنن. این شبیه ایدهٔ ابطالپذیری تو علمه.
نویسنده معتقده خیلی از این استدلالها تو دنیای واقعی اصلاً استدلال نیستن، توجیهان. آدم اول به خاطر منافع یا احساساتش به یه نتیجه میرسه، بعد براش دلیلهای پرزرقوبرق میسازه. مثالش پروژههای کریپتوییان که با وعدهٔ «اگه فقط ۱٪ بازار رو بگیریم» توکن میفروشن.
چند الگوی پرخطر که مقاله بررسی میکنه:
- Inevitabilism یعنی «این اتفاق به هر حال میافته، پس بیا سریعترش کنیم». ویتالیک میگه پیشرفت AI دست چند تا شرکت محدوده، پس اگه یکی وایسه، کار کند میشه.
- Longtermism یعنی تمرکز روی سود خیلی بزرگ تو آیندهٔ دور. خود آینده مهمه، ولی چون بازخوردی نداره، هر داستانی رو میشه باهاش توجیه کرد.
- حداکثر کردن قدرت با شعار «بهم قدرت بده تا کار درست رو بکنم». این استدلال برای آدم خیرخواه و آدم خودخواه دقیقاً یه شکله.
- «از داخل بهترش میکنم»، مثلاً پیوستن به شرکتهای سازندهٔ AI پیشرفته به اسم ایمنی AI.
تو بخش مالی، نویسنده به این ادعا حمله میکنه که آدمهای فقیر «به سود ۱۰ برابری نیاز دارن». به گفتهٔ اون قمار بازیای با جمع صفره و چون ارزش هر دلار برای آدم پولدارتر کمتره، باختن ۱۰۰ هزار دلار بیشتر از بردن همین مقدار ضرر میزنه. واسه همین اون از «دیفای کمریسک» دفاع میکنه، چون «کمریسک» معیاریه که نمیشه راحت دورش زد، ولی «دیفای خوب» رو میشه.
راهحل پیشنهادی ویتالیک داشتن اصول سفت و سخته (همون deontological ethics، یعنی اخلاقی که بر پایهٔ قانونهای ثابته نه حساب سود و ضرر هر مورد). مثلاً آدم نکش، دزدی نکن، کلاهبرداری نکن. دلیلش اینه که مغز ما خیلی خوب بلده برای چیزی که از قبل میخواد، دلیل خیرخواهانه بسازه. یه قانون عملی هم میده: اگه یه کاری سود بلندمدت حدسی داره ولی ضرر بلندمدتش ثابت شده، انجامش نده.
نکات کلیدی:
- معیار اصلی: استدلالی که هر نتیجهای رو توجیه کنه، هیچ اطلاعاتی نمیده.
- چهار الگوی پرخطر: اجتنابناپذیری، بلندمدتگرایی، حداکثر کردن قدرت و «از داخل بهترش میکنم».
- ویتالیک بهجای «دیفای خوب» از «دیفای کمریسک» دفاع میکنه چون این معیار قابل دور زدن نیست.
- به استناد انجمن effective altruism، تعهد آدمها به یه هدف سالی حدود ۱۰٪ کم میشه.
- راهحل: اصول ثابت و سطح بالا برای هر استثنا، مثل اخلاق قاعدهمحور.
