بیشتر سؤالهای هوش مصنوعی اصلاً فنی نیستن
هوش مصنوعیخلاصهٔ کاملتر
ماجرا از یه جملهٔ ساده شروع میشه: «یه فیلسوف چی از هوش مصنوعی میدونه؟» دن ویلیامز، نویسندهٔ خبرنامهٔ Conspicuous Cognition، میگه همین واکنش نشوندهندهٔ یه باور رایجه: اینکه واقعیت به قلمروهای باریک تقسیم میشه و برای هر کدوم فقط باید سراغ متخصص همون حوزه رفت. به گفتهٔ نویسنده، دربارهٔ AI این باور جواب نمیده. تخصص فنی لازمه، ولی خیلی وقتها نه کافیه و نه حتی ضروری.
برای جا انداختن این حرف سراغ انقلاب صنعتی میره. اون هم یه انقلاب فناورانه بود، ولی پرسشهای اصلیش دربارهٔ مکانیک موتور بخار نبود؛ دربارهٔ طبقه، سیاست، خانواده، دین و ارزشها بود. متفکرهایی مثل ریکاردو، میل، مارکس، دورکیم و وبر هم با دانش فنی موتور بخار شناخته نشدن. به گفتهٔ ویلیامز انقلاب AI هم همین شکلیه، فقط تو یه بازهٔ زمانی خیلی فشردهتر.
جالب اینکه حتی پرسشهایی که مستقیم دربارهٔ خود AI هستن هم فنی خالص نیستن. بحث «تسلط هوش مصنوعی» (AI takeover) رو ببینید: استدلال محوریش «همگرایی ابزاری» (instrumental convergence) هست، یعنی این ایده که سیستمهای هوشمند برای هر هدف نهاییای که داشته باشن، به اهداف میانی مثل حفظ بقا و کسب قدرت میرسن. این استدلالها قبل از پیدایش مدلهای زبانی بزرگ مطرح شدن و ریشهشون تو فلسفهست، نه آزمایشگاه.
نویسنده میگه همین باعث میشه پژوهشگرهایی که یه یافتهٔ یکسان رو میبینن، به نتیجههای خیلی متفاوت برسن؛ برخلاف حوزهای مثل علوم اقلیمی که پشتوانهٔ دادهٔ انبوه و اجماع بالا داره. مثال عینیش هم توصیهٔ جفری هینتون در ۲۰۱۶ برای متوقف کردن تربیت رادیولوژیستهاست. ده سال بعد رادیولوژی هنوز سر جاشه و تقاضا براش بالاتر هم رفته، چون پیشبینی درست دربارهٔ توانایی مدلها با یه تصویر سادهانگارانه از بازار کار قاطی شده بود.
بخش نظریتر بحث سراغ ایدهٔ هربرت سایمون میره. سیستمهای پیچیده وقتی قابل مطالعهان که «تقریباً تجزیهپذیر» باشن، یعنی زیرسیستمها درون خودشون قوی به هم وصل باشن ولی تعاملشون با بقیه ضعیف یا کند باشه؛ همین اجازه میده محقق بقیهٔ سیستم رو ثابت فرض کنه. تخصصگرایی دانشگاهی روی همین فرض سواره. به نظر ویلیامز، AI ممکنه اقتصاد، سیاست، افکار عمومی و قانونگذاری رو همزمان تکون بده و این فرض رو از بین ببره.
نتیجهای که میگیره دو رو داره. روی خوشبینانهش اینه که این دوره عصر طلایی جامعالاطرافها و فیلسوفهاست، چون فلسفه دقیقاً سراغ پرسشهایی میره که هنوز هیچ علم بالغی صاحبشون نیست. روی بدبینانهش هم چیزیه که خودش اسمش رو میذاره «ناامیدی معرفتی معتدل»: دنیا و آیندهمون کمکم کمتر قابل شناخت و سختتر برای جهتیابی میشن.
نکات کلیدی:
- انقلاب صنعتی هم بیشتر پرسش سیاسی، اقتصادی و فرهنگی ساخت تا پرسش فنی دربارهٔ موتور بخار.
- استدلال «همگرایی ابزاری» پیش از پیدایش مدلهای زبانی بزرگ مطرح شد و بیشتر به استدلال نظری تکیه داره تا داده.
- توصیهٔ ۲۰۱۶ هینتون برای توقف تربیت رادیولوژیستها درنیومد؛ تقاضا براشون بالاتر هم رفته.
- «تقریباً تجزیهپذیری» هربرت سایمون همون فرضیه که تخصصگرایی علمی روش بنا شده.
- روی خوشبینانه: عصر طلایی فیلسوفها؛ روی بدبینانه: آیندهای که پیشبینیش سختتر شده.
