آیندهپژوهی همیشه افراطیه
هوش مصنوعیClaude Opus 5خلاصهٔ کاملتر
فرناندو بورتی تو این یادداشت کوتاه یه ادعای ساده رو مطرح میکنه: هر فکر کردن دقیق دربارهی آیندهی بلندمدت، از روی ساختارش به نتیجههای افراطی میرسه و اصلاً نمیتونه آیندهی معمولی و عادی تحویل بده. به گفتهی نویسنده این افراطیبودن از خود روش فکر کردن میاد، نه از سلیقهی آیندهپژوهها.
منظور از فکر دقیق، داشتن یه مدله: یه فرمالیسم برای نمایش وضعیت دنیا، بهعلاوهی یه تابع گذار (یعنی قاعدهای که وضعیت فعلی رو به وضعیت بعدی میبره). دنیا رو میذاری تو مدل و دسته رو میچرخونی تا حالتهای پشتسرهم بیرون بیاد. مثال خود نویسنده هم دو تا فرض سادهست: الان آدمها از کامپیوترها باهوشترن، و کامپیوترها سریعتر از آدمها دارن باهوشتر میشن.
از همین دو تا فرض میشه نتیجه گرفت که یه جایی کامپیوترها به آدم میرسن و بعدش ازش جلو میزنن، و در حد نهایی خیلی خیلی جلو میزنن. ولی این یه مدل کیفیه، یعنی ترتیب مرحلهها رو میگه ولی نمیگه کِی اتفاق میافتن. مدلهای کمّی زمانبندی بهتری دارن، اما نویسنده یادآوری میکنه پیشبینیهای ریز و دقیق فقط برای آیندهی نزدیک کار میکنن.
نکتهی اصلی اینجاست: چیزی که واقعاً اهمیت داره حالت نهاییه، همون چیزی که بهش normal form میگن (یعنی وضعیتی که دیگه هیچ قاعدهی بازنویسی روش اعمال نمیشه). اگه دسته رو انقدر بچرخونی تا مدل به ثبات برسه، به گفتهی نویسنده فقط دو تا حالت پایدار باقی میمونه: بهشت یا جهنم. یه طرف انفجار هوش، کاوشگرهای خودتکثیرشوندهی فون نویمان، ذهنهای آپلودشده و مغزهای ماتریوشکا؛ طرف دیگه سقوط کامل و رسیدن به صفر.
نتیجهی عملیش اینه که وقتی یکی دربارهی آیندهی دور حرف افراطی میزنه، لزوماً داره اغراق نمیکنه؛ ممکنه فقط مدلش رو تا ته جلو برده باشه. برعکسش هم هست: هر تصویر آروم و «معمولی» از آیندهی دور احتمالاً یه مدل نیمهکارهست که وسط راه نگهش داشتن.
نکات کلیدی:
- فکر کردن دقیق دربارهی آینده یعنی داشتن یه فرمالیسم برای وضعیت دنیا و یه تابع گذار
- مدل کیفی ترتیب مرحلهها رو میده ولی زمانبندی نداره
- مدل کمّی زمانبندی داره ولی فقط برای آیندهی نزدیک معتبره
- normal form یعنی وضعیتی که دیگه هیچ قاعدهی بازنویسی روش اعمال نمیشه
- به گفتهی نویسنده مدل وقتی به ثبات میرسه فقط دو حالت داره: انفجار هوش یا سقوط به صفر
