هشدارهای ایمنی AI توطئهٔ شرکت‌ها نیست
هوش مصنوعیClaude Opus 5.5خلاصهٔ کامل‌تر
اسکات الکساندر تو وبلاگ Astral Codex Ten به یه ادعای رایج جواب می‌ده. وقتی شرکت‌های AI دربارهٔ خطر نابودی بشر هشدار می‌دن و حتی پیشنهاد کُند کردن پیشرفت AI رو مطرح می‌کنن (همون ایدهٔ pace the frontier)، منتقدها می‌گن این یه نقشه‌ست. یا برای هایپ محصول، یا برای پرت کردن حواس از ضررهای فعلی مثل مصرف آب، یا برای regulatory capture (یعنی وقتی شرکت‌های بزرگ قانون رو جوری شکل می‌دن که رقیب‌های کوچیک حذف بشن). نویسنده می‌گه این بحث برخلاف خیلی از بحث‌های AI، جوابش روشنه و همهٔ این داستان‌ها غلطه.
دلیل اولش اینه که متخصص‌های مستقل هم به همون اندازه نگرانن. تو یه نظرسنجی سال ۲۰۲۴ از ۱۵۸۰ پژوهشگر AI که بیشترشون دانشگاهی بودن، بیش از نصفشون گفتن حداقل ۱۰ درصد احتمال داره AI باعث انقراض بشر بشه. جفری هینتون و یوشوا بنجیو، دو نفر از «پدرخوانده‌های AI»، کارشون رو ول کردن تا دربارهٔ خطرش هشدار بدن. آدم‌هایی مثل پل کریستیانو، دنیل کوکوتایلو و جیکوب کاکسون هم از OpenAI یا Anthropic بیرون اومدن و گاهی میلیون‌ها دلار سهم رو قید زدن.
دلیل دوم اینه که مدیرهای این شرکت‌ها خیلی قبل از داشتن شرکت AI همین حرف‌ها رو می‌زدن. داریو آمودی از ۲۰۱۳، وقتی هنوز تو صنعت تکنولوژی کار نمی‌کرد، دربارهٔ خطر ابرهوش بحث می‌کرد. سم آلتمن تو فوریهٔ ۲۰۱۵، ده ماه قبل از راه انداختن OpenAI، نوشت ابرهوش ماشینی احتمالاً بزرگ‌ترین تهدید برای بقای بشره. ایلان ماسک از ۲۰۱۴ و شین لگ از تز دکترای ۲۰۰۸ش همین رو می‌گفتن. نویسنده می‌گه اگه این توطئه باشه، این‌ها باید پیش‌گوهای بی‌نظیری بوده باشن. توضیح ساده‌تر اینه که واقعاً بهش باور دارن.
دلیل سوم اینه که این «نقشه» خیلی احمقانه‌ست. وقتی پیشنهاد کُند کردن مطرح شد، ارزش Anthropic تو بازارهای perpetual futures (یعنی قراردادهای کریپتویی که قیمت شرکت‌های خصوصی رو تخمین می‌زنن) ۴.۵۷ درصد و OpenAI حدود ۱۳.۴۲ درصد افت کرد. الکس تاباراک، اقتصاددانی که روی regulatory capture کار می‌کنه، هم می‌گه این قضیه با اون نظریه جور نیست.
داستان «پرت کردن حواس» هم جور درنمیاد. گروه‌های نگران خطر بلندمدت و گروه‌های نگران ضررهای فعلی در عمل متحد شدن و با هم جلوی لایحهٔ تد کروز برای ممنوعیت قانون‌گذاری ایالتی AI رو گرفتن. دربارهٔ هایپ هم نویسنده می‌گه AI سریع‌ترین تکنولوژی پذیرفته‌شدهٔ تاریخه و لازم نیست کسی با گفتن «محصول ما شاید شما رو بکشه» تبلیغش کنه. حرف آخرش اینه که بدبینی افراطی نباید نذاره این هشدارها رو جدی بگیریم.
نکات کلیدی:
- تو نظرسنجی ۲۰۲۴ از ۱۵۸۰ پژوهشگر AI، بیش از نصف احتمال حداقل ۱۰ درصدی انقراض بشر رو مطرح کردن
- داریو آمودی از ۲۰۱۳ و سم آلتمن از ۲۰۱۵ (قبل از OpenAI) دربارهٔ خطر ابرهوش هشدار می‌دادن
- بعد از پیشنهاد کُند کردن، ارزش تخمینی Anthropic ۴.۵۷ درصد و OpenAI ۱۳.۴۲ درصد افت کرد
- هینتون و بنجیو، برنده‌های جایزهٔ تورینگ ۲۰۱۸، بدون وابستگی به شرکت‌های بزرگ AI هشدار می‌دن
- یان لکان، سومین پدرخواندهٔ AI، که یه شرکت ۳ میلیارد دلاری داره، می‌گه نگران نیست
