انتقاد تند از جامعه AI Safety: هشدارها به ضرر خود صنعت تموم میشه
هوش مصنوعیClaude Opus 5.5خلاصهٔ کامل‌تر
یه کاربر X با نام knower تو یه نوشته بلند به جامعه AI Safety (یعنی کسایی که روی کم کردن خطرات هوش مصنوعی پیشرفته کار می‌کنن) حمله کرده. جرقه‌اش انتشار مجموعه مصاحبه‌هایی از Palisade Research بوده. تو این مصاحبه‌ها ۲۲ کارمند فعلی یا سابق آزمایشگاه‌های frontier AI از سناریوهای نابودی بشر حرف زدن و جمله‌هایی مثل «انقراض بشر شیر یا خطه» گفتن.
به گفته نویسنده، این مصاحبه‌ها تو زمان بدی اومده. قبلش در ۸ سپتامبر، Jacob Coxon از Anthropic جدا شد و گفت این شرکت تو مسابقه ساختن superintelligenceی که خودش رو بهتر می‌کنه خیلی تند می‌ره و «با جون ما قمار می‌کنه». پست Coxon بیشتر از ۱۵۰ میلیون بازدید گرفت و به TikTok و YouTube هم رسید. قبل از اون هم نامه سرگشاده «Pacing the Frontier» در جولای ۲۰۲۶ با امضای ۱۳۸۶ کارمند این آزمایشگاه‌ها خواستار کند شدن سرعت توسعه شده بود.
نویسنده معتقده این حرکت‌ها AI رو به یه موضوع جناحی تبدیل کرده: یه طرف کسایی که می‌خوان توسعه ادامه پیدا کنه و طرف دیگه کسایی که می‌خوان متوقف بشه. از نظر اون، آدم عادی وقتی می‌بینه کارمندای پولدار همین شرکت‌ها از نابودی بشر حرف می‌زنن، نمی‌ره سراغ LessWrong یا مقاله‌های جدی درباره alignment. فقط خشمش نسبت به کل صنعت بیشتر میشه.
نویسنده می‌گه خیلی از مخالفای AI از روی اطلاعات تصمیم نمی‌گیرن و بیشتر از ساخت دیتاسنتر نزدیک محل زندگی‌شون عصبانی‌ان. به گفته اون، جواب‌های مفصل آدمایی مثل Andy Masley هم به بیرون از حباب اهل تکنولوژی نمی‌رسه. پس هر هشدار تازه، مدرک دیگه‌ای میشه که ممکنه تو سال ۲۰۲۸ برای ممنوع کردن AI ازش استفاده بشه.
نویسنده قبول داره مدل‌های امروز قدرتمندن و به محافظ‌ها و سیاست‌های داخلی سخت‌گیرانه‌تر نیاز هست. ولی می‌گه فرو کردن تبلیغات بدبینانه تو صورت میلیون‌ها آمریکایی کار بچگانه‌ایه. هشدارش اینه که اگه این دعوای داخلی ادامه پیدا کنه، به زودی شاهد ممنوعیت هوش مصنوعی می‌شیم. این یه نوشته نظری هست و دیدگاه شخصی نویسنده رو نشون می‌ده.
نکات کلیدی:
- Palisade Research با ۲۲ کارمند فعلی و سابق آزمایشگاه‌های frontier AI درباره خطر انقراض بشر مصاحبه کرده.
- پست خداحافظی Jacob Coxon از Anthropic در ۸ سپتامبر بیشتر از ۱۵۰ میلیون بازدید گرفت.
- نامه «Pacing the Frontier» در جولای ۲۰۲۶ با ۱۳۸۶ امضا خواستار کند شدن توسعه AI شد.
- نویسنده هشدار می‌ده که این پیام‌ها ممکنه تو سال ۲۰۲۸ به ممنوعیت AI تو آمریکا ختم بشه.
- ادعای اصلی نویسنده: هشدار عمومی درباره نابودی بشر، مردم عادی رو به سمت ایمنی AI نمی‌بره، بلکه علیه کل صنعت می‌کنه.
