‏توییت استعفای جیکاب کان که تو چند ساعت وایرال شد

هشتم سپتامبر، جیکاب کان، یه پژوهشگر سابق Anthropic و OpenAI که سه سال رو پیش‌آموزش (pretraining، یعنی مرحلهٔ اولیهٔ آموزش مدل‌های زبانی) مدل‌ها کار کرده بود، تو ایکس نوشت استعفا داده چون هر دو شرکت بی‌مسئولانه دارن به سمت ابرهوش خودبهبودیاب می‌رن. این توییت با سرعتی عجیب پخش شد و از ۱۵۰ میلیون بازدید گذشت. حدود نود دقیقه بعد، ایوان هابینگر، مسئول علم ایمنی Anthropic، زیرش نوشت موافقه و بیش از ۱۰٪ احتمال می‌ده هوش مصنوعی تو ده سال آینده کل بشریت رو نابود کنه.

خیلیا به مکانیزم پخش شدن این توییت شک کردن، نه لزوماً به نیت کان. اکانتش قبل این ماجرا هیچ فعالیتی نداشت، تازه ماه قبل تیک آبی گرفته بود و تو یه بازهٔ کوتاه نزدیک ۳۰۰ هزار فالوور جمع کرد. این ماجرا اول تو وال‌استریت‌ژورنال منتشر شد و توییت وایرال حدود بیست دقیقه بعدش اومد؛ چیزی که بیشتر شبیه هماهنگی زمانی به نظر می‌رسه تا یه تأمل شخصی ناگهانی. ایلان ماسک هم علنی به این الگوی رشد شک کرد. کان بعداً تو مصاحبه با CNN گفت خودش متن رو نوشته و فقط از چند تا دوست خواسته کمک کنن پخشش کنن.

حرف هابینگر بیشتر به‌خاطر جایگاهش مهم بود تا خود عددش؛ چون احتمال دورقمی خطر وجودی از قبل بین بعضی پژوهشگرای ایمنی مطرح بوده. اون گفت Anthropic هنوز برنامهٔ مشخصی برای حل مسئلهٔ همسوسازی (alignment، یعنی همسو کردن رفتار هوش مصنوعی با اهداف انسان) تو سطح ابرهوش نداره و مطمئن نیست داره تو مسیر درستی حرکت می‌کنه. این اعتراف از داخل یه لابراتوار پیشرو، به حرفای کان اعتبار بیشتری داد.

داریو آمودی، مدیرعامل Anthropic، تو مقاله‌ای گفت فشار تجاری باعث شده صنعت تو یه «رقابت به سمت پایین» گیر کنه، یعنی هر شرکتی می‌خواد سریع‌تر مدلشو با بهترین بنچمارک عرضه کنه، حتی اگه یعنی تست کمتر. پیشنهادش تبدیل این به «رقابت به سمت بالا»ست: ارزیاب‌های مستقل با دسترسی مداوم داخل لابراتوارها، هماهنگی بین دولت‌های دموکراتیک، و در نهایت هماهنگی جهانی که چین رو هم شامل بشه؛ چون به گفتهٔ خودش چین بعد آمریکا پیشرفته‌ترین توانایی‌های هوش مصنوعی رو داره.

سیاستمدارایی مثل برنی سندرز و جی‌بی پریتزکر از این ماجرا برای فشار آوردن به قانون‌گذاری دربارهٔ محدود کردن ابرهوش استفاده کردن. در مقابل، ترامپ واکنش کاملاً برعکس نشون داد و گفت آمریکا داره تو هوش مصنوعی از چین جلوئه و می‌خواد همینجوری بمونه؛ که خودش دقیقاً همون دینامیک رقابتی‌ایه که آمودی ازش نگرانه.

نکات کلیدی:

• توییت استعفای جیکاب کان هشتم سپتامبر منتشر شد و از ۱۵۰ میلیون بازدید گذشت.
• ایوان هابینگر، مسئول ایمنی Anthropic، احتمال بیش از ۱۰٪ برای نابودی بشریت تو ده سال آینده اعلام کرد.
• سرعت وایرال شدن توییت و اکانت بی‌سابقهٔ کان، شک به هماهنگی از پیش ایجاد کرد.
• داریو آمودی پیشنهاد «رقابت به سمت بالا» داد: ارزیاب مستقل، هماهنگی دموکراتیک، هماهنگی جهانی با چین.
• سندرز و پریتزکر برای فشار قانون‌گذاری از این ماجرا استفاده کردن؛ ترامپ روی رهبری آمریکا تو رقابت هوش مصنوعی تاکید کرد.