‏وقتی رقبای هوش مصنوعی سر یه چیز توافق کردن

داریو آمودی، مدیرعامل Anthropic، تو یه مقاله حدود نه هزار کلمه‌ای به اسم «باید سرعت رو کم کنیم» نوشت که صنعت هوش مصنوعی داره سریع‌تر از اونی پیش می‌ره که بفهمیم مدل‌هاش دقیقاً چیکار می‌کنن. دغدغه اصلیش چیزیه به اسم recursive self-improvement (یعنی وقتی خود هوش مصنوعی داره به ساخته شدن نسل بعدی خودش کمک می‌کنه، اونم سریع‌تر از چیزی که پژوهشگرا انتظارشو داشتن). به گفتهٔ نویسنده، این چرخه باید عمداً کند بشه، نه اینکه کلا متوقف بشه.

واکنش‌ها به این مقاله جالب‌تر از خود مقاله بود. سم آلتمن، مدیرعامل OpenAI، همون ساعت اول گفت کاملاً موافقه و این بحث چند هفته‌ست داخل خود OpenAI هم مطرح بوده. بعدش ایلان ماسک، که سال‌هاست با هر دوشون دعوا داره، فقط سه کلمه زیر همون مقاله نوشت: «داریو درست می‌گه». این هم‌نظری خیلی کمیابه؛ تو سال ۲۰۲۳ همین سه نفر حتی نتونسته بودن زیر یه نامهٔ امنیتی مشترک رو امضا کنن.

قبل از این مقاله هم، تو ماه ژوئیه، حدود ۱٬۳۸۶ کارمند از OpenAI، Anthropic، Google DeepMind و Meta (از جمله چند تا دانشمند ارشد) یه بیانیه امضا کرده بودن که می‌گفت دنیا شاید به گزینهٔ کند کردن هوش مصنوعی نیاز داشته باشه. یعنی این بحث از قبل بین خود پژوهشگرا مطرح بوده، فقط حالا علنی شده.

همه هم این حرکت رو خالصانه ندیدن. یه چهرهٔ شناخته‌شده از جامعهٔ متن‌باز هوش مصنوعی چین علنی گفت این حرف‌ها فقط بهونه‌ست و لابراتوارهای غربی فقط نمی‌خوان رقابت داشته باشن. جالب اینه که دقیقاً همون هفته‌ای که این توافق امنیتی شکل گرفت، لابراتوارهای چینی مثل DeepSeek و Qwen (متعلق به Alibaba) داشتن مدل‌های متن‌باز جدید رو پشت سر هم منتشر می‌کردن و فاصله‌شون با مدل‌های آمریکایی داشت کم می‌شد؛ اونم با وجود محدودیت‌های صادرات تراشه.

نکات کلیدی:

• مقالهٔ آمودی حدود ۹۰۰۰ کلمه‌ست و می‌گه باید سرعت پیشرفت هوش مصنوعی کم بشه، نه کامل متوقف بشه.
• سم آلتمن و ایلان ماسک ظرف چند ساعت علنی موافقت کردن؛ اتفاقی که قبلاً هیچ‌وقت نیفتاده بود.
• تو ژوئیه، ۱٬۳۸۶ کارمند از چهار لابراتوار بزرگ یه بیانیهٔ مشابه امضا کرده بودن.
• منتقدا می‌گن این حرفا بیشتر استراتژی رقابتیه، چون همون هفته لابراتوارهای چینی مثل DeepSeek و Qwen داشتن مدل منتشر می‌کردن.
• محدودیت صادرات تراشه جلوی این سرعت انتشار مدل‌های چینی رو نگرفته.