آمریکا و چین چطور می‌تونن سرعت هوش مصنوعی رو قابل‌راستی‌آزمایی کم کنن؟
هوش مصنوعیClaude Opus 5.5خلاصهٔ کامل‌تر
نویسنده این پست تو LessWrong که اولین مطلبش هم هست، می‌خواد برای آدم‌های غیرمتخصص توضیح بده چرا کند کردن هوش مصنوعی این‌قدر سخته. طبق نظرسنجی AP-NORC تو اکتبر، ۶۴ درصد آمریکایی‌ها فکر می‌کنن AI داره «خیلی سریع» پیش می‌ره. حتی خود آزمایشگاه‌ها هم نگرانن: بیانیه Pacing the Frontier رو ۱,۳۸۶ کارمند شرکت‌های بزرگ AI امضا کردن، از جمله داریو آمودئی و Jakub Pachocki دانشمند ارشد OpenAI.
مشکل اصلی یه دوراهی بازی‌گونه‌ست: هر کشور سود جلو بودن رو خودش می‌بره، ولی ضرر یه فاجعه رو همه با هم می‌دن. نویسنده می‌گه توقف یک‌طرفه آمریکا کار نمی‌کنه، چون ایده‌ها و الگوریتم‌ها عمومی‌ان و متخصص‌ها می‌رن جای دیگه. طبق Epoch Capabilities Index (یعنی یه شاخص ترکیبی از نتایج کلی بنچمارک‌ها)، Kimi K3 چینی ۱۵۷ امتیاز داره و Claude Opus 5.5 حدود ۱۶۷. این فاصله ده‌امتیازی کمتر از یه سال پیشرفته.
پس به یه پیمان نیاز هست که تقلب رو قبل از اینکه متقلب برتری بگیره پیدا کنه. نویسنده معتقده این پیمان باید روی compute (یعنی قدرت پردازشی سخت‌افزار) تمرکز کنه. compute فیزیکیه، برق زیادی می‌خوره، زنجیره تأمینش دست چند شرکت محدوده و قابل اندازه‌گیریه. ولی این ابزار با گذر زمان ضعیف‌تر میشه: هر سال تراشه‌های بیشتری ساخته میشه و الگوریتم‌ها بهینه‌تر می‌شن. مثلاً AlphaFold 2 فقط ۱۰²³ FLOP لازم داشت، یعنی صد برابر کمتر از GPT-4. پس compute governance فقط می‌تونه وقت بخره.
روش‌های راستی‌آزمایی سه دسته‌ان. روش‌های یک‌طرفه مثل تصاویر ماهواره‌ای حرارتی، حساب کردن مصرف برق، داده گمرکی، اطلاعات مالی و تشویق افشاگرها. این‌ها فعالیت‌های بزرگ رو می‌بینن ولی نمی‌فهمن compute برای چی استفاده میشه. روش‌های وابسته به دسترسی یعنی بازرسی حضوری از دیتاسنترها، کارخونه‌های تراشه و خود شرکت‌های AI. مشکلشون اینه که ممکنه اسرار تجاری لو بره، چون محصول AI اطلاعاته و فهمیدنش همون دزدیدنشه.
دسته سوم که به گفته نویسنده قوی‌ترینه، روش‌های سخت‌افزاری هست. تراشه‌ها می‌تونن خودشون گزارش بدن چقدر compute برای آموزش مصرف شده یا دارن training می‌کنن یا inference. می‌تونن با زمان پاسخ به یه چالش رمزنگاری یا GPS، موقعیتشون رو ثابت کنن. میشه هم براشون لایسنس رمزنگاری گذاشت که بعد از یه مقدار محاسبه خاموش بشن تا لایسنس جدید بگیرن، با یه شمارنده یک‌طرفه که لایسنس قدیمی رو رد کنه. مشکلش اینه که ساختن این سخت‌افزار چند سال طول می‌کشه و باید روی تراشه‌های فعلی هم نصب بشه.
نکات کلیدی:
- ۶۴ درصد آمریکایی‌ها فکر می‌کنن AI خیلی سریع پیش می‌ره.
- بیانیه Pacing the Frontier رو ۱,۳۸۶ کارمند شرکت‌های AI امضا کردن.
- فاصله Kimi K3 (۱۵۷) و Claude Opus 5.5 (۱۶۷) روی ECI کمتر از یه سال پیشرفته.
- موجودی شتاب‌دهنده‌های AI سالی ۳.۴ برابر رشد می‌کنه، پس کنترل compute به مرور ضعیف‌تر میشه.
- سه نوع راستی‌آزمایی: یک‌طرفه، بازرسی حضوری و سخت‌افزاری.
- روش‌های سخت‌افزاری قوی‌ترینن ولی چند سال زمان ساخت لازم دارن.
