‏شفافیت مدل‌های داخلی؛ راهی برای آروم کردن رقابت AI؟

کارتیک تادپالی تو این مقاله یه ایده‌ی سیاستی به اسم internal model transparency یا IMT مطرح می‌کنه. نقطه‌ی شروعش نگرانی از RSI هست (یعنی وقتی مدل‌های AI خودشون تحقیقات ساخت AI بعدی رو انجام می‌دن). به گفته‌ی نویسنده، ۱۴۰۰ کارمند آزمایشگاه‌های بزرگ نامه‌ای رو امضا کردن که می‌گه هیچ شرکتی به‌خاطر فشار رقابت نمی‌تونه یه‌طرفه سرعتش رو کم کنه.

قانون پیشنهادی ساده‌ست: هر آزمایشگاهی که مدلی رو برای استفاده‌ی داخلی deploy می‌کنه، باید همون مدل رو به محقق‌های آزمایشگاه‌های دیگه هم سرویس بده. نویسنده مثال می‌زنه که اگه Anthropic تو کدنویسی جلو باشه و با Claude یه مدل علمی بهتر بسازه، تحت IMT تیم DeepMind هم به همون Claude دسترسی داره. حتی می‌تونه با داده‌ی بهتری که داره، از مزیت کدنویسی Anthropic سواری مجانی بگیره و جلو بزنه.

نتیجه به گفته‌ی نویسنده اینه که داشتن بهترین مدل برای تحقیق و توسعه‌ی AI دیگه مزیت رقابتی نیست. پس هر آزمایشگاه کمتر روی قابلیت‌های کدنویسی مرزی سرمایه می‌ذاره و پیشرفت خودبه‌خود کندتر می‌شه، بدون اینکه قانون مستقیماً کندی رو اجبار کنه. دو فایده‌ی دیگه هم ذکر شده: سخت‌تر شدن تمرکز قدرت تو یه شرکت، و امکان تست ایمنی مدل‌های داخلی توسط تیم‌های بیرونی مثل METR، با اشاره به حادثه‌ی اخیر OpenAI و HuggingFace.

نویسنده معتقده IMT لازم نیست حتماً توافق بین‌المللی باشه و یه قانون فقط برای آزمایشگاه‌های آمریکایی هم اثر داره. اگه به توافق آمریکا و چین برسه، سطح راستی‌آزمایی خیلی کوچیکه: فقط باید چک کرد مدلی که داخل یه آزمایشگاه در دسترسه، برای بقیه هم سرویس می‌شه. در مقایسه، قوانین ایمنی مستقیم باید تعریف قابلیت خطرناک رو مدام به‌روز کنن، و ایده‌ی «شفافیت کامل تحقیقات» تو طرح AI 2040 نظارت خیلی گسترده‌تری لازم داره.

خود نویسنده چند محدودیت رو هم قبول داره. تو کوتاه‌مدت IMT احتمالاً پیشرفت کلی رو سریع‌تر می‌کنه چون شرکت‌های عقب‌مونده برمی‌گردن تو مسابقه. نظارت بر مدل‌های داخلی هم ظرفیت فنی‌ای می‌خواد که دولت آمریکا الان نداره. سؤال‌هایی هم مونده، مثل اینکه چطور جلوی سرویس دادن نسخه‌ی ضعیف‌شده یا قیمت خیلی بالا رو بگیرن. در ضمن مدل‌های کدنویسی قوی خودشون منبع درآمد بزرگی‌ان، پس IMT فقط یکی از انگیزه‌های RSI رو کم می‌کنه.

نکات کلیدی:

• پیشنهاد IMT: مدلی که داخلی deploy می‌شه باید به محقق‌های آزمایشگاه‌های دیگه هم سرویس داده بشه.
• ۱۴۰۰ کارمند آزمایشگاه‌های مرزی نامه‌ی Pacing the Frontier رو امضا کردن.
• هدف اصلی کم کردن انگیزه‌ی رقابتی برای RSI هست، نه ممنوع کردن مستقیمش.
• راستی‌آزمایی فقط به یه API برای مدل‌های داخلی نیاز داره، نه نظارت بر دیتاسنترها.
• ریسک اصلی: تو کوتاه‌مدت ممکنه رقابت رو با برگشتن شرکت‌های عقب‌مونده شدیدتر کنه.