‏روایتِ ۲۴ ساعتی که به کنترل صادراتی روی Anthropic رسید

به گزارش Business Insider که در اصل در POLITICO منتشر شده، تصمیم دولت ترامپ برای اعمالِ کنترل صادراتی روی Anthropic، به‌دنبال یه تلاش پرشتابِ حدوداً ۲۴ساعتهٔ مقام‌های ارشد گرفته شد که می‌خواستن شرکت رو قانع کنن داوطلبانه یه مدلِ هوش مصنوعیِ تازه‌منتشرشده رو که به‌نظرشون خطر امنیتی داشت، کنار بذاره. این گزارش به‌نقل از دو مقام دولتی و یه مقام ارشد کاخ سفید نوشته شده که ناشناس موندن.

طبق این گزارش، جرقهٔ ماجرا این بود که دو روز بعد از انتشار عمومیِ مدل، مدیرعامل آمازون (اندی جسی) نگرانی‌هایی دربارهٔ امکانِ دورزدنِ guardrailهای مدل به کاخ سفید منتقل کرد؛ آمازون که سرمایه‌گذارِ Anthropic هم هست، می‌گه در پاسخ به درخواست دولت برای بازخورد این کار رو کرده. به‌نوشتهٔ گزارش، موضوع تا صبح جمعه به بالاترین سطوح کاخ سفید رسید و مقام‌هایی مثل وزیر خزانه‌داری و مدیر سایبریِ کاخ سفید دربارهٔ پاسخ جلسه گذاشتن.

گزارش می‌گه بعد از چند تماس، مدیرعامل Anthropic (داریو آمودی) در چند تماس با حدود نیم‌دوجین مقام ارشد شرکت کرد. طبق روایت، آمودی روی این موضع پافشاری کرد که نوعِ bypassِ رخ‌داده به‌نظرش خاص بوده و همون خطرِ یه «jailbreak»ِ گسترده‌تر رو نداره که مدل رو کاملاً بدون guardrail قابل‌استفاده کنه. Anthropic هم در یه پستِ وبلاگی بعد از ماجرا گفت هیچ تسترـی هنوز نتونسته یه jailbreakِ فراگیر پیدا کنه و اجتناب کاملِ هر شرکتی از jailbreak فعلاً ممکن نیست.

به گزارش Business Insider، مقام‌های دولتی قانع نشدن؛ یه مقام کاخ سفید گفت یافته‌های آمازون به آژانس امنیت ملی (NSA) نشون داده شده و آن‌ها احساس می‌کردن «مدرک» دارن. دولت از Anthropic خواست داوطلبانه مدل رو بردارد، ولی آمودی زمان و اطلاعات بیشتری خواست و تعهدی نداد. کمی بعد، دولت با استناد به اختیارِ امنیت ملی، کنترل صادراتی روی مدل‌های Fable 5 و Mythos 5 اعمال کرد و طبق گفتهٔ Anthropic، «اثرِ خالصِ» این دستور، غیرفعال‌شدنِ ناگهانیِ مدل‌ها برای همهٔ مشتری‌ها بود.

گزارش، دو روایتِ متفاوت رو کنار هم می‌ذاره: یه مقام کاخ سفید می‌گه کنترل صادراتی «آخرین راه بعد از ساعت‌ها التماس برای همکاری» بود، درحالی‌که یکی از افرادِ نزدیک به Anthropic این رو رد می‌کنه و می‌گه به شرکت فقط ۹۰ دقیقه برای پایین‌کشیدن مدل، بدون جزئیاتِ تهدید، مهلت داده شد. Anthropic در پستش گفت با دستور دولت همراهی می‌کنه ولی اون رو نامتناسب می‌دونه و معتقده دولت باید بتونه استقرارهای ناامن رو در چارچوب یه فرایندِ قانونیِ شفاف و مبتنی بر واقعیت‌های فنی مسدود کنه. گزارش همچنین به تنش‌های قبلیِ دولت و Anthropic اشاره می‌کنه، از جمله موضعِ شرکت دربارهٔ نظارت و سلاح‌های خودمختار.

نکات کلیدی:

• کنترل صادراتیِ کاخ سفید بعد از یه تلاش پرشتابِ ۲۴ساعته برای متقاعدکردن Anthropic اعمال شد
• جرقهٔ ماجرا نگرانیِ آمازون دربارهٔ امکانِ دورزدنِ guardrailهای مدل بود
• Anthropic استدلال کرد این bypassِ خاص با یه jailbreakِ فراگیر فرق داره
• دولت قانع نشد و با استناد به امنیت ملی مدل‌های Fable 5 و Mythos 5 رو مشمولِ کنترل صادراتی کرد
• دو طرف روایتِ متفاوتی از «مهلت» و «همکاری داوطلبانه» ارائه می‌دن