‏حسابیس: آمریکا نهاد استاندارد هوش مصنوعی بسازه

دمیس حسابیس، رئیس بخش هوش مصنوعی گوگل و برندهٔ جایزهٔ نوبل، تو مقاله‌ای که سه‌شنبه در ایکس منتشر کرد از آمریکا خواست پیش‌قدم تشکیل یه نهاد استاندارد بشه؛ نهادی که مدل‌های جدید رو زیر نظر بگیره و ریسک‌های امنیت ملی، از امنیت سایبری تا تهدیدهای زیستی، رو ارزیابی کنه.

به گفتهٔ او «اقدام فوری» برای مواجهه با ریسک‌های هوش مصنوعی عمومی لازمه؛ یعنی نقطه‌ای که هوش مصنوعی به هوش انسان می‌رسه یا ازش رد می‌شه. حرفش اینه که چالش‌های مدل‌های مرزی برای امنیت سایبری رو همین حالا دیدیم و تهدیدهای دیگه از جمله هسته‌ای و زیستی هم ممکنه با پیشرفت توانمندی‌ها ظاهر بشن.

حسابیس معتقده آمریکا با توجه به جایگاه اقتصادی و فنیش برای رهبری این چارچوب مناسبه. پیشنهاد مشخصش یه نهاد استاندارد جدیده که روی مدل مشارکت عمومی-خصوصی زیر نظارت فدرال یا یه سازمان خودتنظیم‌گر ساخته بشه، شبیه فینرا که شرکت‌های کارگزاری و بازارهای مبادلاتی آمریکا رو تنظیم می‌کنه، با هیئت‌مدیره‌ای شامل کارشناس‌های فنی مستقل و نماینده‌های متن‌باز.

به گفتهٔ او این نهاد به بودجهٔ «قابل توجه» نیاز داره تا بتونه استعداد فنی درجه‌یک جذب کنه و منابع محاسباتی لازم برای تست در مقیاس بزرگ رو فراهم کنه، و این بودجه «احتمالاً» از خود صنعت میاد.

مکانیزم پیشنهادی مرحله‌ایه: آزمایشگاه‌های مرزی اولش داوطلبانه مدل‌هاشون رو تا ۳۰ روز قبل از عرضه برای بررسی به نهاد می‌دن، و بعد از اینکه ثابت شد این روش «مؤثره»، برای عرضه در بازار آمریکا اجباری می‌شه. تست‌های مخصوص هوش مصنوعی عامل هم می‌تونه دنبال تلاش برای دور زدن حفاظ‌های ایمنی یا نشانه‌های فریب بگرده، و بهترین شیوه‌ها مثل واترمارک دیجیتال روی تصاویر تولیدشده رو الزامی کنه.

این پیشنهاد جدا از فضای عمومی صنعت نیست. یک ماه پیش حسابیس همراه داریو آمودی، مدیرعامل انتروپیک، تو نشست جی۷ خواستار ائتلافی به رهبری آمریکا برای شکل‌دادن به قواعد هوش مصنوعی شده بودن، و سم آلتمن هم اوایل همین ماه تو فایننشال تایمز پیشنهاد مشابهی داد.

اما تنظیم‌گری مدل‌های پیشرو به نقطهٔ اصطکاک بین بخش عمومی و خصوصی هم تبدیل شده. انتروپیک چند هفته پیش سر یه مدل پیشرفته درگیر مذاکره با مقام‌ها بود بعد از اینکه دولت ترامپ موقتاً کنترل‌های صادراتی اعمال کرد، و OpenAI هم اول از طرف دولت آمریکا خواسته شده بود عرضهٔ یه مدل جدید رو محدود کنه. هم‌زمان مدل‌های چینی مثل DeepSeek و Z.ai دارن بین شرکت‌های آمریکایی جا باز می‌کنن و قانون‌گذارها دنبال راهی برای مهار این روندن.

نکات کلیدی:

• پیشنهاد حسابیس: نهاد استاندارد به رهبری آمریکا برای تست ریسک امنیت ملی مدل‌های مرزی
• الگوی ساختاری، فینرا؛ مشارکت عمومی-خصوصی زیر نظارت فدرال
• بودجه‌اش «احتمالاً» از خود صنعت تأمین می‌شه
• بررسی اول داوطلبانه و تا ۳۰ روز قبل از عرضه، بعد اجباری
• تست‌های پیشنهادی: دور زدن حفاظ‌ها، نشانه‌های فریب، واترمارک تصاویر
• زمینه: رقابت آمریکا و چین و رشد استفاده از مدل‌های چینی در شرکت‌های آمریکایی