دولت ترامپ در حال بررسی نظارت پیش از انتشار مدلهای هوش مصنوعی
هوش مصنوعیخلاصهٔ کاملتر
دولت ترامپ طبق گزارشهای نیویورک تایمز، وال استریت ژورنال و اکسیوس، داره درباره احتمال بررسی مدلهای پیشرفته هوش مصنوعی قبل از انتشار عمومیشون مذاکره میکنه. این موضوع بهخصوص روی مدلهایی تمرکز داره که میتونن به شناسایی و سوءاستفاده از آسیبپذیریهای نرمافزاری کمک کنن — یعنی ابزارهایی که در دست بازیگران مخرب میتونن به سلاح سایبری تبدیل بشن.
یک چرخش قابلتوجه
این اتفاق در حالی داره میافته که ترامپ در همون روز اول دوره دومش، دستور اجرایی بایدن (EO 14110) درباره توسعه ایمن هوش مصنوعی رو لغو کرد. سه روز بعد دستور جدیدی با عنوان «رفع موانع رهبری آمریکا در هوش مصنوعی» صادر شد که تمرکزش روی مقرراتزدایی و تقویت نوآوری بود. اون دستور بایدن یه سری الزامات مهم داشت: red-teaming اجباری برای مدلهای پرخطر، پروتکلهای امنیت سایبری تقویتشده، و نظارت بر هوش مصنوعی در زیرساختهای حیاتی. حالا به نظر میرسه خطرات سایبری داره دولت رو به سمت رویکرد مداخلهگرایانهتری میکشونه، حتی اگه کلاً با مقررات گسترده هوش مصنوعی مخالف باشه.
نقش محوری مدل Mythos آنتروپیک
انگیزه اصلی پشت این بحثها، معرفی مدل Mythos از آنتروپیکه. این شرکت ادعا میکنه که Mythos Preview هزاران آسیبپذیری با شدت بالا پیدا کرده، از جمله در همه سیستمعاملها و مرورگرهای اصلی. آنتروپیک میگه که مدلهای هوش مصنوعی الان به سطحی از توانایی کدنویسی رسیدن که میتونن در یافتن و اکسپلویت کردن آسیبپذیریها از همه انسانها بهجز ماهرترینهاشون پیشی بگیرن.
آنتروپیک این مدل رو بهصورت عمومی منتشر نکرده. در عوض پروژهای به اسم Project Glasswing راه انداخته و تا ۱۰۰ میلیون دلار اعتبار استفاده به گروه منتخبی از شرکتهای فناوری و امنیت سایبری میده تا از Mythos برای اهداف دفاعی استفاده کنن — یعنی پیدا کردن و وصله کردن آسیبپذیریها قبل از اینکه بازیگران مخرب بتونن ازشون سوءاستفاده کنن. این شرکت همچنین در حال briefing دادن به آژانس CISA، وزارت بازرگانی و سایر ذینفعان درباره ریسکها و مزایای این مدله. OpenAI هم مدل مشابهی توسعه داده و از طریق یک برنامه دسترسی اعتمادمحور، اون رو در اختیار تعداد محدودی از شرکتها گذاشته.
وضعیت نهادهای نظارتی
موسسه ایمنی هوش مصنوعی آمریکا (US AI Safety Institute) که زیر نظر NIST تأسیس شده بود و مأموریتش ارزیابی پیش از استقرار مدلها بود، در ژوئن ۲۰۲۵ به مرکز استانداردها و نوآوری هوش مصنوعی تغییر نام داد. وزیر بازرگانی این تغییر رو بهعنوان رد استفاده از «ایمنی» بهعنوان بهانهای برای سانسور و مقررات توصیف کرد. با این حال، مأموریت جدید این مرکز شامل ارزیابی تواناییهای هوش مصنوعی که ممکنه تهدید امنیت ملی باشن هم میشه — از جمله در حوزههای امنیت سایبری، بیوامنیتی، و سلاحهای شیمیایی — که میتونه این نهاد رو برای هر فرایند بررسی آیندهای آماده کنه.
مقایسه با رویکرد سایر کشورها
مقایسه با دیگر کشورها نشون میده که آمریکا هنوز خیلی عقبه. موسسه امنیت هوش مصنوعی بریتانیا (UK AI Security Institute) قبلاً ارزیابیهای پیش از استقرار چند مدل مرزی رو با همکاری خود آنتروپیک و OpenAI انجام داده. قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) هم از سال گذشته در حال اجرا شدنه و ارزیابیهای انطباق اجباری برای کاربردهای پرخطر رو الزامی میکنه. آمریکا هنوز نه چارچوب مشابهی داره و نه اختیار قانونی لازم برای الزامی کردن چنین بررسیهایی.
نکات کلیدی:
- دولت ترامپ که در ابتدا مقررات نظارتی هوش مصنوعی رو کنار گذاشت، حالا داره برای مدلهای پرخطر سایبری به بررسی پیش از انتشار فکر میکنه
- مدل Mythos آنتروپیک محرک اصلی این بحثهاست؛ مدلی که هزاران آسیبپذیری بحرانی در سیستمعاملها و مرورگرها شناسایی کرده
- آنتروپیک با Project Glasswing تا ۱۰۰ میلیون دلار اعتبار برای استفاده دفاعی از Mythos اختصاص داده
- موسسه ایمنی هوش مصنوعی آمریکا تغییر نام و مأموریت داده، ولی هنوز اختیار قانونی کافی برای نظارت اجباری وجود نداره
- بریتانیا و اتحادیه اروپا در مقایسه با آمریکا پیشرفت بیشتری در ارزیابی پیش از انتشار مدلهای هوش مصنوعی داشتن
