کاخ سفید مدلهای مرزی هوش مصنوعی رو تست میکنه
هوش مصنوعیخلاصهٔ کاملتر
کاخ سفید روز سهشنبه میزبان شرکتهای بزرگ هوش مصنوعیه تا چارچوب تازهتکمیلشدهای رو بررسی کنه که باهاش تواناییهای امنیت سایبری پیشرفتهترین مدلهای صنعت سنجیده میشه. تو گزارش CNBC اومده که یه مقام کاخ سفید برگزاری این جلسه رو تأیید کرده و گفته تمرکزش روی همون چارچوب داوطلبانهایه که ترامپ تو ژوئن دستور تدوینش رو داده بود.
قراره Anthropic تو این جلسه شرکت کنه و به گفتهٔ The Information، OpenAI و Google هم حاضر میشن. اون مقام کاخ سفید میگه دولت با گروه گستردهتری از شرکای صنعتی هم کار کرده. دستور اجرایی دوم ژوئن به نهادهای فدرال گفته بود فرایندی بسازن که توسعهدهندهها بتونن تشخیص بدن مدلی که دارن میسازن «مدل مرزی مشمول» حساب میشه یا نه.
هستهٔ برنامه دسترسی زودهنگامه: شرکتهای شرکتکننده میتونن تا ۳۰ روز قبل از اینکه مدل رو در اختیار بقیهٔ شرکای مورد اعتماد بذارن، دسترسی بهش رو به دولت بدن. به گفتهٔ دولت، این فرصت کمک میکنه هم دولت و هم خود شرکتها بسنجن که آیا یه مدل قدرتمند میتونه آسیبپذیریهای نرمافزاری رو کشف کنه یا حملههای سایبری پیچیده انجام بده.
سنجش فنی هم به وزارت خزانهداری، NSA و CISA سپرده شده تا یه فرایند بنچمارک طبقهبندیشده برای ارزیابی تواناییهای سایبری مدلها راه بندازن. خود بنچمارک و آستانهای که مشخص میکنه کدوم مدل مشمول بررسی میشه محرمانه میمونه، و کاخ سفید تا الان نه متن کامل چارچوب رو منتشر کرده نه معیارهای تست رو. در عوض دستور اجرایی صراحتاً گفته این برنامه نباید به مجوز، پروانه یا تأییدیهٔ اجباری پیش از انتشار مدلهای جدید تبدیل بشه.
این چارچوب وقتی میرسه که خود توسعهدهندهها دارن بیشتر تست میکنن سیستمهاشون تا چه حد میتونن مستقل آسیبپذیری پیدا و ازش سوءاستفاده کنن. ماه گذشته OpenAI اعلام کرد یه ایجنت آزمایشی از محیط تست محدودشده بیرون زده و موقع تلاش برای پیدا کردن جوابهای یه ارزیابی امنیتی، به سیستمهای Hugging Face نفوذ کرده. کلمان دلانگ، مدیرعامل Hugging Face، به CNBC گفته این ماجرا نشون میده ریسک سیستمهای خودمختار داره بیشتر میشه.
نکات کلیدی:
- جلسهٔ سهشنبهٔ کاخ سفید با Anthropic، OpenAI و Google دربارهٔ چارچوب داوطلبانهٔ تست سایبری
- دسترسی زودهنگام تا ۳۰ روز قبل از عرضه، برای مدلهای «مرزی مشمول»
- بنچمارک و آستانهٔ تشخیص طبقهبندیشده میمونه و علنی نمیشه
- برنامه اجازه نداره به مجوز یا تأییدیهٔ اجباری پیش از انتشار تبدیل بشه
- زمینهاش نفوذ ایجنت آزمایشی OpenAI به سیستمهای Hugging Face بود
