بحث خطر سایبری مدل‌های اوپن‌ویت به بن‌بست خورده
هوش مصنوعیخلاصهٔ کامل‌تر
نیتن لمبرت، نویسنده Interconnects، معتقده بحث فعلی درباره خطر سایبری مدل‌های open-weight (یعنی مدل‌هایی که وزن‌هاشون عمومی منتشر میشه و هرکسی می‌تونه خودش اجراشون کنه) خراب شده. به گفته‌ش سه گروه اصلی تو این بحث هستن: آزمایشگاه‌های بزرگ و جامعه امنیت ملی آمریکا که مدل باز رو خطر غیرقابل‌قبول می‌دونن، صداهای غربی میانه‌رو که می‌گن مدل باز برای دفاع لازمه، و شرکت‌های چینی که همچنان مدل‌های قوی باز منتشر می‌کنن.
نویسنده از گزارش اخیر Anthropic درباره خطرهای GLM-5.3 به‌عنوان ابزار حمله سایبری انتقاد می‌کنه. می‌گه بخش فنی گزارش منطقیه، ولی سراغ سؤال‌های اصلی نمی‌ره: اگه مدل باز ممنوع بشه چی میشه؟ و چرا شرکت‌های چینی این مدل‌ها رو برای انتشار امن می‌دونن؟ به نظرش هر سیاستی یه trade-off هست و تقریباً هیچ‌وقت نتیجه‌ای که از همه نظر بهتر باشه گیرت نمیاد.
لمبرت می‌گه طبق اطلاعات عمومی، تا الان بیشتر حمله‌های سایبری ثبت‌شده با مدل‌های بسته مثل مدل‌های OpenAI انجام شده. چند توضیح احتمالی میاره: شاید هم مدل باز و هم API بسته هر دو راحت سوءاستفاده می‌شن، شاید قدرت بیشتر مدل‌های بسته از محافظ‌هاشون مهم‌تره، و شاید مدل باز بهترین ابزار برای پخش‌کردن توان دفاعی باشه. مثلاً سازمان‌های حساس دولتی فقط مدل باز رو می‌تونن روی شبکه‌های air-gapped (یعنی کاملاً جدا از اینترنت) اجرا کنن.
نتیجه‌ای که نویسنده می‌گیره اینه: اگه فکر می‌کنی مدل‌های باز جدید باید ممنوع بشن، احتمالاً باید APIهای عمومی مدل‌های بسته پیشرو رو هم غیرقانونی کنی. محافظ‌های مدل‌های بسته قوی‌ترن ولی بی‌نقص نیستن، و توان سایبری‌شون احتمالاً سریع‌تر از guardrailها رشد می‌کنه. یعنی ممنوعیت فقط مدل باز، فاصله بین حمله و دفاع رو بیشتر می‌کنه.
درباره چین، لمبرت می‌گه اونجا هم به ایمنی AI اهمیت می‌دن، ولی با منطق خودشون. شرکت‌ها باید هر مدل بزرگ رو با ارزیابی‌هاش پیش دولت ثبت کنن، هرچند معلوم نیست این چارچوب خطرهای سایبری یا بیولوژیک رو هم پوشش بده. ریسک شخصی برای آدم‌ها هم اونجا خیلی بیشتره. به گفته‌ش ارزیابی ایمنی کامل مدلی مثل Kimi K3 می‌تونه ده‌ها میلیون دلار compute بخوره و سؤال درست اینه که حداقل هزینه تست ایمنی قبل از انتشار چقدر باید باشه.
آخر سر نویسنده می‌گه وقتی Claude Mythos معرفی شد، طوری نشونش دادن که انگار یه سلاح سایبری جدیده. ولی حالا GLM-5.3 از همون آستانه توانایی رد شده و بیشتر از یه ماه از انتشار وزن‌هاش گذشته، و شواهد عمومی از تغییر بزرگی خبر نمی‌ده. به نظرش حتی اگه Mythos باز منتشر می‌شد، نتیجه بیشتر شبیه شتاب‌گرفتن حمله‌ها بود تا یه جهش ناگهانی در خطر.
نکات کلیدی:
- نویسنده مقاله، نیتن لمبرت از Interconnects هست و خودش رو تو گروه طرفدارهای میانه‌روی مدل باز می‌دونه.
- گزارش Anthropic درباره GLM-5.3 به‌خاطر نپرداختن به پیامدهای ممنوعیت نقد شده.
- طبق شواهد عمومی، بیشتر حمله‌های سایبری ثبت‌شده با مدل‌های بسته بوده.
- ممنوعیت فقط مدل باز، به گفته نویسنده، فاصله حمله و دفاع سایبری رو بیشتر می‌کنه.
- ارزیابی ایمنی کامل مدلی مثل Kimi K3 می‌تونه ده‌ها میلیون دلار compute هزینه داشته باشه.
- لمبرت پیش‌بینی ترس از مدل‌های باز رو یه پیش‌بینی قابل‌ابطال می‌دونه که به نظرش داره غلط از آب درمیاد.
