وقتی هوش مصنوعی نرمافزار رو زیادی امن کنه
هوش مصنوعیخلاصهٔ کاملتر
متیو گرین، رمزنگار و استاد دانشگاه جانز هاپکینز، تو پستی که بعد از کنفرانس Usenix Security نوشته یه نگرانی وارونه رو مطرح میکنه: اینکه هوش مصنوعی داره نرمافزارها رو بیش از حد امن میکنه. به گفتهٔ اون نتیجهش اینه که پلیس و سرویسهای اطلاعاتی آمریکا بهزودی بخش بزرگی از توان نفوذشون رو یکجا از دست میدن — همون چیزی که خودشون سالها اسمش رو گذاشته بودن «going dark».
نویسنده برای رسیدن به این نقطه تاریخچه رو مرور میکنه. سال 2010 اپل حافظهٔ آیفون رو با کلیدی که از پسکد کاربر ساخته میشه رمز کرد و اندروید هم زود دنبالش رفت. سال بعد پیامهای آیفون سرتاسری رمز شدن و تا 2016 نزدیک یک میلیارد کاربر واتساپ بهصورت پیشفرض روی رمزنگاری سرتاسری بودن. FBI هم سال 2014 با طرح Going Dark وارد ماجرا شد.
دعوای اپل و FBI سر آیفون قفلشدهٔ یه مهاجم در 2016 قرار بود این بحث رو یکسره کنه، ولی گره رو یه شرکت بیرونی باز کرد که گفت اصلاً به همکاری اپل نیازی نیست و خودش میتونه گوشی رو باز کنه. از اونجا به بعد آژانسها بهجای فشار برای بکدور، ابزارهای هک هدفمند مثل GrayKey و Pegasus رو میخریدن و بحث «دسترسی استثنایی» عملاً خوابید.
حالا به گفتهٔ نویسنده اون تعادل داره به هم میخوره. تو این پست اومده که آوریل امسال مدلی به اسم Mythos معرفی شد که تو پیدا کردن آسیبپذیری نرمافزاری غیرعادی خوب بود و دولت آمریکا موقتاً صادراتش رو محدود کرد؛ کاری که به نظر اون بیفایده بود، چون آزمایشگاههای دیگه سریع به همون سطح رسیدن. مدافعها هم دارن باگهای چنددههای رو پچ میکنن و اسکن آسیبپذیری با AI داره وارد خود مسیر CI میشه.
پیشبینی نویسنده اینه که تو دو سال آینده نرمافزارهای بزرگ عملاً باگ قابلبهرهبرداری از راه دور کم میارن. اون میگه این برای آژانسها کابوسه و تقاضا برای بکدورهای عمدی و ساختگی دوباره جدی میشه. بدترین بخش ماجرا از نگاه اون اینه که این بکدورها فقط سیستمهای همون کشوری رو ضعیف میکنن که درخواستشون کرده و دست دشمن خارجی رو باز میذارن. خودش هم میگه راهحلی سراغ نداره.
نکات کلیدی:
- اپل از 2010 حافظهٔ آیفون رو با کلید مشتق از پسکد رمز کرد و سال بعد رمزنگاری سرتاسری پیامها اومد.
- FBI سال 2014 طرح Going Dark رو مطرح کرد و دعوای 2016 بدون همکاری اپل و از راه هک گوشی تموم شد.
- آوریل امسال مدل Mythos با توان بالای کشف آسیبپذیری معرفی و صادراتش موقتاً محدود شد.
- OpenAI و آزمایشگاههای چینی مثل Z.ai و Moonshot هم به همون سطح رسیدن.
- پیشبینی نویسنده: تو دو سال آینده باگ قابلبهرهبرداری از راه دور تو نرمافزارهای بزرگ کمیاب میشه.
