وابستگیهای هوش مصنوعی، بدهی فنی تازه
هوش مصنوعیخلاصهٔ کاملتر
نویسنده با اشاره به توصیهٔ جنجالی میچل هاشیموتو شروع میکنه: «وابستگیهاتون رو بهروز نکنید.» قاعدهٔ هاشیموتو اینه که وابستگیها رو fork کنید، فقط بخشی که واقعاً استفاده میکنید رو نگه دارید و تا وقتی چیزی برای کاربر نشکسته، آپدیت نکنید.
به گفتهٔ نویسنده، این حرف که زمانی دیوانگی به نظر میرسید، بعد از حملههای زنجیرهٔ تأمین npm در بهار منطقیتر شده. تو حمله به کتابخانهٔ axios و کرم Mini Shai-Hulud، بیشترِ کسایی که آسیب دیدن همونهایی بودن که نسخهٔ تازه نصب کردن؛ کسی که روی نسخهٔ تمیز قفل (pin) مونده بود، اصلاً درگیر نشد.
نویسنده میگه مؤثرترین دفاع در برابر این کرم، یه «دورهٔ خنکشدن» بوده: شرکت StepSecurity نسخههای تازهمنتشرشده رو حدود ۱۰ روز نگه میداشت و در این مدت آخرین نسخهٔ سالم رو سرو میکرد، برای همین مشتریهاش هیچوقت در معرض حمله قرار نگرفتن.
نکتهٔ اصلی مقاله اینه که هوش مصنوعی این ریسک رو چند برابر میکنه، چون درخت وابستگی دیگه فقط کد نیست. یه ایجنت کدنویسی دستورهای مخزن رو میخونه، به سرورهای MCP وصل میشه و دستور shell اجرا میکنه؛ هر کدوم از اینها یه سطح حملهٔ تازهست. یه پژوهش دانشگاه پردو نشون داده ایجنتها بیشتر از آدمها نسخههای آسیبپذیر رو انتخاب میکنن.
لایهٔ MCP هم همین تله رو داره: به گفتهٔ مایکروسافت، تو حملهای به اسم «مسمومسازی ابزار» (tool poisoning) دستورهای مخرب داخل متادیتای ابزار پنهان میشن و تکیه به مدل برای رعایت دستورهای امنیتی، بیشتر از ۲۵٪ مواقع نقض شده. شون گودکه هم میگه پرامپتها خودشون یهجور بدهی فنیان که بیسروصدا کهنه میشن.
ولی نویسنده هشدار میده که قفلکردن وابستگیها هم بیخطر نیست: حالا با هوش مصنوعی، پیداکردن باگهای قدیمی ارزون شده، مثلاً Claude Mythos خودش برای یه باگ ۱۶ سالهٔ FFmpeg اکسپلویت ساخته. نتیجهگیریش اینه که قاعده هیچوقت «آپدیت نکن» نبوده؛ قاعده اینه که سطح حملهت رو بشناس، کوچیک نگهش دار و مدام امتیازدهی و بررسیش کن.
نکات کلیدی:
- هر وابستگی، سرور MCP و پرامپت یه سطح حملهٔ تازهست
- تو حملههای اخیر npm، قفلبودن روی نسخهٔ تمیز ازتون محافظت میکرد
- ایجنتهای هوش مصنوعی بیشتر از آدمها نسخههای آسیبپذیر انتخاب میکنن
- راهحل: سطح حمله رو کوچیک نگهدار و دائم بررسیش کن
