هوش مصنوعی و کرنل لینوکس: هم باگ پیدا می‌کنه، هم اکسپلویت می‌سازه
هوش مصنوعیخلاصهٔ کامل‌تر
این مقاله گزارش بحث‌های اخیر Linux Kernel Maintainers Summit رو مرور می‌کنه که Jonathan Corbet تو LWN نوشته. حرف اصلی اینه که مدل‌های زبانی تو پیدا کردن باگ کرنل بهتر شدن، ولی همین توانایی باعث میشه یه پچ امنیتی عمومی خیلی سریع‌تر به اکسپلویت تبدیل بشه.
یه نمونه‌ش Sashiko هست، یعنی یه ابزار بازبینی مبتنی بر هوش مصنوعی که پچ‌های کرنل رو اسکن می‌کنه. Peter Zijlstra گفته خوندن نقدهای این ابزار «مغزش رو خاموش می‌کنه»، ولی قبول داره که مشکلات واقعی پیدا می‌کنه. Paolo Abeni هم گفته از وقتی بازبینی خودکار رایج شده، نرخ پچ‌هایی که باگ وارد می‌کنن کمتر شده.
طرف دیگه‌ی ماجرا patch diffing هست، یعنی مقایسهٔ کد قبل و بعد از پچ برای فهمیدن اینکه چه باگی بسته شده. قبلاً یه متخصص مهندسی معکوس ساعت‌ها یا روزها وقت می‌ذاشت تا از پچ به یه proof-of-concept برسه. حالا مدل می‌تونه نوع باگ رو تشخیص بده (مثلاً use-after-free یا integer overflow) و کمک کنه کدی نوشته بشه که مسیر آسیب‌پذیر رو فعال می‌کنه. نویسنده تأکید می‌کنه که هنوز اکسپلویت کرنل دانش عمیق می‌خواد، ولی کف مهارت لازم پایین اومده.
نگهدارنده‌ها دارن بازبینی رو بر اساس اعتبار مشارکت‌کننده اولویت‌بندی می‌کنن. Jiri Kosina گفته تو ext4 پچ تکی از یه آدم ناشناس اولویت پایین‌تری می‌گیره. Abeni هم از یه سیستم امتیازدهی تو زیرسیستم networking گفته که سابقهٔ بازبینی و حتی اعتبار کارفرما رو حساب می‌کنه. ولی Dave Airlie و Konstantin Ryabitsev هشدار دادن که هر سیستم اعتباری دیر یا زود دور زده میشه و نگرانی حریم خصوصی هم داره.
توروالدز معتقده مقصر LLM نیست: به گفتهٔ اون مدل‌ها کار خوبی می‌کنن، ولی دست آدم‌هایی افتادن که «هیچ سررشته‌ای ندارن». پیشنهادش اینه که بازخورد ابزارهایی مثل Sashiko با ۲۴ ساعت تأخیر برسه تا تازه‌کارها نتونن با AI پشت سر هم نسخهٔ جدید بفرستن. خودش هم گفته حدود شش ماه طول کشیده تا یه ابزار AI رو طوری تنظیم کنه که خروجی بد نده.
خطر ساختاری اینجاست که حجم کار خیلی بالاست. Corbet به نزدیک ۸۰۰ مشارکت‌کنندهٔ تازه‌وارد تو یه چرخهٔ انتشار اشاره کرده، و یه مورد که بیشتر از ۱۰۰ پچ تو یه ساعت از یه هویت کاملاً جدید رسیده بود. هر نگهدارنده فقط چندتاش رو می‌بینه، پس یه باگ زیرکانه فقط کافیه از جلوی همون یه نفری رد بشه که فایل مربوطه رو بازبینی می‌کنه.
نکات کلیدی:
- ابزار Sashiko تو بازبینی پچ‌های کرنل باگ‌های واقعی پیدا می‌کنه.
- مدل‌های زبانی زمان رسیدن از پچ عمومی به اکسپلویت رو کوتاه کردن.
- توروالدز پیشنهاد داده بازخورد بازبینی خودکار ۲۴ ساعت دیرتر برسه.
- زیرسیستم networking از امتیازدهی بر اساس سابقه و کارفرمای مشارکت‌کننده استفاده می‌کنه.
- نزدیک ۸۰۰ مشارکت‌کنندهٔ تازه‌وارد تو یه چرخهٔ انتشار کرنل اومدن.
- سیستم‌های اعتباری به گفتهٔ Airlie و Ryabitsev قابل دور زدن هستن.
