وقتی AI حوادث رو حل میکنه، مهندسا از سیستم دور میشن
هوش مصنوعیخلاصهٔ کاملتر
نویسنده که سال ۲۰۱۲ تو لینکدین SRE بوده میگه چیزی که اون موقع فقط یه پروتوتایپ بود حالا واقعی شده: ابزارهایی که آلارم رو بررسی میکنن، فرضیه میسازن، تلهمتری رو کوئری میگیرن، دیپلویهای اخیر رو کنار هم میذارن و حتی خودشون فیکس رو اعمال میکنن. میگه عاشق این ماجراست، ولی یه نگرانی جدی هم داره: داریم ارتباطمون با سیستمهامون رو از دست میدیم.
استدلالش سادهست. حوادث روتین همونجان که آدما بیخطر یاد میگیرن سیستمشون چطور رفتار میکنه و چطور خراب میشه. وقتی AI اونا رو برداره، مهندس با تمرین کمتری پشت فرمون یه حادثهٔ مبهم و پرشدت میشینه. اون به مقالهٔ معروف Lisanne Bainbridge با عنوان The Ironies of Automation از سال ۱۹۸۳ ارجاع میده: اتوماسیون فرصت تمرین کار روتین رو کم میکنه ولی مسئولیت موقعیتهای غیرعادی سر اپراتور میمونه، پس اپراتور به آموزش بیشتر نیاز داره نه کمتر.
برای الگو، سراغ هوانوردی میره. موتورهای توربینی مدرن کمتر از یک خاموشی در پرواز به ازای هر ۱۰۰ هزار ساعت پرواز موتور دارن، یعنی یه خلبان ممکنه کل عمر کاریش بیرون از شبیهساز همچین چیزی نبینه؛ با این حال طبق قوانین FAA آمریکا کاپیتانها هر شش ماه باید دورهٔ بازآموزی یا چک مهارت بدن. نمونهٔ تلخش پرواز ۲۳۵ شرکت TransAsia ـه که خدمه موتور مشکلدار رو اشتباه تشخیص دادن و هواپیما ۱۱۷ ثانیه بعد از اولین هشدار سقوط کرد.
پیشنهاد عملیش شبیهساز حادثهست. تو Rootly، شرکتی که خودش اونجا کار میکنه، با Uptime Labs شبیهسازی ساختن که مهندس صندلی incident commander یه قطعی فروشگاه آنلاین رو میگیره و همزمان با stakeholderهایی که با LLM کار میکنن تو اسلک هماهنگ میکنه. به گفتهٔ اون میشه از ایجنت پرسید چه قدمهایی برداشته و چه شواهدی داشته، ولی تماشا کردن جای تمرین رو نمیگیره؛ تنیس رو هم فقط تو زمین یاد میگیری. حرف آخرش اینه که تیمها دارن «بدهی درک» جمع میکنن و تمرین حادثه باید بخشی از آمادگی on-call بشه.
نکات کلیدی:
- پایهٔ استدلال، مقالهٔ The Ironies of Automation از Lisanne Bainbridge در سال ۱۹۸۳ ـه
- پیشبینی نویسنده: MTTR حوادث روتین پایین میاد، زمان حل حوادث پیچیده بالا میره
- طبق قوانین FAA، کاپیتانها هر شش ماه بازآموزی یا چک مهارت دارن
- نرخ خاموشی موتور توربینی کمتر از یکی در هر ۱۰۰ هزار ساعت پرواز موتوره
- Rootly با Uptime Labs شبیهسازی حادثه با stakeholderهای مبتنی بر LLM تو اسلک ساخته
