‏هشدار هم‌بنیان‌گذار HashiCorp: شرکت‌ها گرفتار «روان‌پریشی هوش مصنوعی» شدن

میچل هاشیموتو، هم‌بنیان‌گذار HashiCorp، در یه پست توییتری نگرانی جدی‌ای رو مطرح کرده: به نظرش شرکت‌های زیادی الان تحت تأثیر چیزی هستن که اسمش رو «روان‌پریشی هوش مصنوعی» گذاشته. یعنی یه باور افراطی درباره توانایی‌های AI که دیگه جایی برای گفتگوی منطقی نمی‌ذاره.

هسته اصلی این تفکر اینه: «اشکالی نداره باگ بفرستیم، چون ایجنت‌های AI می‌تونن اونا رو با سرعت و مقیاسی که انسان‌ها نمی‌تونن، برطرف کنن.» این ذهنیت کاملاً روی MTTR (یعنی میانگین زمان بازیابی پس از خرابی) تمرکز داره و MTBF (میانگین زمان بین خرابی‌ها) رو نادیده می‌گیره؛ به عبارتی، به جای اینکه از بروز مشکل جلوگیری بشه، فقط روی سرعت رفع اون حساب باز می‌کنن.

هاشیموتو می‌گه این دقیقاً همون اشتباهیه که صنعت زیرساخت در دوران گذار به کلود مرتکب شد. اون موقع هم بحث بود که اتوماسیون همه چیز رو درست می‌کنه، اما تجربه نشون داد که نمی‌شه سیستم‌های تاب‌آور رو کاملاً کنار گذاشت. نتیجه اون دوره یه درس گرون‌قیمت بود: «می‌شه خودت رو تا جایی اتوماتیک کنی که یه ماشین فاجعه‌ساز بسیار پایدار بسازی.»

مشکل اینجاست که وقتی کسی این نگرانی رو مطرح می‌کنه، جواب‌هایی مثل «پوشش تست کامله» یا «گزارش باگ داره کم می‌شه» می‌شنوه — ولی این معیارها تصویر کاملی نمی‌دن. هاشیموتو اشاره می‌کنه که گزارش باگ می‌تونه کاهش پیدا کنه در حالی که ریسک پنهان داره منفجر می‌شه، پوشش تست بالا می‌ره در حالی که درک معنایی از کد داره از دست می‌ره، و تغییرات آن‌قدر سریع اتفاق می‌افتن که هیچ‌کس متوجه فروپاشی آروم معماری نمیشه.

نگرانی اصلی اینه که سیستم‌ها می‌تونن از نظر معیارهای محلی کاملاً سالم به نظر برسن، ولی در سطح کلی دارن غیرقابل‌فهم و شکننده می‌شن. این اتفاق به‌قدری تدریجیه که تا وقتی کسی بفهمه چی شده، خیلی دیر شده.

نکات کلیدی:

• هاشیموتو از «روان‌پریشی هوش مصنوعی» حرف می‌زنه: باوری افراطی که گفتگوی منطقی رو غیرممکن می‌کنه
• تمرکز صرف روی MTTR (سرعت رفع خرابی) و رها کردن MTBF (جلوگیری از خرابی) خطرناکه
• معیارهای ظاهراً مثبت مثل کاهش باگ یا افزایش پوشش تست می‌تونن گمراه‌کننده باشن
• این همون اشتباهیه که قبلاً در دنیای زیرساخت ابری اتفاق افتاد و حالا در مقیاس کل صنعت نرم‌افزار داره تکرار می‌شه
• معماری سیستم می‌تونه آروم و بی‌سروصدا بپوسه در حالی که همه فکر می‌کنن همه چیز خوبه