هوش مصنوعی بهرهوری رو بالا برد، ولی قابلیت اطمینان رو نه!
هوش مصنوعیخلاصهٔ کاملتر
لورین هوکشتاین، که روی قابلیت اطمینان سیستمهای پیچیده تمرکز داره، یه نکته جالب و تا حدی تلخ رو مطرح میکنه: LLMها شاید دنیای توسعه نرمافزار رو زیر و رو کرده باشن، ولی هنوز هیچ نشونهای نیست که همین انقلاب به حوزه reliability هم سرایت کرده باشه.
دو اتفاق تقریباً همزمان این ادعا رو پشتیبانی میکنن. اول اینکه آنتروپیک یه قطعی حدوداً یکونیمساعته داشت که دسترسپذیری Claude Code رو در ۶۰ روز گذشته به زیر یک ناین رسوند. دوم و مهمتر اینکه Vlad Fedorov، CTO گیتهاب، پست بلاگی با عنوان «بهروزرسانی درباره دسترسپذیری گیتهاب» منتشر کرد — تنها شش هفته بعد از پست قبلیش درباره همین موضوع. این تکرار خودش نشونهایه که گیتهاب نگران تأثیر این قطعیها روی برندشه.
هوکشتاین این ماجرا رو از دریچه «Messy 9» دیوید وودز تحلیل میکنه؛ مجموعهای از ۹ الگو در سیستمهای پیچیده: ازدحام، آبشار خرابی، تعارض، اشباع، تأخیر، اصطکاک، تمپو، غافلگیری، و درهمتنیدگی.
طبق اعلام خود گیتهاب، هوش مصنوعی باعث شده که تعداد pull requestها، commitها و ریپوها با سرعتی بیسابقه رشد کنن — چیزی که در گرافیک منتشرشده با عنوان «شتاب رکوردشکن» به تصویر کشیده شده. این دقیقاً همون الگوی «تمپو» در مدل وودزه: محیطی که گیتهاب توش کار میکنه داره سریعتر از هر زمان دیگهای تغییر میکنه.
مشکل اینجاست که این رشد انفجاری یه سیستم رو زمینگیر نمیکنه؛ یه pull request میتونه بهطور همزمان Git storage، بررسیهای mergeability، branch protection، GitHub Actions، جستجو، نوتیفیکیشنها، مجوزها، webhookها، APIها، job های پسزمینه، کشها و دیتابیس رو لمس کنه. در مقیاس بالا، ناکارآمدیهای کوچیک روی هم انباشته میشن: صفها عمیقتر میشن، cache miss تبدیل به بار دیتابیس میشه، و یه dependency کُند میتونه چندین تجربه کاربری رو تحت تأثیر بذاره.
هوکشتاین مطمئنه که گیتهاب نمیتونه صرفاً با scale افقی از این وضعیت خارج بشه و احتمالاً باید بخشهایی از معماری سیستمش رو بازطراحی کنه. اینجاست که الگوی «تأخیر» وارد میشه: پیادهسازی راهحلهای بلندمدت زمان میبره، همین باعث میشه سیستم خیلی نزدیک به لبه کار کنه و قطعیهای کوتاهمدت بیشتر بشن، و این قطعیها خودشون چرخه مهندسی رو از کار روی راهحل بلندمدت منحرف میکنن — یه حلقه معیوب خطرناک.
درباره آنتروپیک هم قضیه مشابهه؛ خالق Claude Code قبلاً در توییتر اشاره کرده بود که مشکلات دسترسپذیری آنتروپیک ناشی از رشد غیرمنتظره و سریع تقاضاست. هر دو شرکت به نوعی قربانی موفقیت خودشون شدن.
نتیجهگیری هوکشتاین روشنه: انتظار نداشته باشیم AI قابلیت اطمینان سیستمها رو بهتر کنه، چون LLMها بیشتر در طرف عرضه ریسک اشباع قرار دارن، نه طرف حل اون. هوش مصنوعی خودش موتور رشد تقاضاست، نه سپر محافظ در برابر عواقبش.
نکات کلیدی:
- رشد انفجاری استفاده از AI باعث افزایش شدید بار روی زیرساختهایی مثل گیتهاب و آنتروپیک شده
- گیتهاب در شش هفته دو بار مجبور شده درباره مشکلات دسترسپذیری پست بنویسه
- مدل «Messy 9» دیوید وودز ابزار خوبی برای تحلیل این نوع خرابیهای سیستمیه
- scale افقی برای حل این مشکلات کافی نیست و بازطراحی معماری لازمه
- LLMها بیشتر ریسک اشباع سیستم رو افزایش میدن تا اینکه کمکی به reliability بکنن
- آنتروپیک و گیتهاب هر دو قربانی رشد تقاضایی شدن که خودشون ایجاد کردن
