Decoherence: بدترین نوع بدهی فنی و چرا AI اونو بدتر می‌کنه
هوش مصنوعیخلاصهٔ کامل‌تر
نویسنده با یه مثال ساده شروع می‌کنه: لوله‌های یه ساختمون. اگه لوله‌های قدیمی رو هر وقت خراب شدن یکی‌یکی با یه نوع جدید عوض کنی، آخرش یه ترکیب وصله‌پینه‌ای از دو سیستم داری که از هر کدوم به‌تنهایی پیچیده‌تره. حالا اگه بخوای فشار آب رو برای یه ساختمون جدید بالا ببری، دیگه نمی‌دونی امنه یا نه. به این حالت می‌گه decoherence، یعنی جمع شدن مدل‌هایی که هر کدوم جای خودشون درستن ولی با هم جور نیستن، و نویسنده معتقده این بدترین نوع بدهی فنی‌ه.
مشکل وقتی بدتر میشه که مدیریت فشار بیاره. نویسنده می‌گه متخصص زیر فشار تحلیل رو سریع‌تر انجام نمی‌ده، فقط زودتر ول می‌کنه و یه راه‌حل «احتمالاً درست» می‌زنه. همین تغییر کم‌کیفیت، تغییر بعدی رو سخت‌تر می‌کنه. اگه قبل از تموم شدن یه مهاجرت، مهاجرت دوم رو شروع کنی، پیچیدگی ترکیبیاتی میشه و حتی بهترین مهندس‌ها هم تو این «هزارتو» گم می‌شن. یه نکتهٔ مهم: decoherence با زمان زیاد نمی‌شه، فقط با تغییر زیاد میشه.
نویسنده یه شبیه‌سازی گرافی هم ساخته: هر node یه بخش از سیستمه و رنگش الگوی غالب اون بخشه. یه actor با یه coherence factor (یعنی چقدر با دقت و حوصله تغییر می‌ده) فیچر می‌سازه. actor کم‌دقت اولش خیلی سریعه، ولی با بیشتر شدن یال‌ها و جابه‌جایی بین رنگ‌ها کند میشه. نتیجه یه نمودار با یه «Sweet Spot» هست؛ زیرش سرعت به‌شدت می‌افته و با coherence منفی زمان ساخت هر فیچر بی‌حد بالا می‌ره. خودش می‌گه وزن‌ها دلخواهن و این اثبات نیست، فقط نشون می‌ده این منحنی می‌تونه از قانون‌های ساده به وجود بیاد.
بعد سراغ ایجنت‌های AI می‌ره. به گفتهٔ مقاله، یه مطالعهٔ Harvard روی ۷۱۸ شرکت نشون داده ایجنت‌ها حجم کد رو ۳۰٪ بالا بردن ولی کار تموم‌شده بیشتر نشده؛ بررسی PRها ۴۹٪ بیشتر طول کشیده و تقریباً دو برابر بیشتر برگشت خوردن. یه مطالعهٔ Carnegie Mellon روی پروژه‌هایی که Cursor رو گرفتن، یه جهش موقت سرعت و یه افزایش ماندگار پیچیدگی دیده. یه تحلیل دیگه روی بیش از ۳۰۰ هزار commit نوشته‌شده با AI هم نشون داده حدود یک از یازده تا (تا یک از هفت) حداقل یه مشکل کیفیت داشتن.
آخرش نویسنده بحث «انفجار هوش» رو نقد می‌کنه. طرفدارای Software Intelligence Explosion فکر می‌کنن AI می‌تونه تو یه محیط Reinforcement Learning بسته (یعنی محیطی که خودش هدف و امتیاز رو تعریف می‌کنه) نرم‌افزار بهتر از هر چیزی که وجود داره بسازه. نویسنده می‌گه این نگاه چیزی که نرم‌افزار رو واقعاً خوب می‌کنه، یعنی coherence، رو نمی‌بینه. اگه هدف رو سرعت یا حجم کد بذاری، به نرم‌افزاری می‌رسی که کوچیک و سریع ولی کاملاً decoherentه، چون کد سریع با فرض‌های پنهان درباره بقیهٔ سیستم سریع میشه.
نکات کلیدی:
- decoherence یعنی جمع شدن مدل‌های ناسازگار تو یه سیستم؛ با هر تغییر رشد نمایی داره، نه با گذشت زمان.
- جایگزین کردن تدریجی و نیمه‌کاره (مثل لوله‌ها یکی‌یکی) اصلی‌ترین منبعشه.
- مطالعهٔ Harvard روی ۷۱۸ شرکت: ۳۰٪ کد بیشتر، ۴۹٪ زمان review بیشتر، بدون افزایش کار تموم‌شده.
- از بیش از ۳۰۰ هزار commit نوشته‌شده با AI، حدود یک از یازده تا مشکل کیفیت داشتن.
- نویسنده معتقده decoherence جلوی خودبهبودی سریع AI رو می‌گیره ولی خطر «Decoherence Collapse» رو جدی می‌کنه.
