دنیا رو آدمهای باهوشی که اهمیت میدن سرپا نگه داشتن
خلاصهٔ کاملتر
نویسندهٔ این مقاله میگه دنیا رو یه گروه خاص سرپا نگه داشته: آدمهای باهوشی که واقعاً براشون مهمه. اون تو دوران کارش تو Stripe با سیستمهای جابهجایی پول آشنا شده و میگه شکنندگیشون ترسناکه. مثالش ACH هست، یعنی شبکهٔ قدیمی انتقال پول بین بانکهای آمریکا. این سیستم قدیمی و پر از ایراده ولی باز هم معمولاً امن، ارزون و قابل اعتماد کار میکنه.
به گفتهٔ نویسنده دلیل این تناقض فقط یه چیزه: آدمهایی که دو تا ویژگی دارن. یکی شناخت عمیق از سیستم و یکی انگیزه برای اینکه به زور هم شده سیستم رو سرپا نگه دارن. این دوتا همدیگه رو تقویت میکنن. هر مشکلی که پیش میاد رو همین آدمها وصله میکنن، دور میزنن یا دستی حلش میکنن. نویسنده میگه این حرف برای خیلی از سیستمهای پیچیدهٔ دیگه هم درسته.
بعد به قطعیهای همین یکی دو هفتهٔ اخیر اشاره میکنه: Microsoft 365، کنترل ترافیک هوایی آمریکا، سیستمهای United Airlines، شبکهٔ NSA، چندتا بانک بزرگ و Apple. رسماً گفته شده اینها به هم ربطی ندارن و حمله سایبری یا تقصیر هوش مصنوعی نیستن. ولی نویسنده با اینکه اطلاعات داخلی نداره، معتقده رشتهٔ مشترک همهشون کمبود همین آدمهاست.
به نظر نویسنده مدیرهایی که خودشون کار اصلی رو انجام نمیدن، فرق بین یه سیستم پیچیده که با زحمت این آدمها سرپاست و خروجی بیکیفیت هوش مصنوعی مولد رو نمیفهمن. براشون همهش خروجیه. ماشین هم ارزونتره، مرخصی نمیخواد و با ایدهٔ بد مخالفت نمیکنه. ولی نویسنده میگه LLMها نه باهوشن و نه اهمیت میدن. فقط چیزی رو میگن که دوست داری بشنوی.
به گفتهٔ اون، این آدمها چیزهایی رو میبینن که ماشین نمیبینه: حس میکنن یه چیزی داره خراب میشه، edge caseها رو میشناسن و موقعیتهای خاص رو دستی حل میکنن. خیلیهاشون اخراج شدن و بقیه هم مجبور شدن به جای کار اصلی، LLM رو بپان. هر prompt اونها رو یه قدم از سیستمی که قبلاً خوب میشناختن دورتر میکنه و حس مالکیتشون رو کم میکنه.
نویسنده آخرش با یه تشبیه تموم میکنه: بعضی بچهها با هشدار یاد میگیرن که به اجاق داغ دست نزنن و بعضی فقط وقتی دستشون بسوزه. به نظرش سرمایهداری الان دستش روی اجاقه و همهٔ ما داریم میسوزیم.
نکات کلیدی:
- نویسنده قبلاً تو Stripe روی سیستمهای بانکی مثل ACH کار میکرده
- سیستمهای پیچیده با شناخت عمیق و انگیزهٔ آدمها سرپا میمونن، نه با طراحی بینقص
- قطعیهای اخیر Microsoft 365، United Airlines، NSA، Apple و چندتا بانک بزرگ به عنوان شاهد اومده
- ادعای اصلی: جایگزین کردن نیروی متخصص با هوش مصنوعی مولد سیستمها رو شکنندهتر میکنه
- این یه مقالهٔ نظری بدون اطلاعات داخلی دربارهٔ علت دقیق قطعیهاست




