فروپاشی سیگنال‌ها در عصر هوش مصنوعی
هوش مصنوعیخلاصهٔ کامل‌تر
Christian Kästner تو این مقاله می‌گه AI تقریباً همه نشونه‌هایی که برای سنجیدن کیفیت استفاده می‌کردیم رو ارزون قابل جعل کرده. اون از signaling theory (یعنی نظریه‌ای که توضیح می‌ده چرا بعضی نشونه‌ها قابل اعتمادن) استفاده می‌کنه و به جای «فرسایش سیگنال» اسمشو می‌ذاره signal collapse، چون این بار تغییر خیلی سریع و همه‌جانبه‌ست.
ما بدون میانبر نمی‌تونیم تصمیم بگیریم. تو اوپن‌سورس پکیج با ستاره کم یا README ضعیف رو رد می‌کنیم. تو آموزش، جواب کوتاه و بدنوشته رو نشونه نفهمیدن می‌دونیم. تو داوری مقاله، نوشته ضعیف و منابع کم رو نشونه کار سرسری می‌گیریم. این میانبرها کار می‌کردن چون بین هزینه جعل و هزینه کار واقعی یه فاصله بود، یعنی cost differential. نوشتن یه بخش مرور منابع قانع‌کننده بدون خوندن واقعی مقاله‌ها سخت بود.
AI این فاصله رو برداشته. ستاره گیت‌هاب از قبل هم خریدنی بود (حدود ۰.۰۷ تا ۰.۲۰ دلار برای هر ستاره)، ولی حالا میشه اکانت‌های واقعی‌نما ساخت، README شیک نوشت، به issueها خودکار جواب داد و pull request تمیز با تست فرستاد. نتیجه به گفته نویسنده یه market for lemonsـه (یعنی بازاری که چون خوب و بد قابل تشخیص نیستن، کسی برای کار خوب بیشتر پول نمی‌ده و کار بی‌کیفیت غالب میشه). اصطلاحش از یه مقاله ۱۹۷۰ درباره ماشین‌های دست‌دوم میاد.
نویسنده شش سناریو رو بررسی می‌کنه. Doom: هزینه بررسی کامل اونقدر بالا می‌ره که همکاری‌ها از کار میفته. Retreat: برمی‌گردیم به شبکه‌های کوچیک اعتماد که برای تازه‌واردها سخته و جلوی نوآوری رو می‌گیره. Substitution: نشونه‌های جدید و گرون‌تر، مثل امتحان کتبی یا شفاهی، یا اینکه بعضی پروژه‌ها گزارش آسیب‌پذیری رو بدون proof of concept قبول نمی‌کنن.
Automation: بررسی خودکار چیزهایی که جواب قطعی دارن، مثل اثبات‌های Lean یا چک کردن آمار و تکرارپذیری مقاله با AI. به گفته نویسنده این فعلاً عملی‌ترین راهه، ولی خطر قانون گودهارت هست، یعنی همه چیز طوری بهینه میشه که فقط از ارزیاب AI رد بشه. Delegation: «نگهبان اعتماد»، مثل Chainguard که یه بار هزینه بررسی وابستگی‌های اوپن‌سورس رو برای همه می‌ده. نویسنده به این یکی نسبتاً خوش‌بینه.
آخرین سناریو Redesignـه: به جای وصله‌کاری، خود قواعد بازی عوض بشه. مثلاً منتورینگ و ungrading به جای امتحان شفاهی، یا مسئولیت قانونی تولیدکننده نرم‌افزار به جای درست کردن اوپن‌سورس در سطح کامپوننت. جمع‌بندی نویسنده اینه که کوتاه‌مدت روی خودکارسازی ارزیابی تمرکز می‌کنیم و به محدودیتش می‌خوریم، و بازسازی این نشونه‌ها کند پیش می‌ره.
نکات کلیدی:
- signal collapse یعنی خیلی از نشونه‌های کیفیت با هم و خیلی سریع بی‌اعتبار شدن، نه آروم و تدریجی.
- اعتبار هر نشونه به فاصله هزینه جعلش با هزینه کار واقعی بستگی داره و AI این فاصله رو برای متن و کد از بین برده.
- قیمت خرید ستاره گیت‌هاب حدود ۰.۰۷ تا ۰.۲۰ دلار برای هر ستاره ذکر شده.
- شش راه بررسی‌شده: Doom، Retreat، Substitution، Automation، Delegation و Redesign.
- نویسنده Automation رو عملی‌ترین راه کوتاه‌مدت و Delegation (مثل Chainguard) رو امیدوارکننده می‌دونه.
