میلیونها کارمند بد استخدام کردی
هوش مصنوعیخلاصهٔ کاملتر
نویسنده با یه قیاس تاریخی شروع میکنه: تو دههٔ ۱۸۳۰ راهآهن آمریکا تو ده سال ۱۲۰ برابر شد و بعد سیستم شکست. تصادف مرگبار سال ۱۸۴۱ تو ماساچوست، شرکتهای ریلی رو مجبور کرد مدیر منطقهای بگیرن، نقشها رو مکتوب کنن و سلسلهمراتب بسازن. به روایت مقاله، مدیریت مدرن همونجا متولد شد و راهآهن به یکی از اولین صنایع میلیارد دلاری تبدیل شد.
حالا به گفتهٔ نویسنده هوش مصنوعی داره همون سیستم رو دوباره میشکنه، چون ما عملاً به هر کارمندی، حتی بدترینشون، نیروی بینهایت و بودجهٔ بینهایت دادیم. مدیریت هوش مصنوعی از مدیریت آدم سختتره، چون بینظمی رو در لحظه تکثیر میکنه.
اولین موازی، چیزیه که بهش میگه tokenmaxxing: مثل آدم ریختن سر مسئله. نویسنده معتقده مشکل هیچوقت حجم توکن نبوده، بلکه اینه که شاید از هر صد نفر یکی بلده به مدل context بده. بقیه بهجاش «لوپ» تولید میکنن؛ یعنی ایجنت خودشو صدا میزنه تا خودشو درست کنه، فقط چون آدم از اول تسک رو تمیز توضیح نداده.
به نظر او توکن هدررفته همون تورم نیروی انسانیه: همونطور که ۸۰٪ کارمندها کار مؤثری نمیکنن، ۸۰٪ توکنهای امروز هم هیچ کاری نمیکنن. از اینجا به وعدههای هوش مصنوعی طعنه میزنه؛ توکنها دقیقترن ولی فقط با پرامپت درست، سریعترن ولی سرعت بعد از صد بار تلاش دوباره بیمعنیه، و با فرمت بینقص و اعتمادبهنفس کامل اشتباه میکنن.
یه مشکل سیاسی هم هست: کارمندها نمیخوان دانش پنهانشون رو به سیستم یاد بدن. نویسنده به نارضایتی کارمندهای متا از استفادهٔ شرکت از context اونها بهعنوان دادهٔ آموزشی اشاره میکنه و میگه کسی مجانی جایگزین خودشو آموزش نمیده. یعنی ساختار شرکتها ذاتاً مهمترین فناوری آیندهشون رو پس میزنه.
راهحل پیشنهادی مقاله evalهاست. به گفتهٔ نویسنده تنها کاربرد جاافتادهٔ هوش مصنوعی کدنویسیه، چون eval توش از اول وجود داره: کد یا اجرا میشه یا نمیشه. پس همونطور که OKR اهرم نیروی انسانیه، eval اهرم نیروی توکنیه و مجموعهٔ evalهای هر شرکت به باارزشترین دارایی و مزیت رقابتیش تبدیل میشه.
جمعبندی مقاله اینه که فرصت تریلیون دلاری بعدی، نه «نئوفرم»هاست و نه زیرساخت، بلکه شرکتهای «تحول هوش مصنوعی»ان که دانش عمیق کسبوکار رو به eval و ایجنت تبدیل میکنن. نویسنده پالانتیر رو مثال میزنه: چیزی که میفروخته نرمافزار نبوده، تحول بوده.
نکات کلیدی:
- ادعای اصلی: برای اولین بار نیروی انسانی از نرمافزار ارزونتر شده
- لوپهای ایجنتی نتیجهٔ پرامپت بد آدمهان، نه ضعف مدل
- تخمین نویسنده: ۸۰٪ توکنهای امروز هیچ ارزشی تولید نمیکنن
- انباشت context به تاکتیک تازهٔ امنیت شغلی تبدیل شده
- evalها جای OKR رو میگیرن و مزیت رقابتی هر شرکت میشن
- شرکتهای «تحول هوش مصنوعی» از نئوفرمها خیلی بزرگتر میشن
