توکنمکسینگ؛ وقتی معیار اشتباهه، نتیجه هم اشتباهه
هوش مصنوعیخلاصهٔ کاملتر
توکنمکسینگ یعنی تلاش برای استفاده حداکثری از هوش مصنوعی در کار روزانه. Coinbase اخیراً اعلام کرده میخواد کارمنداش بیشتر از AI استفاده کنن و این ایده رو ترویج داده. در نگاه اول منطقی به نظر میرسه: ورودی بیشتر به هوش مصنوعی باید یعنی بهرهوری بیشتر. اما واقعیت کمی پیچیدهتره.
متا یه لیدربورد داخلی ساخت که مصرف توکن هر مهندس رو نشون میداد. هدف؟ تشویق استفاده بیشتر از AI. نتیجه؟ مهندسهای باهوش متا شروع کردن به نوشتن اسکریپتهایی که میلیونها توکن رو میسوزوندن بدون اینکه هیچ کار مفیدی انجام بدن. متا مجبور شد کل لیدربورد رو ببنده. این دقیقاً نمونه کلاسیک قانون گودهارت هست: «وقتی یک معیار تبدیل به هدف میشه، دیگه معیار خوبی نیست.»
این پدیده منحصر به AI نیست. گوگل سالهاست با مشکل مشابهی دستوپنجه نرم میکنه که بهش میشه گفت پرومومکسینگ: مهندسها پروژهها رو پیچیدهتر از چیزی که باید نشون میدن، مستندات غیرضروری مینویسن و سعی میکنن کارشون رو سختتر جلوه بدن، چون سیستم ترفیع گوگل به پیچیدگی فنی پاداش میده. درحالیکه مهندسی نرمافزار خوب باید به سمت سادگی بره، نه پیچیدگی.
یه مثال تاریخی جالب اینجا به کار میاد: اثر کبرا در هند. در دوران استعمار بریتانیا، دولت برای هر مار کبرای کشتهشده جایزه میداد تا جمعیتشون رو کاهش بده. مردم شروع کردن به پرورش کبرا برای کشتن و گرفتن جایزه. وقتی دولت برنامه رو لغو کرد، بچهمارهای اضافه رها شدن و جمعیت کبرا از اول هم بیشتر شد. نتیجه عکس خواسته شد.
مشکل اصلی توکنمکسینگ در فرمول ورودی ← خروجی ← نتیجه نهفتهست. این سه تا همیشه به هم وصل نیستن. مثلاً یه تیم که با AI سریعتر فیچر میسازه، ممکنه نتیجه منفی هم بده: باگهای بیشتر، فیچرهای تکراری از تیمهای مختلف، جلسات بیشتر برای هماهنگی، و در بدترین حالت، قطعی سیستمهای حیاتی. یه مهندس گوگل که با سرعت یه سیستم پر از باگ میسازه و پلتفرم تبلیغاتی گوگل رو دو ساعت میبنده، خروجیش منفی بوده، نه مثبت. پس مقدار ورودی به AI اصلاً معیار درستی برای ارزیابی نیست.
یه نکته مهم اینه که کُندی کدنویسی قدیم یه ویژگی بود، نه یه باگ. وقتی تیم فقط میتونست ۲ تا از ۱۰ ایده رو پیاده کنه، مجبور میشد بهترینها رو انتخاب کنه، ایدههای ضعیف رو زود حذف کنه و فشار واقعی روی ایدهها بذاره. حالا که کد نوشتن سریع و ارزونه، اون فیلتر از بین رفته. سرعت بیشتر یعنی نویز بیشتر: فیچرهای بیشتر، باگهای بیشتر، هماهنگی بیشتر.
البته این یه مخالفت کامل با AI نیست. استفاده هوشمندانه از هوش مصنوعی میتونه واقعاً تفاوت بسازه؛ مثلاً وقتی یه مهندس بهجای آزمایش ۳ ایده، میتونه همه ۷ ایدهاش رو همزمان تست کنه. مشکل وقتیه که مقدار استفاده از AI تبدیل به معیار ارزیابی بشه، نه کیفیت نتیجه اون استفاده.
نکات کلیدی:
- توکنمکسینگ یعنی استفاده حداکثری از AI، اما مقدار مصرف توکن معیار بهرهوری نیست
- قانون گودهارت میگه هر معیاری که هدف بشه، ارزشش رو از دست میده
- متا لیدربورد مصرف توکن رو بست چون مهندسها داشتن توکن رو بیهدف میسوزوندن
- پرومومکسینگ در گوگل هم نمونه مشابهی از ناهماهنگی انگیزههاست
- ورودی بیشتر به AI لزوماً خروجی بهتر نمیده و خروجی بیشتر لزوماً نتیجه بهتری نداره
- سرعت بیشتر در کدنویسی بدون فیلتر مناسب، نویز و هزینه هماهنگی رو بالا میبره
