توکنمکسینگ؛ وقتی معیار اشتباهه، نتیجه هم اشتباهه
هوش مصنوعیتوکنمکسینگ یعنی استفاده هرچه بیشتر از هوش مصنوعی در کار روزانه؛ ایدهای که شرکتهایی مثل Coinbase دنبالش میکنن. اما متا وقتی یه لیدربورد داخلی برای مصرف توکن ساخت، مهندسهاش اسکریپت نوشتن تا میلیونها توکن رو بیهیچ بهرهوری بسوزونن؛ دقیقاً همون اتفاقی که قانون گودهارت پیشبینی میکنه. این مشکل ریشه در ناهماهنگی انگیزهها داره: ورودی بیشتر لزوماً به خروجی بهتر تبدیل نمیشه و خروجی بیشتر هم لزوماً نتیجه بهتری نمیده.
این محتوا بهصورت خودکار با استفاده از هوش مصنوعی تولید شده است. بررسی نهایی آن پیش از استفاده توصیه میشود و مسئولیت استفاده از آن بهعهده کاربر است. برای مطالعه متن اصلی خبر،اینجا را کلیک کنید
خلاصهٔ کاملتر
توکنمکسینگ یعنی تلاش برای استفاده حداکثری از هوش مصنوعی در کار روزانه. Coinbase اخیراً اعلام کرده میخواد کارمنداش بیشتر از AI استفاده کنن و این ایده رو ترویج داده. در نگاه اول منطقی به نظر میرسه: ورودی بیشتر به هوش مصنوعی باید یعنی بهرهوری بیشتر. اما واقعیت کمی پیچیدهتره.
متا یه لیدربورد داخلی ساخت که مصرف توکن هر مهندس رو نشون میداد. هدف؟ تشویق استفاده بیشتر از AI. نتیجه؟ مهندسهای باهوش متا شروع کردن به نوشتن اسکریپتهایی که میلیونها توکن رو میسوزوندن بدون اینکه هیچ کار مفیدی انجام بدن. متا مجبور شد کل لیدربورد رو ببنده. این دقیقاً نمونه کلاسیک قانون گودهارت هست: «وقتی یک معیار تبدیل به هدف میشه، دیگه معیار خوبی نیست.»
خلاصهٔ کاملتر این خبر رو میتونی با داشتن اشتراک ویژه بخونی!
اشتراک رایگان
- دسترسی به خلاصهٔ کوتاه خبر
- دسترسی به خلاصهٔ کامل/اختصاصی خبر + نکات کلیدی
- ارسال اخبار مورد علاقه به ایمیل شما
- ارسال اخبار مورد علاقه به تلگرام شما
- عدم نمایش تبلیغات
اشتراک ویژه
- دسترسی به خلاصهٔ کوتاه خبر
- دسترسی به خلاصهٔ کامل/اختصاصی خبر + نکات کلیدی
- ارسال اخبار مورد علاقه به ایمیل شما
- ارسال اخبار مورد علاقه به تلگرام شما
- عدم نمایش تبلیغات
