‏آمازون: مصرف توکن معیار خوبی برای سنجش AI نیست

آمازون یه یادداشت داخلی که سپتامبر بین کارمندها پخش شده بود رو حالا روی سایتش منتشر کرده. این یادداشت نقش مهندس‌های نرم‌افزار و مدیرها رو تو دورهٔ AI دوباره تعریف می‌کنه. پیام اصلیش اینه که کارمندها نباید سراغ tokenmaxxing برن، یعنی استفادهٔ هرچه بیشتر از AI بدون توجه به اینکه خروجیش ارزشی داره یا نه.

طبق گزارش CNBC، آمازون گفته معیارهایی مثل مصرف توکن (واحدهای داده‌ای که مدل‌های AI پردازش و تولید می‌کنن)، نرخ استفاده از ابزارهای AI و تعداد تغییرها یا بازبینی‌های کد، برای سنجیدن تیم‌ها «عمیقاً معیوب» هستن و می‌تونن هزینه و پیچیدگی رو بالا ببرن. البته نگفته این معیارها رو کامل کنار بذارن؛ گفته باید «با دقت و قضاوت» و کنار داده‌های دیگه دیده بشن.

مارک بروکر، معاون و distinguished engineer تو AWS، به CNBC گفته آمازون برای سنجیدن بهره‌وری سراغ معیاری مثل «feature velocity» رفته، یعنی اینکه چند تا لانچ دارن و چند تا تغییر موفق تو production انجام می‌دن. به گفتهٔ اون، همه‌چی به بازگشت سرمایه برمی‌گرده: برای مشکل‌های مهم مشتری یا کسب‌وکار توکن و زمان خرج می‌کنن، ولی نمی‌خوان توکن صرف مشکل‌های بی‌اهمیت بشه.

این ماجرا تو بستر بزرگ‌تری اتفاق می‌افته. شرکت‌ها با هزینه‌های رو به افزایش AI درگیرن و بعضی‌هاشون برای مصرف توکن سقف گذاشتن یا برای بعضی کارها سراغ مدل‌های ارزون‌تر و متن‌باز رفتن. آمازون می‌گه سقفی برای مصرف توکن نذاشته، ولی ماه مه یه leaderboard داخلی رو تعطیل کرد، چون فهمید کارمندها برای بالا رفتن تو رتبه‌بندی دارن tokenmaxxing می‌کنن.

آمازون تو یادداشتش گفته اگه AI به کار کسی کمکی نمی‌کنه، این «یه یافته‌ست، نه یه شکست». به گفتهٔ این شرکت، مهندسی که بتونه توضیح بده AI کجا هنوز به کارش کمک نمی‌کنه، همون قضاوتی رو نشون می‌ده که ازش انتظار دارن.

نکات کلیدی:

• یادداشت سپتامبر به‌صورت داخلی پخش شد و سه‌شنبه روی سایت آمازون منتشر شد
• مصرف توکن، نرخ استفاده از ابزار AI و تعداد تغییرهای کد از نظر آمازون معیارهای «عمیقاً معیوب» هستن
• AWS برای سنجیدن بهره‌وری از feature velocity استفاده می‌کنه: تعداد لانچ‌ها و تغییرهای موفق تو production
• آمازون ماه مه یه leaderboard داخلی رو به‌خاطر tokenmaxxing تعطیل کرد
• آمازون می‌گه سقفی برای مصرف توکن کارمندها نذاشته