Fable و پایان ناهار مجانی هوش مصنوعی
هوش مصنوعیClaude Sonnet 5خلاصهٔ کاملتر
نویسنده این یادداشت با اشاره به قانون مور (Moore's Law، یعنی روند تاریخی دو برابر شدن قدرت پردازندهها هر ۱۸ ماه) شروع میکنه. تا وقتی این قانون برقرار بود بهینهسازی کد زیاد بهصرفه نبود؛ چون یه پردازنده جدید با عملکرد دو برابر بهزودی میرسید. هرب ساتر این پدیده رو تو یه مقاله معروف «ناهار مجانی» نامیده بود. وقتی تو دهه ۲۰۰۰ عملکرد تکهستهای پردازندهها متوقف شد، برنامهنویسها مجبور شدن به موازیسازی، معماری و محلقرارگیری حافظه فکر کنن؛ یعنی به این فکر کنن که هر کار رو کجا انجام بدن.
به گفته نویسنده، قبل از عرضه Fable هم همین وضعیت تو دنیای مدلهای هوش مصنوعی برقرار بود؛ چون هر بار یه مدل جدید و ارزونتر میاومد که مشکلات رو حل میکرد، بهینهسازی هارنس برنامهنویسی (harness یعنی محیط و ابزارهایی که مدل باهاشون به کد و پروژه دسترسی داره) یا استراتژی context ارزش وقت گذاشتن نداشت. اما Fable با اینکه خیلی خوبه قیمتش خیلی بالاست؛ در حالی که Opus 5 و چند مدل دیگه مثل GPT 5.6 و Kimi K3 برای اکثر کارها کافی بودن.
مدل GLM 5.2 همون هفتهای که Fable اومد بیرون عرضه شد و قیمتش حدود یکنهم Fable و یکپنجم Opus 5 هست. نویسنده میگه برای اکثر کارهای تکراری برنامهنویسی، مخصوصا وقتی context خوبی بهش بدی، GLM کاملا کافیه. خودش هم معمولا اول با Fable طرح و ایده رو شکل میده و بعد کار اجرایی رو میده دست GLM.
بعضیا میگن با ارزونتر شدن هزینه استنتاج (inference)، دوباره همهچیز به سمت گرونترین مدلها برمیگرده؛ ولی نویسنده مطمئن نیست، چون این کاهش قیمت شامل مدلهای کوچیکتر مثل K3 و Qwen هم میشه و هارنسهای بهتر هم دارن کمک میکنن مدلهای ضعیفتر با context خوب عملکرد خوبی داشته باشن. از طرفی، محدودیتهای دسترسی، افت کیفیت پویا و الزام نگهداری دادههای Fable باعث شده خیلی از شرکتها و حتی کشورها بیشتر مراقب باشن دادههاشون رو کجا میفرستن و توکنهاشون رو از کجا میگیرن.
نکات کلیدی:
- GLM 5.2 حدود یکنهم قیمت Fable و یکپنجم قیمت Opus 5 تمام میشه.
- هرب ساتر مفهوم «ناهار مجانی» رو برای دوران قبل از کند شدن قانون مور بهکار برده بود.
- Fable با محدودیت دسترسی، افت کیفیت پویا و الزام نگهداری داده نگرانی درباره مقصد دادهها رو دامن زده.
- نویسنده معتقده کاهش قیمت استنتاج به نفع مدلهای کوچیکتر مثل K3 و Qwen هم تموم میشه، نه فقط مدلهای بزرگ.
