‏بن تامسون: پشت ایدهٔ کند کردن فرانتیر چه منافعی هست؟

بن تامسون تو این مقالهٔ Stratechery سراغ ایدهٔ «We Must Pace the Frontier» می‌ره، یعنی درخواست داریو آمودئی، مدیرعامل Anthropic، برای کند کردن سرعت پیشرفت مدل‌ها. نویسنده فلسفهٔ Effective Altruism پشت این دیدگاه رو قبول نداره، ولی اینجا از زاویهٔ استراتژی نگاه می‌کنه. حرفش اینه که این درخواست احتمالاً واقعاً از دغدغهٔ ایمنی میاد، ولی هم‌زمان چند overhang (یعنی شکافی که به‌خاطر سرعت زیاد پیشرفت مدل‌ها باز شده) رو برای آزمایشگاه‌های فرانتیر کوچیک‌تر می‌کنه.

اولی شکاف قابلیته. تامسون قبلاً گفته بود ادغام مدل و harness (یعنی لایه‌ای که مدل رو به ابزارها وصل می‌کنه، مثل Claude Code) مزیت اصلی آزمایشگاه‌هاست. ولی حالا مایکروسافت تو Copilot Cowork اجازه می‌ده مدل رو خودت انتخاب کنی، یعنی هارنس و مدل از هم جدا شدن. طبق نظریهٔ کلیتون کریستنسن، وقتی محصول «به اندازهٔ کافی خوب» بشه، رقابت می‌ره سمت چیزای دیگه. مثالش Fable هست: مشتری‌ها شرط نگه‌داری یک‌ماههٔ داده‌ها رو نپذیرفتن و Anthropic تو Fable 5.1 حذفش کرد.

دومی شکاف محصوله. به گفتهٔ نویسنده، Muse متا بهترین ایجنت شخصی‌ایه که امتحان کرده، در حالی که مدلش، Muse Spark 1.3، هنوز بهترین مدل بازار نیست. یعنی قابلیت فعلی مدل‌ها برای ساختن محصولات چسبنده کافیه. ایجنت شخصی از چت‌بات خیلی چسبنده‌تره، ولی ابزارهایی مثل Claude Code یا Codex این‌طور نیستن، چون کد تو GitHub می‌مونه و عوض کردن ایجنت سخت نیست. پس به نظر تامسون، Anthropic و OpenAI باید منابع بیشتری روی ساختن محصول بذارن.

سومی شکاف قیمته: OpenAI و Anthropic قیمت بالا می‌گیرن چون عرضهٔ محاسبه کمتر از تقاضاست، و بخش بزرگی از محاسبه‌شون هم صرف آموزش و R&D می‌شه، نه استنتاج. اگه پیشرفت کند بشه، این ظرفیت آزاد می‌شه. چهارمی شکاف سرمایه‌ست: کل صنعت برای ساخت زیرساخت به سرمایهٔ بیرونی وابسته‌ست و درآمد AI باید سریع بالا بره. تامسون اول نوشته بود سودآوری اعلام‌شدهٔ Anthropic هزینهٔ آموزش رو حساب نکرده، ولی بعد اصلاح کرد که با احتساب همین هزینه‌ها هم سودآوره.

آخری شکاف ایمنیه. نویسنده قبول داره خطر سایبری واقعیه، چون حمله‌کننده با اتوماسیون چیزی از دست نمی‌ده، ولی مدافع با یه پچ خراب ممکنه همه‌چیز رو بدتر کنه. ولی می‌گه این ربطی به alignment نداره و مدل‌های open weights با توان حمله الان هم وجود دارن. به نظرش مدافع‌ها به مدل‌های قوی‌تر نیاز دارن تا دفاع کاملاً خودکار ممکن بشه، پس کند کردن فرانتیر پنجرهٔ خطر رو بیشتر باز نگه می‌داره.

در آخر تامسون می‌گه مهم‌ترین شکاف، رقابته. به گفتهٔ اون، درخواست کند کردن درست وقتی مطرح شد که بعد از مدت‌ها OpenAI جلوتر بود. هر آزمایشگاهی می‌تونه سرعت خودش رو کم کنه، ولی نویسنده معتقده Anthropic با جلو بودن خودش مشکلی نداره و برای بقیه دخالت دولت رو می‌خواد.

نکات کلیدی:

• مایکروسافت حالا تو Copilot Cowork اجازهٔ انتخاب مدل می‌ده و هارنس از مدل جدا شده
• Anthropic شرط نگه‌داری یک‌ماههٔ داده‌ها رو تو Fable 5.1 حذف کرد
• Muse Spark 1.3 بهترین مدل بازار نیست ولی Muse به گفتهٔ تامسون بهترین ایجنت شخصیه
• طبق اصلاحیهٔ مقاله، Anthropic با احتساب هزینهٔ آموزش هم سودآوره
• تامسون معتقده کند کردن فرانتیر ریسک امنیت سایبری رو بیشتر می‌کنه