‏عقب‌نشینی Anthropic از سیاستی که کار محققان رو خراب می‌کرد

به گزارش Engadget، شرکت Anthropic داره از سیاستی عقب‌نشینی می‌کنه که بی‌سروصدا کار محققان رو سخت می‌کرد. ماجرا برمی‌گرده به مدل جدید Claude Fable 5 که بر پایهٔ سیستم قدرتمند Mythos ساخته شده. شرکت به Wired گفته: «ما داریم محافظ‌های Fable 5 برای توسعهٔ مدل‌های پیشرفته رو شفاف می‌کنیم. تعادل رو درست برقرار نکردیم و بابتش عذرخواهی می‌کنیم.»

بعد از عرضهٔ Fable 5، محققان متوجه یه چیز عجیب شدن. این مدل وقتی ازش می‌خواستن بعضی کارها رو انجام بده، بی‌سروصدا درخواست رو به یه مدل ضعیف‌تر منتقل می‌کرد (reroute) و این محدودیت هم اصلاً تو مستندات مدل ذکر نشده بود.

به گفتهٔ نویسنده، مدل برای کارهایی مثل آموزش مدل‌های زبانی رقیب، دیباگ کردن کد مربوط به هوش مصنوعی و بهینه‌سازی معماری شبکهٔ عصبی یا کلاً پاسخ نمی‌داد یا کیفیت جوابش رو پایین می‌آورد. چیزی که محققان رو ناراحت کرد فقط این افت کیفیت نبود، بلکه نبود شفافیت Anthropic دربارش بود. ضمن این‌که اونا برای مدلی که اون کاری که انتظار داشتن رو نمی‌کرد، توکن و پول سوزونده بودن.

Anthropic همیشه خودش رو به عنوان یه جایگزین اخلاقی‌تر و دوستدارتر برای پژوهشگرها در مقابل OpenAI معرفی کرده، برای همین این رفتارش با Fable 5 خیلی سریع واکنش منفی به همراه داشت. یکی از پژوهشگرها این کارو «به‌طرز عجیبی خصمانه» و یه حرکت خیلی بد توصیف کرد.

نکتهٔ مهم اینه که Anthropic خود سیاست محافظتی روی Fable 5 رو برنمی‌داره، بلکه فقط محدودیت‌ها رو برای کاربر قابل دیدن می‌کنه. به نوشتهٔ Wired، اگه شرکت شک کنه کاربری داره از Claude برای ساختن یه هوش مصنوعی خیلی توانمند استفاده می‌کنه، بهش هشدار می‌ده که یا درخواست رو رد می‌کنه یا کاربر رو به یه مدل کم‌توان‌تر منتقل می‌کنه — این بار با اطلاع خودش.

نکات کلیدی:

• مدل Claude Fable 5 بی‌سروصدا درخواست‌های حساس رو به یه مدل ضعیف‌تر منتقل می‌کرد
• این محدودیت تو مستندات مدل اعلام نشده بود و باعث واکنش جامعهٔ پژوهشی شد
• کارهای تحت تأثیر: آموزش مدل‌های رقیب، دیباگ کد هوش مصنوعی، بهینه‌سازی معماری شبکهٔ عصبی
• Anthropic محدودیت رو برنمی‌داره ولی از این به بعد شفاف اعلامش می‌کنه و عذرخواهی کرده