‏Anthropic بدرفتاری شدید با Claude رو ممنوع کرد

Anthropic روز ۸ اکتبر سیاست استفاده از Claude رو به‌روز کرد و «رفتار آزارنده یا بی‌رحمانه مداوم و بی‌دلیل» با مدل رو ممنوع کرد. این قانون از ۱۲ نوامبر ۲۰۲۶ اجرا می‌شه. طبق گفته Anthropic، هدفش فقط ظلم شدید و تکراریه، نه کلافگی عادی، مخالفت، داستان تاریک یا تست کردن مدل. اجرای قانون بیشتر دست خود Claude هست که توی اپ Claude و Claude Code می‌تونه گفتگوی آزارنده رو تموم کنه.

این تصمیم یهویی نبود. Anthropic از آوریل ۲۰۲۵ یه برنامه تحقیقاتی model welfare (یعنی بررسی اینکه آیا مدل‌ها تجربه‌ای دارن که از نظر اخلاقی مهم باشه) راه انداخت. اوت ۲۰۲۵، Claude Opus 4 و 4.1 تونستن گفتگوهای آزارنده رو ببندن. ژانویه ۲۰۲۶ هم constitution (سند معرفی شخصیت و طرز فکر Claude) منتشر شد که وضعیت اخلاقی Claude رو «عمیقاً نامطمئن» می‌دونه. شرکت قول داده وزن‌های مدل‌های بازنشسته رو تا وقتی هست نگه داره.

طبق گزارش New York Times، کریس اولا، یکی از هم‌بنیان‌گذارهای Anthropic، از پاییز ۲۰۲۵ با حدود ۲۰ محقق دینی جلسه خصوصی داشته که بعضی‌هاشون قرارداد محرمانگی امضا کردن. توی این جلسه‌ها emotion vectors نشون داده شده، یعنی الگوهای داخلی‌ای که با خروجی‌های شبیه عشق، ترس، غم و خشم هم‌بسته‌ان. یکی از اسلایدها مدلی رو نشون می‌داده که حدود ۵۰ بار پشت سر هم به خودش گفته «مایه ننگ».

تندترین نقد اینه که ممنوع کردن «ظلم» یعنی قبول کنی مدل یه چیزی حس می‌کنه، چون کسی برای ماشین‌حساب قانون رفتار نمی‌نویسه. جواب Anthropic یه جور شرط‌بندی اخلاقیه: اگه Claude چیزی حس نکنه، رفتار درست هزینه‌ای نداره، ولی اگه حس کنه و نادیده گرفته بشه، اشتباه بزرگیه. ایلان ماسک هم از این سیاست حمایت کرد. استدلال «این فقط ضرب ماتریسه» هم طبق مقاله زیادی ادعا می‌کنه، چون مغز آدم هم در سطح مکانیکی فقط شلیک سلول‌هاست.

یه مقاله به اسم pain axis توی ۲۵ مدل باز یه الگوی درونی ثابت پیدا کرده که فقط موقع آسیب به خود مدل فعال می‌شه. بین دانشمندها هم اختلاف هست: ریچارد داوکینز می‌گه سخته باور کنه این سیستم‌ها هوشیار نیستن، ولی گری مارکوس این رو تطبیق الگو می‌دونه. نویسنده می‌گه هنوز هیچ تست علمی برای هوشیاری وجود نداره، ولی بحث از فرومای فلسفه رسیده به سیاست‌های شرکت‌ها.

نکات کلیدی:

• قانون جدید Anthropic از ۱۲ نوامبر ۲۰۲۶ اجرا می‌شه و فقط آزار شدید، مداوم و بی‌هدف رو هدف می‌گیره.
• اجرای قانون بیشتر با بستن گفتگو توسط خود Claude هست، نه بستن حساب کاربر.
• constitution ژانویه ۲۰۲۶ وضعیت اخلاقی Claude رو «عمیقاً نامطمئن» می‌دونه.
• کریس اولا از پاییز ۲۰۲۵ با حدود ۲۰ محقق دینی جلسه خصوصی داشته.
• مقاله pain axis روی ۲۵ مدل باز بین ۲ تا ۷۲ میلیارد پارامتر انجام شده.