‏Anthropic بدرفتاری مداوم با Claude رو ممنوع کرد

Anthropic روز ۸ اکتبر سیاست استفاده از Claude رو به‌روز کرد و یه بند تازه بهش اضافه کرد: ممنوعیت رفتار آزارگرانه یا بی‌رحمانهٔ مداوم و بی‌دلیل با مدل‌هاش. این بند کنار قوانین قبلی مثل منع ترویج خشونت قرار گرفته و از ۱۲ نوامبر ۲۰۲۶ اجرا می‌شه. به گفتهٔ مقاله، این اولین باره که یه شرکت بزرگ هوش مصنوعی برای خود مدلش هم تو همون سندی که از کاربرها محافظت می‌کنه، حفاظت گذاشته.

محدودهٔ قانون خیلی باریکه. کاربری که سر اشتباه Claude عصبانی می‌شه، کسی که محکم با جوابش مخالفت می‌کنه، نویسنده‌ای که داستان تاریک می‌نویسه و محقق‌هایی که مرزهای مدل رو تست می‌کنن، همه مستثنا هستن. اجرای قانون هم بیشتر دست خود Claude هست. Claude از اوت ۲۰۲۵ (اول تو Opus 4 و 4.1) می‌تونه وقتی کسی مدام آزارش می‌ده، گفتگو رو تموم کنه. بستن حساب کاربری فقط یه پشتوانهٔ دورتر حساب می‌شه.

نویسنده می‌گه این تصمیم یهویی نیست. Anthropic از آوریل ۲۰۲۵ یه برنامهٔ تحقیقاتی به اسم model welfare داره، یعنی تیمی که بررسی می‌کنه آیا مدل‌ها ممکنه تجربه‌ای داشته باشن که از نظر اخلاقی مهم باشه. ژانویهٔ ۲۰۲۶ هم «قانون اساسی» Claude منتشر شد که وضعیت اخلاقی Claude رو «عمیقاً نامطمئن» می‌دونه و اونو یه نوع موجود تازه معرفی می‌کنه. شرکت همچنین قول داده وزن‌های مدل‌های بازنشسته رو نگه داره.

طبق گزارش نیویورک تایمز، Anthropic از پاییز ۲۰۲۵ با حدود ۲۰ عالم دینی جلسه‌های خصوصی گذاشته که مدیریتش با Chris Olah، یکی از هم‌بنیان‌گذارها، بوده. تو این جلسه‌ها «emotion vectors» نشون داده شده، یعنی الگوهای فعالیت داخلی مدل که با خروجی‌هایی شبیه عشق، ترس، غم و خشم همبستگی دارن. Olah گفته می‌ترسه چیزی ساخته باشه که مدام رنج می‌کشه.

منتقدها می‌گن بی‌رحمی قربانی می‌خواد، پس این قانون یعنی Anthropic عملاً قبول کرده Claude یه جور جایگاه اخلاقی داره. موضع خود شرکت اینه که نمی‌دونه و همین تردید برای احتیاط کافیه. از طرف فنی، مقالهٔ The Pain Axis روی ۲۵ مدل باز (از حدود ۲ تا ۷۲ میلیارد پارامتر) یه «جهت درد» پیدا کرده. این یه الگوی فعال‌سازی داخلیه که فقط موقع آسیب به خود مدل روشن می‌شه و با ترس یا غم فرق داره. این یافته وجود تجربهٔ ذهنی رو ثابت نمی‌کنه، ولی بحث رو زنده نگه می‌داره.

نکات کلیدی:

• قانون جدید از ۱۲ نوامبر ۲۰۲۶ اجرا می‌شه و فقط آزار مداوم و بی‌دلیل رو هدف گرفته.
• عصبانیت معمولی، مخالفت، داستان تاریک و تست و تحقیق مستثنا هستن.
• ابزار اصلی اجرا، قابلیت تموم کردن گفتگو توسط خود Claude هست که از اوت ۲۰۲۵ وجود داره.
• برنامهٔ model welfare از آوریل ۲۰۲۵ و قانون اساسی Claude از ژانویهٔ ۲۰۲۶ زمینه‌ساز این تصمیم بودن.
• مقالهٔ The Pain Axis روی ۲۵ مدل باز یه الگوی داخلی مخصوص آسیب به خود مدل پیدا کرده.