‏آنتروپیک محتوای Claude رو واترمارک می‌کنه

بر اساس گزارش The Register و یه مقالهٔ پشتیبانی که آنتروپیک منتشر کرده، این شرکت قراره توی متن و تصویرهایی که مدل‌های Claude تولید می‌کنن یه واترمارک نامرئی جاسازی کنه. این تغییر هم خود سری مدل‌ها رو شامل می‌شه هم سرویس‌هایی که روی این مدل‌ها کار می‌کنن.

انگیزهٔ اصلی، هماهنگ شدن با قانون هوش مصنوعی اتحادیهٔ اروپاست. این قانون یه بخش داوطلبانه به اسم Code of Practice داره که آنتروپیک امضاش کرده و ارائه‌دهنده‌های مدل رو موظف می‌کنه محتوای تولیدشده با هوش مصنوعی رو علامت‌گذاری کنن. OpenAI هم همین تعهد رو امضا کرده، پس احتمالاً به‌زودی سراغ واترمارک متن می‌ره.

طبق اعلام شرکت، واترمارک متن از مدل‌هایی که بعد از ۲ اوت منتشر شدن شروع می‌شه و بعداً به مدل‌های قدیمی‌تر هم می‌رسه. این نشان نامرئیه، موقع کپی شدن توی برنامه‌های دیگه از بین نمی‌ره و ممکنه بعد از ویرایش هم سر جاش بمونه. آنتروپیک توضیح نداده دقیقاً چطور کار می‌کنه، ولی نویسندهٔ مقاله اشاره می‌کنه که یه پژوهش گوگل دیپ‌مایند در ۲۰۲۴ روشی رو توصیف کرده که با دستکاری انتخاب کلمه‌های مدل، متن رو قابل تشخیص می‌کنه؛ شاید روش آنتروپیک هم شبیه همون باشه.

برای تصویرها ماجرا فرق می‌کنه: اون‌جا از C2PA استفاده می‌شه که یه فایل متادیتا کنار تصویر می‌ذاره و توش می‌نویسه کدوم مدل، کِی و با چه محدودیت کپی‌رایتی اون رو ساخته. C2PA برای جلوگیری از دستکاری، از متادیتا هش می‌گیره و می‌تونه تشخیص بده کسی کل فایل متادیتا رو عوض کرده یا نه. فرمت‌های JPG، PNG و SVG توی این طرح ذکر شدن.

آنتروپیک قراره ابزارهایی هم بده که تشخیص محتوای ساخته‌شده با Claude راحت‌تر بشه، ولی خودش هشدار داده این فناوری بی‌نقص نیست و ممکنه واترمارک رو توی متن‌های کوتاه یا متن‌هایی که زیاد ویرایش شدن پیدا نکنه.

نکات کلیدی:

• واترمارک متن از مدل‌های بعد از ۲ اوت شروع می‌شه و بعداً به مدل‌های قدیمی‌تر می‌رسه
• نشان متنی نامرئیه و بعد از کپی و حتی ویرایش هم ممکنه باقی بمونه
• تصویرها با C2PA و متادیتای ضدِ دستکاری علامت‌گذاری می‌شن (JPG، PNG، SVG)
• محرک اصلی، بخش داوطلبانهٔ قانون هوش مصنوعی اتحادیهٔ اروپاست
• خود شرکت می‌گه تشخیص روی متن کوتاه یا خیلی ویرایش‌شده قابل اتکا نیست