‏SynthID Detector گوگل برای همه باز شد، ولی همه‌چیز رو نمی‌گیره

طبق گزارش SiliconANGLE، گوگل ابزار SynthID Detector رو به‌صورت یه سرویس وب برای همه در دسترس گذاشته. این ابزار می‌تونه عکس، ویدیو و صدایی رو که با مدل‌های گوگل، OpenAI، Nvidia و Kakao ساخته شده تشخیص بده. برای استفاده باید با حساب Google، OpenAI یا Apple وارد بشی. گوگل گفته تا چند هفته‌ی دیگه تشخیص عکس‌های ساخته‌شده با ابزارهای اپل مثل Image Playground هم اضافه می‌شه.

خود SynthID رو گوگل سال ۲۰۲۳ ساخت. SynthID یه واترمارک نامرئیه (یعنی نشانه‌ای که چشم نمی‌بینه ولی نرم‌افزار می‌تونه پیداش کنه) که به محتوای تولیدشده با ابزارهای این شرکت‌ها اضافه می‌شه. مشکل این بود که برای دیدنش همیشه ابزار خاص لازم بود. گوگل قبلاً نسخه‌هایی از ابزار تشخیص رو فقط به خبرنگارها و رسانه‌ها داده بود. راه‌های دیگه‌ای مثل Circle to Search یا پرسیدن از Gemini هم بود، ولی حالا یه ابزار اختصاصی و عمومی هست.

نویسنده می‌گه این ابزار ضعف‌های جدی داره. چون فقط دنبال واترمارک SynthID می‌گرده، محتوای بدون این واترمارک رو خوب تشخیص نمی‌ده. Claude از Anthropic و Grok از xAI از SynthID استفاده نمی‌کنن، هیچ‌کدوم از مدل‌های open-weights چینی هم همین‌طور. یعنی بخش بزرگی از محتوای هوش مصنوعی از دستش در می‌ره.

ضعف دوم اینه که SynthID Detector نمی‌تونه فرق محتوایی که کامل با هوش مصنوعی ساخته شده رو با محتوایی که فقط با هوش مصنوعی ویرایش شده بفهمه. پس تو یه عکس ویرایش‌شده نمی‌گه کدوم بخشش واقعیه و کدوم بخشش ساختگی.

به گفته‌ی نویسنده، مشکل اصلی اینه که هر شرکت استاندارد واترمارک خودش رو داره. مثلاً Meta یه سیستم برای تشخیص عکس‌های Muse Image ساخته، ولی جلوی مدل‌های دیگه بی‌فایده‌ست. نویسنده معتقده تا وقتی همه‌ی سازنده‌های بزرگ، از جمله چینی‌ها، روی یه استاندارد مشترک توافق نکنن، راه قابل‌اعتمادی برای تشخیص نیست و گوگل بهترین موقعیت رو برای جلو بردن این استاندارد داره.

خود گوگل هم قبول داره که ساختن استاندارد صنعتی زمان می‌بره و عکس، صدا و ویدیو هر کدوم نیازهای فنی متفاوتی دارن. هدفش یه اکوسیستم چندلایه‌ست که توش واترمارک، استانداردهای metadata و ابزارهای تأیید کنار هم کار کنن.

نکات کلیدی:

• SynthID Detector عکس، ویدیو و صدای مدل‌های Google، OpenAI، Nvidia و Kakao رو تشخیص می‌ده
• ورود با حساب Google، OpenAI یا Apple لازمه
• پشتیبانی از Image Playground اپل تا چند هفته‌ی دیگه اضافه می‌شه
• محتوای Claude، Grok و مدل‌های open-weights چینی واترمارک SynthID ندارن و شناسایی نمی‌شن
• ابزار نمی‌تونه محتوای کامل ساختگی رو از محتوای فقط ویرایش‌شده جدا کنه