Respectify میخواد بخش کامنتها رو قابل تحمل کنه
هوش مصنوعیClaude Opus 5خلاصهٔ کاملتر
سایت Respectify خودشو ابزاری معرفی میکنه برای نگه داشتن بحث سالم تو بخش نظرات سایتها، با این شعار که خیالت راحت باشه و کامنتها رو باز بذار. ایدهٔ اصلیش اینه که کامنت بد رو قبل از منتشر شدن بگیره، به کاربر توضیح بده مشکل کجاست، و بهش فرصت بده متنو ویرایش کنه و دوباره بفرسته. تو معرفی محصول اومده که این سرویس فقط نقش moderator (یعنی همون کسی که کامنتها رو تایید یا رد میکنه) رو بازی نمیکنه و همزمان به کاربر یاد هم میده. خودشون هم قبول دارن که همه گوش نمیدن، ولی بعضیها میدن.
نمونهای که روی سایت گذاشتن این شکلیه: کاربر یه جمله مینویسه که توش یه گروه رو یککاسه میکنه و بهشون توهین میکنه. سرویس دو تا ایراد جدا برمیگردونه. اول اینکه استدلالش یه مغالطهٔ منطقی (logical fallacy، یعنی حرفی که ظاهرش درست به نظر میرسه ولی وقتی دقیق نگاه کنی سرهم نمیشه) داره چون همه رو مثل هم فرض کرده. دوم اینکه یه عبارت خاصش بیاحترامیه و کلیشه میسازه. بعدش مودبانه ازش میخواد با توجه به این بازخورد کامنتشو اصلاح کنه.
خروجی API یه ساختار JSONه که برای هر کامنت چند چیزو جدا میده: عبارتهای توهینآمیز همراه با توضیح و پیشنهاد بازنویسی، جملههایی با لحن منفی، فهرست مغالطهها، یه پرچم برای کامنتهای بیزحمت، و یه امتیاز کلی. یعنی تصمیم نهایی دست خود سایته و میتونه هر کدوم از اینها رو جور دیگهای هندل کنه.
از نظر تنظیمات چند تا قابلیت جدا داره. میتونی بخوای کامنتها فقط دربارهٔ موضوع همون صفحه بمونن، میتونی خودت فهرست چیزهای غیرمجاز رو تعریف کنی (مثلا حرفهای بهظاهر خیرخواهانهای که مدام تکرار میشن)، و میتونی جلوی dog whistle ها رو بگیری، یعنی جملههایی که برای بیشتر آدمها عادی به نظر میرسه ولی برای یه گروه خاص معنی دیگهای داره. خودشون تاکید میکنن تنظیماتش دو حالته نیست و درجهبندی داره.
برای اسپم هم سراغ بلکلیست و کپچا نرفتن. به گفتهٔ سازنده، مدل هوش مصنوعی متن و قصد کامنتو میفهمه و همین باعث میشه اسپمهای پیچیدهتری که روشهای سنتی از دست میدن هم گیر بیفتن، بدون اینکه کاربر واقعی اذیت شه. برای کسایی که الان از Perspective گوگل استفاده میکنن هم یه صفحهٔ جدا گذاشتن و میگن جابهجا شدن بهش تقریبا بدون تغییر کده.
نکات کلیدی:
- بررسی کامنت قبل از انتشار، نه حذف بعد از انتشار
- خروجی JSON شامل عبارت توهینآمیز، لحن منفی، مغالطهٔ منطقی، پرچم کامنت بیزحمت و امتیاز کلی
- تشخیص dog whistle و خارج شدن کامنت از موضوع صفحه، با فهرست غیرمجازهای قابل تعریف
- تشخیص اسپم با مدل هوش مصنوعی به جای بلکلیست و کپچا
- برای کاربرهای Perspective گوگل بهعنوان جایگزین تقریبا مستقیم معرفی شده
