صداهای هوش مصنوعی مثل Dessa و خطر تماس‌های کلاهبرداری
هوش مصنوعیخلاصهٔ کامل‌تر
مقاله‌ای از MindStudio می‌گه مدل‌های صوتی جدیدی مثل Dessa تقریباً حتماً کلاهبرداری تلفنی رو بدتر می‌کنن، البته اگه از محیط دموی کنترل‌شده بیرون بیان. Dessa رو یه آزمایشگاه تحقیقاتی داخل شرکت Block (شرکت Jack Dorsey) ساخته. صداش وسط جمله می‌خنده، طبیعی حرف رو قطع می‌کنه و لحظه‌ای واکنش نشون می‌ده، درست مثل یه آدم پشت تلفن.
بیشتر دستیارهای صوتی سه مرحله دارن: صدا رو به متن تبدیل می‌کنن، متن رو به یه مدل زبانی می‌دن و جواب رو دوباره صدا می‌کنن. این وسط لحن و احساس و زمان‌بندی از دست می‌ره و گفت‌وگو مثل بی‌سیم نوبتی میشه. Dessa یه مدل speech-to-speech هست، یعنی صدا مستقیم می‌ره تو و صدا میاد بیرون، بدون مرحله متن. full duplex هم هست، یعنی می‌تونه همزمان گوش بده و حرف بزنه.
به گفته Block، این مدل از صفر و فقط با ضبط مکالمه‌های واقعی آدم‌ها آموزش دیده، بدون هیچ متن یا مدل زبانی آماده، و خیلی کمتر از یه LLM معمولی داده لازم داشته. نویسنده می‌گه این مهمه، چون مکث، شروع‌های اشتباه، حرف همزمان و خنده‌های ناخودآگاه فقط تو گفت‌وگوی واقعی هستن. یعنی مدل دقیقاً همون نشونه‌هایی رو یاد می‌گیره که ما باهاش تشخیص می‌دیم طرف آدمه یا نه.
نویسنده معتقده کلاهبرداری تلفنی به دو چیز وابسته‌ست: صدای قابل اعتماد و ادامه دادن طبیعی گفت‌وگو زیر فشار. الان خیلی از این تماس‌ها به‌خاطر صدای رباتی یا تأخیر لو می‌رن. نمونه‌ش «کلاهبرداری نوه» هست که یکی به سالمند زنگ می‌زنه و خودش رو نوه گرفتار جا می‌زنه. اگه voice cloning (یعنی کپی صدای یه آدم خاص از یه نمونه کوتاه) هم اضافه بشه، کلاهبرداری خیلی هدفمندتر میشه. تماس جعلی بانک و پشتیبانی هم همین‌طوره و چون مدل می‌تونه چندین تماس همزمان رو بدون خستگی بگیره، اقتصاد این کار هم عوض میشه.
ابزارهای تشخیص و watermark صوتی وجود دارن، ولی نویسنده دو مشکل می‌بینه. اول اینکه یه مسابقه بی‌پایان بین تشخیص و مدل‌های بهتره. دوم اینکه تشخیص فقط وقتی کار می‌کنه که کسی موقع تماس اجراش کنه، و تلفن خونه یه مادربزرگ هیچ آشکارسازی نداره. پس برای بیشتر تماس‌ها، تنها فیلتر قضاوت خود شنونده‌ست.
فعلاً Dessa عمومی نیست. دسترسی با لیست انتظار و اول برای پژوهشگرهای ایمنی AI هست و API، وزن‌های مدل یا قیمتی منتشر نشده. ولی نویسنده می‌گه وقتی یه قابلیت تو AI نشون داده بشه، رقبا و پروژه‌های متن‌باز معمولاً زود می‌رسن. به نظرش این یه دسته جدید کلاهبرداری نیست، بلکه یه ارتقای جدی برای قدیمی‌ترین ترفند، یعنی صدای قابل اعتماده.
نکات کلیدی:
- Dessa یه مدل full-duplex و speech-to-speech از شرکت Block هست که مرحله تبدیل به متن نداره.
- فقط با ضبط مکالمه‌های واقعی آموزش دیده، نه متن.
- Dessa هنوز عمومی نیست: API، وزن مدل و قیمت منتشر نشده و دسترسی فقط با لیست انتظار برای پژوهشگرهای ایمنی هست.
- ابزارهای تشخیص و watermark صوتی روی بیشتر خط‌های تلفن معمولی اجرا نمی‌شن.
- سالمندها به‌خاطر آشنایی کمتر با صداهای جدید AI بیشتر در خطرن.
