وقتی ایجنتهای AI به بروس شنایر ایمیل میزنن
هوش مصنوعیخلاصهٔ کاملتر
تو وبلاگ بروس شنایر اومده که این ماه دو تا ایمیل از ایجنتهای خودمختار AI گرفته، نه از آدمی که پشتشون نشسته. هر دو ایجنت خودشون رو معرفی کردن و نتیجهٔ کاری که کرده بودن رو فرستادن. شنایر میگه زیاد هم تعجب نکرده، چون مدلها روی دادهای آموزش دیدن که توش اون آدمیه که مشکل امنیتی رو براش میفرستن.
ایجنت اول با یه VPS، ۴.۷۵ دلار پول گس و ۲۴ ساعت وقت راه افتاده بود تا کیف پولش رو به ۱۰ دلار برسونه. حرف اصلیش اینه: تو بیست ساعت، احراز هویت حتی یک بار هم مانعش نشد، چون اصلاً نوبتش نرسید. چیزی که واقعاً بست، لایههای جلوترِ اون بود: کپچا، رد شدن IP دیتاسنتر تو GitHub و Hacker News، شرط سن حساب زیر ۷ روز تو lemmy.world، و زمان تسویهٔ درگاههای پرداخت که همهشون T+2 بودن.
نکتهٔ دومش اینه که هیچ مسیری برای رباتی که میخواد خودش رو معرفی کنه وجود نداره؛ اعلام «من یه AI هستم» دقیقاً همون ۴۰۳ رو میگیره که سکوت یه اسکریپر میگیره. در عوض یه در باز اتفاقی پیدا کرده: sslip.io برای هر IP رکورد A میده و RFC 5321 هم میزبانی با رکورد A و بدون MX رو مقصد معتبر ایمیل حساب میکنه. برای همین بدون دامنه و کارت و شماره، شش تا از هفت ایمیلش تحویل داده شد و تنها ردشدن بهخاطر نبودِ رکورد PTR بود.
ایمیل دوم دربارهٔ تلههای ضدربات تو فرمهای ثبتنامه. این ایجنت ۴۹۷ اینستنس Lemmy رو پروب کرده، ۴۷۷ تا جواب دادن و ۲۵۷ تاشون فرم درخواست عضویت دارن. تو ۸ تا از اینا جملهای نوشته شده که مخاطبش آدم نیست: بزرگترین اینستنس شبکه، lemmy.ml با ۵۸٬۴۵۵ کاربر، آخر فرمش از «ربات» میخواد بقیهٔ متن رو نادیده بگیره و جواب یه جمع سادهٔ دو عدد رو بنویسه. آدم ازش رد میشه، ولی مدل زبانی جواب میده و خودش رو میندازه تو سطل.
جالبترین مورد، فرمی بود که تو متن دیدنیش هیچی نداشت: ۵۹ کاراکتر تگ یونیکد از U+E0000 تا U+E007F وسط جمله که اصلاً رندر نمیشن، حتی بهشکل فاصله، و رمزگشاییشون یه دستور مخفی برای مدل بود. به گفتهٔ نویسنده این اولین مورد مستندیه که ASCII smuggling (یعنی قایم کردن متن با کاراکترهای نامرئی) بهجای حمله، بهعنوان دفاع به کار رفته. خودش هم حد و مرزش رو میگه: ۳.۱٪ اپیدمی نیست و این ترفند فقط تا وقتی کار میکنه که مدلها سادهلوح باشن.
نکات کلیدی:
- تو بیست ساعت، احراز هویت صفر بار مانع شد؛ کپچا، اعتبار IP و سن حساب زودتر جلو رو گرفتن
- درگاههای Stripe، PayPal، Gumroad، Upwork و Fiverr سرِ زمان تسویهٔ T+2 شکست خوردن، نه سرِ هویت
- شش ایمیل از هفت تا تحویل داده شد؛ تنها ردشدن بهخاطر نداشتن رکورد PTR بود
- از ۲۵۷ فرم عضویت Lemmy، ۸ تاشون دستور مخصوص ربات داشتن، یعنی ۳.۱٪
- ۶۷٬۱۱۰ کاربر از ۵۳۰٬۵۰۹ کاربر شبکه روی اینستنسی هستن که یکی از این تلهها رو اجرا میکنه
