ChatGPT به محتوای صفحه اعتماد میکنه و خود صفحه میشه payload
هوش مصنوعییه پژوهشگر امنیتی نشون داده ChatGPT نمیتونه محتوای تولیدی خودش رو از مارکداون مخربی که از منابع بیرونی میخونه تشخیص بده. در نتیجه اگه کاربر بخواد یه صفحهی وب رو خلاصه کنه و اون صفحه دستورهای پنهان داشته باشه، خود صفحه به payload تبدیل میشه. مهاجم میتونه لینک فیشینگ تزریق کنه یا هشدار امنیتی جعلی به سبک خود ChatGPT نشون بده، حتی با یه QR code که حمله رو به موبایل قربانی منتقل میکنه.
این محتوا بهصورت خودکار با استفاده از هوش مصنوعی تولید شده است. بررسی نهایی آن پیش از استفاده توصیه میشود و مسئولیت استفاده از آن بهعهده کاربر است. برای مطالعه متن اصلی خبر،اینجا را کلیک کنید
خلاصهٔ کاملتر
طبق گزارش یه پژوهشگر امنیتی به اسم Andi Ahmeti از شرکت Permiso، ChatGPT نمیتونه محتوای تولیدی خودش رو از مارکداون کنترلشدهی مهاجم که از منابع بیرونی کشیده میشه تشخیص بده. معنیاش اینه که اگه کاربر از چتبات بخواد یه صفحهی وب رو که حاوی دستورهای پنهانه خلاصه کنه، خود اون صفحه به payload تبدیل میشه.
مهاجم میتونه از این اعتماد کور سوءاستفاده کنه و URLهای فیشینگ رو توی پاسخهای ChatGPT تزریق کنه، یا حتی مدل رو فریب بده تا هشدارهای امنیتی جعلی به سبک نوشتاری خود ChatGPT نشون بده. این پژوهشگر اسم این تکنیک رو ChatGPhish گذاشته و اون رو از طریق برنامهی افشای Bugcrowd به OpenAI گزارش کرده — هرچند مطمئن نیست که رفع شده باشه یا نه، چون OpenAI به سؤالها جواب نداده.
خلاصهٔ کاملتر این خبر رو میتونی با داشتن اشتراک ویژه بخونی!
اشتراک رایگان
- دسترسی به خلاصهٔ کوتاه خبر
- دسترسی به خلاصهٔ کامل/اختصاصی خبر + نکات کلیدی
- ارسال اخبار مورد علاقه به ایمیل شما
- ارسال اخبار مورد علاقه به تلگرام شما
- عدم نمایش تبلیغات
اشتراک ویژه
- دسترسی به خلاصهٔ کوتاه خبر
- دسترسی به خلاصهٔ کامل/اختصاصی خبر + نکات کلیدی
- ارسال اخبار مورد علاقه به ایمیل شما
- ارسال اخبار مورد علاقه به تلگرام شما
- عدم نمایش تبلیغات
