گوگل ابزار ساخت تصویر ماهوارهای با AI رو جمع کرد
هوش مصنوعی
گوگلخلاصهٔ کاملتر
گوگل پنجشنبه تو گوگل ارث قابلیتی رو معرفی کرد که باهاش میشد روی هر نقطه از نقشه زوم کرد، دکمهٔ create image رو زد و هر صحنهای که دوست داری روی تصویر ماهوارهای ساخت. یه روز بعد شرکت اعلام کرد داره این قابلیت رو برمیداره؛ به گفتهٔ گوگل، کاربرها اسکرینشاتهایی از خروجیها منتشر کرده بودن که ظاهراً خلاف سیاستهای شرکت بوده و تا وقتی گاردریل قویتری پیاده نشه، فعلاً خبری از این ابزار نیست.
تو گزارش NPR اومده که ساختن این جعلها چقدر راحت بوده. هنک وناس، پژوهشگر منابع باز که اولین بار دربارهٔ خطر این ابزار نوشت، میگه پناهجو تو مرز مکزیک، نیروگاه هستهای تو ایران، سقوط تو آمستردام و بیمارستان بمبارانشده تو غزه رو امتحان کرده و هیچکدوم رد نشده. خود NPR هم تونسته تصویر آتشگرفتن جزیرهٔ خارک و سیلزدگی مجموعهٔ کنگرهٔ آمریکا رو بسازه؛ دو اتفاقی که اصلاً رخ ندادن.
چرا این موضوع مهمه؟ تو دنیایی که پر از دیپفیک شده، تصویر ماهوارهای یکی از معدود مرجعهایی بوده که تشخیص واقعی از جعلی رو ممکن میکرده. جیک گودین، پژوهشگر ارشد بلینگکت، میگه عکس ماهوارهای همیشه گزینهٔ امنی برای راستیآزمایی بوده، چون معمولاً دست شرکتها و نهادهاست و جعلش سخته. به گفتهٔ او جعل ماهوارهای قبلاً هم دیده شده — مثل تصویرهای ساختگی از آسیب به یه پایگاه آمریکایی تو بحرین — ولی یهکلیکیشدنش سرعت انتشارش رو چند برابر میکنه.
گودین نگرانه که نتیجهاش فقط پخش عکس جعلی نباشه: به گفتهٔ او اطلاعات غلط همیشه دورتر و سریعتر از تصحیحش میره، و از این به بعد دولتها هم راحتتر میتونن تصویرهای واقعی رو جعلی بخونن. گوگل تو پستی تو ایکس گفته موضوع اطلاعات نادرست رو جدی میگیره، همهٔ تصویرها واترمارک SynthID دارن و ساخت تصویر روی موضوعهای حساس بلاک میشه. وناس ولی قانع نشده و میگه مشکل اینه که جعل داره دقیقاً داخل همون ابزاری ساخته میشه که مردم باهاش صحت عکسها رو چک میکنن.
نکات کلیدی:
- گوگل قابلیت ساخت تصویر ماهوارهای با هوش مصنوعی رو یه روز بعد از عرضه تو گوگل ارث غیرفعال کرد
- تستها نشون داد ساخت صحنههای جعلی مثل آتشسوزی و سیل تقریباً بدون محدودیت ممکن بوده
- عکس ماهوارهای تا حالا ستون راستیآزمایی خبر بوده و این ابزار همون اعتماد رو تهدید میکنه
- گوگل به واترمارک SynthID و فیلتر موضوعهای حساس اشاره کرده، ولی جامعهٔ اوسینت قانع نشده
