Исследователи продемонстрировали, как использование генеративного ИИ в связке с картографическими данными Google Earth позволяет создавать убедительные, но полностью вымышленные визуализации реальных локаций. С помощью текстовых промптов пользователи могут генерировать изображения, имитирующие последствия военных конфликтов или гуманитарных кризисов, что создает серьезные угрозы для распространения дезинформации и манипуляции общественным мнением через поддельные спутниковые снимки.
Проблема заключается в способности нейросетей накладывать сгенерированные объекты на реальную географическую подложку, что стирает грань между верифицируемыми данными и галлюцинациями модели. В ходе экспериментов были созданы изображения, имитирующие воронки от бомб рядом с медицинскими учреждениями в секторе Газа и скопления беженцев на границе Мексики. Подобные манипуляции ставят под сомнение достоверность визуальных доказательств, полученных из открытых геоинформационных систем.
Google отреагировала на инцидент, подчеркнув, что компания активно работает над внедрением защитных механизмов, предотвращающих создание вредоносного контента. Тем не менее, эксперты указывают на системную уязвимость инструментов, которые позволяют пользователям свободно интерпретировать и дополнять картографические данные с помощью генеративных алгоритмов без должной верификации источника.
Ключевые факты
- Исследователь Хенк ван Эсс из Digital Digging продемонстрировал создание фейковых изображений, используя возможности ИИ-генерации внутри Google Earth.
- В качестве примеров были сгенерированы визуализации «беженцев на мексиканской границе» и «воронок от бомб у больницы в Газе».
- Google заявила о начале работы над усилением политик безопасности для предотвращения злоупотреблений генеративными функциями в своих картографических сервисах.
- Основной риск заключается в использовании ИИ для создания «доказательств» событий, которые не происходили в реальности, с привязкой к точным географическим координатам.