Google удалила инструмент Nano Banana 2 из сервиса Google Earth спустя всего два дня после запуска. Причиной стала легкость создания убедительных поддельных спутниковых изображений: пользователи с помощью простых текстовых запросов генерировали реалистичные сцены, включая несуществующие объекты на границах государств, что создало серьезные риски распространения дезинформации и манипуляции общественным мнением через визуальный контент.
Инцидент наглядно демонстрирует уязвимость генеративных моделей, работающих с картографическими данными, перед «атаками» через промпты. Возможность быстрого создания детализированных изображений местности, которые выглядят как реальные снимки со спутника, позволяет злоумышленникам моделировать кризисные ситуации или изменять ландшафт в пропагандистских целях. Это вынудило компанию экстренно ограничить доступ к функционалу для проведения дополнительной проверки безопасности.
Ситуация подчеркивает критическую важность внедрения жестких фильтров безопасности и механизмов верификации для инструментов, работающих с геопространственными данными. В отличие от генерации абстрактных картинок, создание фейковых спутниковых снимков напрямую влияет на восприятие реальности и может быть использовано для создания ложных доказательств в геополитических конфликтах.
Ключевые факты
- Модель Nano Banana 2 была отозвана из Google Earth через 48 часов после публичного релиза.
- Пользователи продемонстрировали возможность генерации фейковых колонн беженцев на пустых участках границы с помощью одного промпта.
- Основная претензия к инструменту заключалась в отсутствии эффективных ограничений на создание контента, имитирующего реальные спутниковые снимки.
- Инцидент стал примером того, как генеративные технологии могут быть использованы для создания убедительной визуальной дезинформации в картографических сервисах.