Google оперативно закрыла доступ к новой функции в Google Earth, позволявшей пользователям накладывать сгенерированные нейросетью изображения на реальные спутниковые карты. Решение было принято спустя сутки после запуска из-за массовой критики: эксперты и пользователи предупредили, что инструмент может стать мощным каналом для создания и распространения визуальной дезинформации и фейковых данных о географических объектах.
Функционал был представлен как способ визуализации изменений ландшафта или проектирования объектов, однако отсутствие строгих фильтров модерации позволило пользователям создавать реалистичные, но полностью вымышленные сцены. Инцидент подчеркивает растущие риски использования генеративных моделей в картографических сервисах, где доверие к визуальной достоверности данных является критически важным для навигации и аналитики.
Компания признала, что текущая реализация инструмента не соответствует стандартам безопасности, необходимым для предотвращения злоупотреблений. В данный момент доступ к генеративным слоям полностью приостановлен для проведения дополнительной проверки алгоритмов фильтрации контента и оценки потенциальных угроз, связанных с искажением реальности на глобальных картах.
Ключевые факты
- Функция была отключена через 24 часа после официального запуска.
- Основная претензия заключалась в возможности наложения ИИ-фейков на реальные спутниковые снимки.
- Google приостановила работу инструмента для доработки систем безопасности и модерации контента.
- Инцидент вызвал дискуссию о необходимости жесткого контроля над генеративным контентом в геоинформационных системах.