Google оперативно закрыла критическую уязвимость в своих ИИ-инструментах, которая позволяла сторонним лицам получать доступ к конфиденциальным диалогам пользователей. Проблема была обнаружена исследователями безопасности и затрагивала механизмы обработки запросов в корпоративных ИИ-решениях компании. Уязвимость создавала риск несанкционированного доступа к истории переписки, что потребовало немедленного обновления систем безопасности для защиты корпоративных данных.
Инцидент стал следствием ошибки в логике взаимодействия ИИ-агентов с внутренними API, что при определенных условиях приводило к раскрытию данных, предназначенных только для авторизованных пользователей. Исследователи из компании Varonis продемонстрировали, как злоумышленник мог манипулировать запросами к чат-боту, чтобы обойти ограничения доступа и извлечь информацию из закрытых сессий. Это подчеркивает растущие риски безопасности при интеграции генеративных моделей в бизнес-процессы.
Google подтвердила получение отчета об уязвимости и внедрила исправления, ограничивающие возможности несанкционированного доступа к данным через агентные интерфейсы. Компания также пересмотрела протоколы проверки прав доступа для всех ИИ-сервисов, использующих API для взаимодействия с пользовательскими данными. Данный случай демонстрирует необходимость более строгой проверки прав доступа (RBAC) при развертывании агентных систем в корпоративной среде.
Ключевые факты
- Уязвимость позволяла перехватывать конфиденциальные данные из диалогов с ИИ-агентами Google.
- Исследователи Varonis обнаружили, что манипуляция запросами позволяла обходить стандартные механизмы аутентификации.
- Google оперативно выпустила патч, закрывающий возможность несанкционированного доступа к API.
- Инцидент затронул корпоративные ИИ-решения, использующие интеграцию с внутренними системами хранения данных.