Пользователи Anthropic обнаружили, что их приватные диалоги с чат-ботом Claude стали доступны через поисковую систему Google. Проблема возникла из-за отсутствия тега noindex на страницах с публичными ссылками на чаты. В индексацию попали конфиденциальные данные, включая ключи криптовалютных кошельков и юридическую переписку, что создало серьезные риски для безопасности пользователей.
Инцидент произошел из-за того, что механизм обмена ссылками на чаты не был защищен стандартными инструкциями для поисковых роботов. В результате поисковые системы проиндексировали содержимое страниц, которые должны были оставаться приватными и доступными только по прямой ссылке. Anthropic оперативно отреагировала на ситуацию, закрыв доступ к этим страницам для индексации после того, как информация получила огласку.
Подобные ошибки в настройках приватности уже случались в индустрии генеративного ИИ. Ранее аналогичная проблема наблюдалась у OpenAI, где публичные ссылки на чаты также индексировались поисковиками. Этот случай подчеркивает необходимость строгого соблюдения протоколов безопасности при разработке функций обмена контентом в ИИ-сервисах, чтобы предотвратить утечку чувствительных данных пользователей в открытый доступ.
Ключевые факты
- Приватные чаты Claude индексировались Google из-за отсутствия метатега noindex.
- В открытом доступе оказались конфиденциальные данные, включая ключи от криптовалютных кошельков.
- Anthropic подтвердила наличие проблемы и предприняла меры по удалению страниц из поисковой выдачи.
- Аналогичный инцидент с индексацией чатов происходил у OpenAI в прошлом году.