Исследователи обнаружили, что тысячи диалогов пользователей с ИИ-моделью Claude оказались в открытом доступе из-за уязвимости в функции обмена ссылками. Проблема заключалась в том, что поисковые системы индексировали уникальные URL-адреса, которыми пользователи делились с другими, что позволяло посторонним просматривать конфиденциальную переписку, содержащую личные данные, рабочие документы и программный код.
Инцидент затронул механизм «Shared Chats», который позволяет пользователям создавать публичные ссылки для демонстрации результатов работы нейросети. Оказалось, что при определенных настройках индексации поисковики могли находить эти ссылки, даже если пользователь не публиковал их в открытых источниках. Это ставит под угрозу приватность корпоративных пользователей, которые часто используют чат-ботов для анализа внутренних данных компании.
Разработчик модели, компания Anthropic, уже внесла изменения в настройки безопасности, добавив инструкции для поисковых роботов (robots.txt), запрещающие индексацию страниц с общими чатами. Тем не менее, инцидент подчеркивает риски использования облачных ИИ-сервисов для обработки чувствительной информации, требующей строгого контроля доступа и защиты от случайного раскрытия данных.
Ключевые факты
- Уязвимость позволяла поисковым системам индексировать уникальные ссылки на чаты Claude.
- Доступ к переписке могли получить любые пользователи интернета через поисковую выдачу.
- В открытом доступе оказались данные, содержащие конфиденциальную бизнес-информацию и личные сведения.
- Anthropic обновила протоколы индексации, чтобы предотвратить дальнейшее попадание ссылок в поисковую выдачу.
- Инцидент затронул функцию «Shared Chats», предназначенную для обмена результатами работы с ИИ.