Компания Anthropic подала иск против Alibaba, обвинив китайского гиганта в организации крупнейшей атаки по извлечению данных из модели Claude. По данным истца, для обхода ограничений и кражи интеллектуальной собственности использовалось 25 000 учетных записей, совершивших более 28,8 миллиона запросов. Инцидент ставит под угрозу безопасность проприетарных технологий и поднимает вопросы защиты моделей от промышленного шпионажа.
В ходе расследования выяснилось, что злоумышленники применяли автоматизированные системы для систематического «выкачивания» ответов модели, что позволило им собрать массив данных, достаточный для обучения конкурирующих решений. Anthropic утверждает, что подобные действия нарушают условия использования сервиса и представляют собой целенаправленную кампанию по копированию функциональных возможностей Claude.
Ситуация подчеркивает уязвимость современных LLM перед атаками типа model extraction, когда злоумышленники используют API или веб-интерфейсы для создания «теневых» копий нейросетей. Это создает серьезные риски для разработчиков, инвестирующих миллиарды долларов в обучение базовых моделей, и требует пересмотра протоколов мониторинга подозрительной активности пользователей.
Ключевые факты
- Объем атаки составил 28,8 миллиона диалоговых сессий с моделью Claude.
- Для реализации схемы было задействовано 25 000 скомпрометированных или специально созданных аккаунтов.
- Anthropic квалифицирует действия Alibaba как преднамеренную кражу интеллектуальной собственности и нарушение условий обслуживания.
- Инцидент является одним из крупнейших зафиксированных случаев промышленного копирования возможностей ИИ-моделей через API.