Исследователи обнаружили критическую уязвимость Cross-Vendor Semantic Void Matrix, затрагивающую ведущие языковые модели, включая GPT, Claude, Gemini и Kimi. Атака позволяет принудительно переводить ИИ-системы в состояние «нулевого вывода», при котором модель перестает генерировать осмысленные ответы, фактически блокируя работу сервиса через специфические семантические манипуляции с входными данными.
Данная проблема носит фундаментальный характер и связана с тем, как архитектуры трансформеров обрабатывают определенные последовательности токенов, вызывающие «семантическую пустоту». В отличие от классических методов взлома (jailbreak), направленных на обход цензуры, этот метод эксплуатирует внутренние механизмы обработки контекста, заставляя модель игнорировать инструкции и возвращать пустые или некорректные результаты. Уязвимость была протестирована на проприетарных API и подтвердила свою эффективность в различных сценариях взаимодействия.
Результаты исследования подчеркивают необходимость пересмотра методов фильтрации входных данных и укрепления устойчивости моделей к состязательным атакам на уровне токенизации. Разработчикам систем, использующих LLM в критических бизнес-процессах, рекомендуется учитывать риск подобных отказов в обслуживании при проектировании систем мониторинга и обработки ошибок.
Ключевые факты
- Уязвимость затрагивает GPT (OpenAI), Claude (Anthropic), Gemini (Google) и Kimi (Moonshot AI).
- Метод Cross-Vendor Semantic Void Matrix вызывает состояние «нулевого вывода», блокируя генерацию контента.
- Атака основана на подаче специфических последовательностей токенов, вызывающих сбой в семантической обработке.
- Исследование опубликовано на платформе Zenodo и демонстрирует кросс-платформенный характер проблемы.
- Уязвимость классифицируется как новый тип состязательной атаки, направленной на нарушение доступности ИИ-сервисов.