Аналитики Epoch AI зафиксировали резкий рост числа серьезных уязвимостей в программном обеспечении, коррелирующий с выходом модели Claude Mythos Preview. Исследование показывает, что интеграция новых мощных ИИ-систем в процессы разработки может непреднамеренно способствовать созданию небезопасного кода, требуя пересмотра подходов к безопасности при внедрении генеративных инструментов в производственные циклы.
Исследователи проанализировали динамику CVE (Common Vulnerabilities and Exposures) и обнаружили, что после публичного доступа к модели количество обнаруженных критических багов в проектах, активно использующих ИИ-ассистентов, значительно превысило исторические средние показатели. Это указывает на то, что разработчики, полагающиеся на генеративные модели, могут чаще допускать ошибки в архитектуре безопасности или внедрять уязвимые паттерны, которые модели предлагают как «оптимальные» решения.
Данная тенденция ставит под сомнение текущие методы автоматизированного аудита кода. Если ИИ-модели сами становятся источником системных уязвимостей, компаниям необходимо внедрять дополнительные уровни верификации и статического анализа, которые не зависят от тех же LLM, что использовались при написании кода. Проблема требует внимания не только со стороны разработчиков, но и со стороны команд, отвечающих за кибербезопасность инфраструктуры.
Ключевые факты
- Исследование проведено аналитическим центром Epoch AI на основе данных о регистрации новых CVE.
- Зафиксирован статистически значимый всплеск критических уязвимостей сразу после релиза Claude Mythos Preview.
- Основная часть уязвимостей связана с небезопасными паттернами проектирования, предложенными ИИ-ассистентами.
- Аналитики подчеркивают необходимость внедрения независимых инструментов проверки безопасности при использовании LLM в разработке.