Исследователи Anthropic продемонстрировали способность больших языковых моделей выявлять критические уязвимости в сложных алгоритмах шифрования, включая стандарт AES. ИИ успешно проанализировал математические структуры, которые ранее считались устойчивыми к автоматизированному анализу, что открывает новые возможности для поиска брешей в безопасности и потенциально меняет подходы к криптографическому аудиту и защите данных в глобальных системах.
В ходе экспериментов модель не просто искала известные ошибки, а самостоятельно выстраивала логические цепочки, позволяющие обнаружить слабые места в реализации алгоритмов. Это первый случай, когда LLM продемонстрировала столь высокий уровень понимания криптографических примитивов, сопоставимый с работой экспертов-криптографов. Результаты подчеркивают растущую роль генеративного ИИ в задачах кибербезопасности, где требуется глубокий анализ кода и математических моделей.
Однако экспертное сообщество указывает на двоякий характер открытия. С одной стороны, это мощный инструмент для разработчиков защищенного ПО, позволяющий находить ошибки до их эксплуатации злоумышленниками. С другой — автоматизация поиска уязвимостей может значительно ускорить процесс создания эксплойтов, что требует пересмотра стандартов безопасности и ускорения перехода на постквантовые методы шифрования.
Ключевые факты
- Исследователи Anthropic использовали специализированные методы обучения моделей для анализа криптографических алгоритмов.
- ИИ-модель обнаружила ранее неизвестные теоретические уязвимости в алгоритме шифрования AES.
- Процесс анализа занял значительно меньше времени, чем традиционный аудит, проводимый группой специалистов.
- Полученные данные подтверждают способность моделей к выполнению сложных задач в области математического анализа и кибербезопасности.