Исследователи Anthropic применили модель Claude Mythos для анализа математических алгоритмов, успешно выявив слабые места в протоколе HAWK и упрощенной версии шифра AES. Хотя найденные уязвимости не несут прямой угрозы современным компьютерным системам, эксперимент демонстрирует эффективность LLM в поиске теоретических брешей в криптографии и подчеркивает важность специфических стратегий промптинга при работе со сложными математическими задачами.
В ходе работы специалисты столкнулись с тем, что модели изначально склонны оценивать подобные задачи как невыполнимые. Для преодоления этого барьера исследователи использовали итеративный подход, направляя модель через цепочки рассуждений и пошаговую проверку математических доказательств. Публикация включает детальные примеры промптов, которые позволили ИИ выйти за рамки стандартных ответов и провести глубокий анализ криптографических конструкций.
Результаты исследования показывают, что при правильной постановке задачи современные языковые модели способны выступать в роли ассистентов для поиска математических ошибок. Это открывает новые возможности для автоматизированного аудита алгоритмов, где ИИ может выступать как инструмент первичного анализа, помогая исследователям быстрее находить потенциальные уязвимости в новых или менее изученных криптографических схемах.
Ключевые факты
- Исследователи использовали модель Claude Mythos для поиска математических flaws.
- Анализу подверглись протокол HAWK и упрощенная версия алгоритма AES.
- Выявленные уязвимости носят теоретический характер и не влияют на безопасность текущих систем.
- Ключевым фактором успеха стали специфические промпты, помогающие модели преодолеть предвзятость о невозможности решения задачи.
- Исходный код и примеры промптов опубликованы в открытом репозитории для дальнейшего изучения.