arXiv · 17.06.2026 ·Машинное обучение

OpenAnt: новый подход к автоматическому поиску уязвимостей в коде с помощью LLM

Исследователи представили OpenAnt — фреймворк для автоматизированного поиска уязвимостей в крупных репозиториях программного обеспечения. Система объединяет возможности больших языковых моделей с методами декомпозиции кода, состязательной верификации и динамического тестирования. Такой подход позволяет преодолеть ограничения традиционных инструментов статического анализа, которые часто выдают избыточное количество ложноположительных срабатываний, и динамических фаззеров, требующих сложной инфраструктуры.

Алгоритм работы OpenAnt строится на семантическом анализе поведения программы. На первом этапе система разбивает объемную кодовую базу на логические фрагменты, что позволяет модели эффективно обрабатывать контекст. Затем ИИ генерирует сценарии для проверки безопасности, которые проходят через цикл состязательной верификации. Это помогает отсеивать неактуальные угрозы еще до этапа исполнения кода.

Финальная стадия включает динамическое тестирование, где система проверяет найденные потенциальные уязвимости в реальных условиях эксплуатации. Интеграция LLM позволяет OpenAnt понимать сложные логические цепочки, которые обычно пропускают автоматизированные сканеры. Метод демонстрирует высокую точность обнаружения критических ошибок в коде, сокращая время на ручной аудит безопасности и снижая нагрузку на команды разработчиков.

Источник: arXiv

Похожие материалы

Hacker News · Инфраструктура для агентов Cursor открыла исходный код системы безопасности на базе ИИ-агентов Команда Cursor представила набор специализированных ИИ-агентов, предназначенных для автоматизации процессов обеспечения безопасности кода. Разработка призвана решить проблему рутинной проверки уязвимостей, с которой сталкиваются разработчики при работе с крупными кодовыми базами. Инструменты теперь доступны в открытом доступе, что позволяет интегрировать их в сторонние рабочие процессы для автоматического сканирования и исправления типичных ошибок безопасности. Hacker News · Безопасность и алайнмент OpenACA — сканер безопасности для стеков ИИ-агентов Разработчики представили OpenACA — инструмент для сканирования безопасности стеков ИИ-агентов. Платформа проверяет MCP-серверы, навыки и плагины на уязвимости, которые могут быть использованы злоумышленниками. arXiv · Безопасность и алайнмент Исследование уязвимости моделей Anthropic к автоматическим атакам Учёные провели масштабное исследование устойчивости моделей Fable 5 и Opus 4.8 от Anthropic к автоматическим атакам. В ходе работы использовались четыре типа атак, направленных на 7 826 вредоносных намерений, охватывающих десять категорий потенциального вреда. arXiv · Модели и релизы Новый метод обнаружения ошибок в цепочках рассуждений LLM Исследователи из MIT и Университета Карнеги-Меллона предложили новый подход к выявлению ошибок в цепочках рассуждений языковых моделей (LLM) без использования меток. Их метод, основанный на операдной теории, позволяет обнаруживать несоответствия в логических цепочках, которые модели строят при решении сложных задач. arXiv · Безопасность и алайнмент GAS-Leak-LLM: генетический алгоритм для взлома LLM Исследователи из Университета Торонто и MIT представили новый метод взлома языковых моделей (LLM) — GAS-Leak-LLM. Этот подход использует генетические алгоритмы для оптимизации суффиксов в запросах, что позволяет обходить механизмы защиты и получать нежелательные ответы от моделей. Авторы демонстрируют, что даже хорошо защищённые коммерческие системы уязвимы к таким атакам. Hacker News · Разработка и инструменты OpenDevOps: открытый ИИ-агент для расследования инцидентов в облаке Команда разработчиков под руководством Ахмада Хаммада представила OpenDevOps — открытый ИИ-агент, предназначенный для автоматизации расследования инцидентов в облачных средах AWS и Azure. Проект размещён на GitHub и доступен для свободного использования и модификации. arXiv · Исследования и наука ИИ автоматизирует проверку воспроизводимости исследований Учёные из Гарварда и MIT разработали метод, позволяющий использовать большие языковые модели (LLM) для автоматизированной оценки воспроизводимости исследований в социальных и поведенческих науках. Обычно проверка воспроизводимости требует ручного анализа данных независимыми исследователями, что занимает много времени и ресурсов. Новый подход позволяет значительно ускорить этот процесс, применяя LLM для анализа опубликованных данных и оценки их достоверности. Hacker News · Инфраструктура для агентов Практический опыт разработки ИИ-агентов для автоматизации браузерных задач Разработка автономных агентов требует перехода от простых цепочек промптов к сложным системам управления состоянием и обработки ошибок. Основная сложность заключается в обеспечении надежности действий модели в реальной среде, где интерфейсы веб-сайтов постоянно меняются, а сетевые задержки могут привести к сбоям в выполнении последовательных команд. arXiv · Безопасность и алайнмент Динамический анализ жизненного цикла для защиты ML-моделей Исследователи представили новый подход к обеспечению безопасности машинного обучения, направленный на выявление вредоносного кода, скрытого внутри весов и архитектур предобученных моделей. Традиционные методы защиты, основанные на статическом анализе форматов файлов и поиске известных сигнатур атак, часто оказываются неэффективными против современных угроз, способных обходить стандартные фильтры. arXiv · Исследования и наука Исследование: классификация киберугроз с помощью открытых моделей Учёные изучили, как открытые языковые модели могут автоматизировать классификацию киберугроз по стандарту MITRE ATT&CK. Ранее этот процесс требовал значительных человеческих усилий, а до появления LLM автоматизация была ограничена сложностью анализа неструктурированных отчётов о киберугрозах (CTI).

← Все материалы