Hacker News · 20.07.2026 ·Исследования и наука

Использование LLM для верификации кода сетевого стека Linux

Исследователи применили LLM для автоматизации поиска критических ошибок в подсистеме nftables ядра Linux. Использование языковых моделей в связке с формальными методами верификации позволило выявить уязвимости, которые ранее оставались незамеченными при стандартном тестировании. Этот подход демонстрирует новый уровень интеграции ИИ в процессы обеспечения безопасности низкоуровневого системного программного обеспечения и критической инфраструктуры.

Традиционные методы отладки сетевого стека Linux требуют значительных временных затрат и глубокой экспертизы. В данном исследовании LLM использовались для генерации формальных спецификаций и тестовых сценариев, которые затем проверялись с помощью инструментов статического анализа. Такой гибридный подход позволяет сократить цикл обнаружения багов и повысить надежность кода в условиях высокой сложности сетевых протоколов.

Авторы подчеркивают, что автоматизация верификации с помощью ИИ не заменяет экспертов, но значительно расширяет возможности поиска логических ошибок. Внедрение подобных практик в разработку ядра Linux может стать стандартом для предотвращения уязвимостей, связанных с некорректной обработкой пакетов и управлением памятью в сетевых подсистемах.

Ключевые факты

Объектом исследования стала подсистема nftables, отвечающая за фильтрацию сетевых пакетов в ядре Linux.
Метод сочетает возможности LLM по генерации кода с инструментами формальной верификации для поиска логических дефектов.
Использование ИИ позволило автоматизировать создание тестовых векторов, покрывающих сложные сценарии взаимодействия сетевого стека.
Исследование направлено на снижение количества уязвимостей нулевого дня в критических компонентах операционных систем.

Источник: Hacker News

Обсудить с ИИ

Похожие материалы

Hacker News · Машинное обучение Использование LLM для поиска уязвимостей в криптографических библиотеках Исследователи применили большие языковые модели для анализа исходного кода библиотеки Circl от Cloudflare, специализирующейся на криптографических протоколах. Использование ИИ позволило автоматизировать поиск логических ошибок и уязвимостей в сложных криптографических реализациях, которые зачастую пропускаются при стандартном аудите. Этот подход демонстрирует эффективность нейросетей в поиске специфических багов в коде, требующем глубокого понимания математических алгоритмов и протоколов безопасности. Hacker News · Безопасность и алайнмент Использование «опьянения» LLM для поиска уязвимостей в ядре Linux Исследователи представили метод повышения эффективности LLM при поиске уязвимостей типа Out-of-Bounds (OOB) write в ядре Linux. Техника, названная «опьянением» модели, заключается в намеренном снижении параметров температуры и вероятностных ограничений, что заставляет нейросеть исследовать менее очевидные пути в коде и находить критические ошибки, которые обычно игнорируются при стандартных настройках генерации. Hacker News · ИИ в бизнесе Автоматизация поиска уязвимостей в прошивках с помощью LLM Исследователи представили методологию использования больших языковых моделей для автоматизированного поиска уязвимостей в программном обеспечении встраиваемых систем. Подход сочетает статический анализ кода с агентными ИИ-системами, что позволяет значительно ускорить процесс обнаружения критических ошибок в прошивках, которые ранее требовали длительного ручного реверс-инжиниринга и глубокой экспертизы в архитектурах микроконтроллеров. Hacker News · Безопасность и алайнмент Использование ИИ для поиска уязвимостей в ZkVM Исследователи применили LLM для аудита OpenVM — виртуальной машины с поддержкой доказательств с нулевым разглашением (zkVM). ИИ-модели успешно обнаружили критические уязвимости в коде, которые ранее пропустили люди-аудиторы. Этот кейс демонстрирует эффективность специализированных агентных систем в поиске сложных логических ошибок в криптографических протоколах и инфраструктурном ПО, где традиционные методы статического анализа часто оказываются недостаточно эффективными. Hacker News · Машинное обучение ИИ обнаружил критическую уязвимость в ядре Linux, скрывавшуюся 15 лет Исследователи из Google применили специализированную модель машинного обучения для анализа исходного кода ядра Linux, что привело к обнаружению критической уязвимости типа «гонка» (race condition). Ошибка оставалась незамеченной разработчиками на протяжении 15 лет. Этот случай демонстрирует эффективность автоматизированных систем анализа кода в поиске сложных багов, которые ускользают от традиционных методов тестирования и ручного аудита. Hacker News · ИИ в бизнесе Эффективность LLM при аудите безопасности кода на Rust Исследование применения больших языковых моделей для поиска уязвимостей в языке программирования Rust показало неожиданно высокие результаты. Несмотря на встроенные механизмы безопасности Rust, такие как проверка владения памятью, критические ошибки все еще могут возникать в блоках unsafe или при использовании небезопасных API. Использование специализированных промптов и итеративного анализа позволяет нейросетям находить сложные логические дефекты, которые часто пропускают традиционные статические анализаторы. arXiv · Оценка и бенчмарки Исследование: риски использования LLM для автоматического исправления уязвимостей Новое исследование оценило эффективность LLM при устранении программных уязвимостей. Несмотря на способность моделей ускорять процесс написания патчей, их использование несет серьезные риски безопасности. В ходе эксперимента с участием разработчиков выяснилось, что автоматизированные подсказки часто приводят к внедрению новых ошибок или неполному исправлению критических брешей, требуя от специалистов тщательной проверки каждого предложенного решения. Hacker News · Безопасность и алайнмент Уязвимости в системах безопасности LLM при анализе кода Исследователи продемонстрировали методы обхода механизмов безопасности в больших языковых моделях, используемых для автоматического сканирования кода. Манипулируя промптами, злоумышленники могут заставить ИИ игнорировать наличие вредоносного ПО в анализируемых фрагментах. Это создает серьезные риски для инструментов безопасности, полагающихся на LLM для выявления уязвимостей и бэкдоров в программном обеспечении. Hacker News · Исследования и наука Исследователи обнаружили «нейроны безопасности» в LLM для поиска уязвимостей в коде Исследователи выявили специфические слои нейронов в архитектуре больших языковых моделей, которые отвечают за распознавание уязвимостей в программном коде. Анализ показал, что эти нейронные структуры активируются при обработке небезопасных паттернов, что позволяет использовать их для автоматизированного аудита безопасности. Открытие дает новый метод интерпретации внутренних механизмов принятия решений моделями при анализе кода. Hacker News · Машинное обучение Валидация правок кода от LLM без его исполнения Разработчики представили методологию верификации изменений кода, вносимых языковыми моделями, в условиях невозможности запуска программы. Подход опирается на статический анализ и семантическую проверку, позволяя выявлять логические ошибки и нарушения структуры до интеграции правок. Это решение критически важно для автоматизированных систем разработки, где выполнение кода в изолированной среде затруднено или небезопасно.

← Все материалы