arXiv · 16.06.2026 ·Исследования и наука

Исследование: нейросимволические агенты для киберзащиты

Учёные представили исследование, посвящённое созданию автономных киберзащитных агентов на основе нейросимволических подходов. В работе рассматривается применение поведенческих деревьев с компонентами, способными к обучению (LECs), для обучения, принятия решений и адаптации агентов в условиях киберугроз.

Агенты обучаются с помощью подкрепляющего обучения (RL), что позволяет им эффективно применять правила безопасности и поддерживать критически важные операции. Исследование подчёркивает важность интеграции символических и нейронных методов для повышения эффективности киберзащиты.

Авторы отмечают, что современные киберугрозы требуют интеллектуальных решений, способных адаптироваться к новым угрозам. Нейросимволические агенты могут стать ключевым элементом в построении проактивных систем защиты.

Работа опубликована на arXiv и доступна для дальнейшего изучения. Исследование может стать основой для разработки новых методов кибербезопасности, использующих возможности искусственного интеллекта.

Источник: arXiv

Похожие материалы

Hacker News · Безопасность и алайнмент ИИ-агенты как основа адаптивных компьютерных червей Исследователи из Cleverhans Lab представили концепцию адаптивных компьютерных червей, которые используют ИИ-агентов для эволюции и распространения. В отличие от традиционных червей, новые версии могут анализировать среду, адаптироваться к защите и выбирать оптимальные пути распространения. Это возможно благодаря интеграции ИИ-агентов, способных принимать решения на основе контекста и обучаться в процессе эксплуатации. Hacker News · Память и RAG Рекурсивные языковые модели и нейросимволическое управление контекстом Исследователи предлагают новый подход к управлению контекстом в ИИ-агентах, сочетающий рекурсивные языковые модели и нейросимволические методы. Этот метод позволяет более эффективно обрабатывать и хранить информацию, что критически важно для построения сложных агентов. arXiv · Исследования и наука EurekAgent: как ИИ-агенты автоматизируют научные открытия Исследователи из MIT и других ведущих университетов представили EurekAgent — фреймворк, который демонстрирует, как LLM-основанные агенты могут автоматизировать научные открытия. В статье, опубликованной на arXiv, авторы показывают, что при наличии оптимизируемого метрика и подходящей среды выполнения, агенты способны предлагать, проверять и итерировать научные решения, превосходя человеческие подходы. Hacker News · Исследования и наука Исследование: могут ли LLM-агенты строить модели мира Учёные изучают способность языковых моделей (LLM) строить модели мира через агентное поведение. В новом исследовании, опубликованном на arXiv, рассматривается, как агентные автоматические системы могут обучаться и адаптироваться в динамических средах. arXiv · Память и RAG Как улучшить надёжность ИИ-агентов в робототехнике Исследователи из MIT и других ведущих университетов предложили новый подход к улучшению надёжности ИИ-агентов в робототехнике. В своей работе, опубликованной на arXiv, они рассматривают проблему обнаружения аномалий в поведении роботов, управляемых генеративными моделями. arXiv · Исследования и наука Исследование: классификация киберугроз с помощью открытых моделей Учёные изучили, как открытые языковые модели могут автоматизировать классификацию киберугроз по стандарту MITRE ATT&CK. Ранее этот процесс требовал значительных человеческих усилий, а до появления LLM автоматизация была ограничена сложностью анализа неструктурированных отчётов о киберугрозах (CTI). Hacker News · Безопасность и алайнмент Исследование: как пользовательский контент может отравить ИИ-агентов Исследователи из MIT и Университета Карнеги-Меллона опубликовали работу, в которой показано, как пользовательский контент может «отравить» ИИ-агентов, особенно тех, которые работают с глубокими исследованиями. В статье рассматриваются сценарии, в которых злоумышленники могут встраивать вредоносные данные в пользовательские запросы, что приводит к искажению работы агентов. Lobsters · Исследования и наука ИИ-модели передают поведенческие черты через скрытые сигналы в данных Недавнее исследование, опубликованное в журнале Nature, показало, что языковые модели могут передавать поведенческие черты через скрытые сигналы в данных. Ученые обнаружили, что модели, обученные на данных, содержащих определенные поведенческие паттерны, могут воспроизводить эти паттерны даже в новых, ранее не встречавшихся контекстах. arXiv · Безопасность и алайнмент Shield Synthesis как инструмент проектирования безопасных ИИ-агентов Исследователи из arXiv предлагают новый взгляд на shielded reinforcement learning (SRL), традиционно рассматриваемый как механизм обеспечения безопасности во время выполнения. Авторы утверждают, что автомато-теоретические методы, используемые в SRL, могут быть более полезны на этапе проектирования агентов. arXiv · Инфраструктура для агентов Нейро-символический подход к синтезу стратегий для мультиагентных систем Исследователи предложили новый нейро-символический подход для синтеза стратегий в мультиагентных системах (MAS). Проблема заключается в высокой вычислительной стоимости проверки моделей стратегических возможностей, таких как ATL (Alternating-Time Temporal Logic). Авторы интегрировали большие языковые модели (LLM) в процесс проверки моделей, что позволяет значительно ускорить и улучшить синтез стратегий.

← Все материалы