Hacker News · 30.06.2026 ·Безопасность и алайнмент

Новый метод защиты вредоносного ПО от анализа с помощью ИИ

Исследователи обнаружили новый метод противодействия автоматизированному анализу вредоносного кода с помощью LLM. Злоумышленники начали внедрять в исполняемые файлы фрагменты текста, которые вызывают срабатывание фильтров безопасности или политик использования ИИ-моделей. Это заставляет инструменты анализа блокировать обработку кода, что затрудняет автоматическую детекцию угроз и замедляет работу специалистов по кибербезопасности.

Данная техника использует уязвимости в механизмах фильтрации контента, которыми оснащены современные ИИ-системы. Внедряя «запрещенные» слова или фразы, связанные с насилием, незаконной деятельностью или нарушением авторских прав, разработчики вредоносного ПО создают своего рода «цифровой щит». Когда система анализа пытается просканировать такой файл, она сталкивается с триггером безопасности и отказывается продолжать работу, классифицируя запрос как нарушение правил платформы.

Этот подход создает серьезную проблему для компаний, внедряющих ИИ-агентов в процессы мониторинга безопасности. Если модель настроена на жесткую фильтрацию входных данных, она становится уязвимой к подобным манипуляциям. В результате злоумышленники получают возможность скрывать вредоносный функционал, просто добавляя в код строки, которые гарантированно остановят процесс автоматического анализа.

Ключевые факты

Метод основан на вставке в код строк, которые активируют встроенные фильтры безопасности LLM.
Использование запрещенного контента заставляет ИИ-модели прерывать анализ файла из-за нарушения политик использования.
Техника эффективно обходит автоматизированные системы проверки, которые полагаются на генеративные модели для интерпретации кода.
Подобные манипуляции требуют от разработчиков систем безопасности пересмотра подходов к фильтрации данных и обработки исключений в ИИ-пайплайнах.

Источник: Hacker News

Обсудить с ИИ

Похожие материалы

Hacker News · Безопасность и алайнмент Уязвимости в системах безопасности LLM при анализе кода Исследователи продемонстрировали методы обхода механизмов безопасности в больших языковых моделях, используемых для автоматического сканирования кода. Манипулируя промптами, злоумышленники могут заставить ИИ игнорировать наличие вредоносного ПО в анализируемых фрагментах. Это создает серьезные риски для инструментов безопасности, полагающихся на LLM для выявления уязвимостей и бэкдоров в программном обеспечении. Hacker News · Безопасность и алайнмент Метод обфускации кода для защиты от анализа с помощью LLM Исследователи представили новый подход к защите исходного кода от анализа с помощью больших языковых моделей. Метод использует состязательную обфускацию, которая делает код нечитаемым или вводящим в заблуждение для ИИ-агентов, при этом сохраняя его функциональность для компиляторов. Это решение направлено на предотвращение автоматизированного реверс-инжиниринга и кражи интеллектуальной собственности, выполняемых с помощью LLM. Hacker News · Безопасность и алайнмент Новое вредоносное ПО для macOS использует ИИ-обман Исследователи обнаружили вредоносное ПО для macOS, которое внедряет в свой код фиктивные ошибки и мусорные данные. Цель такой стратегии — запутать автоматизированные системы анализа на базе ИИ, которые используют специалисты по кибербезопасности для выявления угроз. Манипуляция структурой файла затрудняет классификацию вредоносного кода и замедляет процесс его обнаружения в защитных решениях. Hacker News · Безопасность и алайнмент Исследование уязвимостей ИИ-детекторов к адаптивным агентным атакам Исследователи представили новый метод атак на системы автоматизированного поиска уязвимостей в коде, основанные на LLM. Адаптивные агентные атаки используют специально сформированные комментарии, которые обходят механизмы защиты, заставляя модели игнорировать критические дефекты. Это ставит под сомнение надежность существующих инструментов безопасности, полагающихся исключительно на ИИ-анализ для проверки программного обеспечения перед релизом. Hacker News · Безопасность и алайнмент Новый метод защиты контента от парсинга ИИ через отравленные шрифты Разработчики представили инструмент Glaze-подобного типа, который защищает текстовый контент от несанкционированного обучения ИИ-моделей. Технология использует специально модифицированные шрифты, которые визуально остаются читаемыми для людей, но при попытке автоматизированного парсинга и распознавания текста (OCR) выдают искаженные данные, делая собранный датасет непригодным для качественного обучения нейросетей. Hacker News · ИИ в бизнесе Автоматизация поиска уязвимостей в прошивках с помощью LLM Исследователи представили методологию использования больших языковых моделей для автоматизированного поиска уязвимостей в программном обеспечении встраиваемых систем. Подход сочетает статический анализ кода с агентными ИИ-системами, что позволяет значительно ускорить процесс обнаружения критических ошибок в прошивках, которые ранее требовали длительного ручного реверс-инжиниринга и глубокой экспертизы в архитектурах микроконтроллеров. Hacker News · Безопасность и алайнмент Новый метод защиты специализированных ИИ-агентов от атак через промпт-инъекции Исследователи представили новый подход к обнаружению промпт-инъекций, направленных на специализированные ИИ-агенты. Метод фокусируется на выявлении вредоносных инструкций, которые пытаются обойти системные ограничения модели. Авторы разработали систему классификации атак, позволяющую эффективно фильтровать попытки манипуляции поведением агента в реальном времени, что критически важно для безопасности корпоративных систем, использующих LLM в качестве исполнителей задач. arXiv · Безопасность и алайнмент Анализ активаций нейросетей для выявления уязвимостей в коде Исследователи предложили метод повышения безопасности кода, создаваемого ИИ-агентами, через анализ внутренних активаций вспомогательных моделей. Вместо проверки только итогового текста программы, предложенный подход считывает скрытые сигналы в «активационных зондах» (activation probes) модели-рецензента. Это позволяет выявлять потенциальные уязвимости, которые остаются незамеченными при обычном анализе вывода модели, обеспечивая дополнительный слой контроля в разработке. Hacker News · Безопасность и алайнмент Как ИИ меняет ландшафт поиска уязвимостей нулевого дня Использование генеративного ИИ в кибербезопасности радикально сокращает время между обнаружением уязвимости и созданием рабочего эксплойта. Исследователи отмечают, что автоматизация анализа кода и генерация цепочек эксплойтов превращают сложные атаки нулевого дня (0-day) в рутинные задачи, доступные даже менее опытным злоумышленникам, что значительно повышает риски для инфраструктуры и требует пересмотра подходов к защите. Hacker News · Машинное обучение Использование ИИ-агентов для автоматизированного фаззинга ПО Исследователи представили новый подход к автоматизированному поиску уязвимостей, заменив традиционные методы фаззинга на агентные системы. Вместо случайной генерации входных данных, агенты обучаются создавать специфические наборы тестов, ориентируясь на структуру кода. Метод значительно повышает покрытие покрытия кода и эффективность обнаружения багов в сложных программных проектах по сравнению с классическими алгоритмами.

← Все материалы