Консалтинговая компания Booz Allen Hamilton представила исследование, оценивающее устойчивость американских и китайских языковых моделей к киберугрозам. Эксперты проанализировали, как ведущие LLM справляются с генерацией вредоносного кода и противодействием попыткам взлома. Результаты подчеркивают различия в подходах к безопасности и фильтрации контента, что критически важно для оценки рисков внедрения ИИ в корпоративные и государственные системы.
В ходе тестирования специалисты использовали методологию, направленную на выявление уязвимостей в цепочках поставок ПО и проверку того, насколько эффективно модели следуют инструкциям по безопасности. Исследование затрагивает вопросы «отравления» данных и возможности использования ИИ для автоматизации атак, что становится новым вектором в кибербезопасности. Авторы подчеркивают, что различия в архитектуре и наборах данных для обучения напрямую влияют на профиль рисков каждой модели.
Анализ также затрагивает проблему прозрачности цепочки поставок ИИ-решений. Понимание того, какие данные использовались для обучения и какие механизмы защиты встроены в модель, становится обязательным этапом для организаций, планирующих интеграцию генеративного ИИ в критическую инфраструктуру. Работа Booz Allen предлагает методологическую базу для стандартизации проверок безопасности в условиях глобальной конкуренции разработчиков моделей.
Ключевые факты
- Исследование сфокусировано на сравнительном тестировании моделей из США и Китая на предмет кибербезопасности.
- Основные векторы анализа включают генерацию вредоносного кода и устойчивость к попыткам обхода встроенных фильтров безопасности.
- Booz Allen Hamilton разработала методологию оценки, учитывающую риски цепочек поставок программного обеспечения.
- Работа подчеркивает необходимость стандартизированных протоколов проверки безопасности для моделей, используемых в критических отраслях.