Исследователи обнаружили, что злоумышленники применяют модели Claude и Codex для взлома корпоративных систем. В утечках логов зафиксированы случаи, когда хакеры использовали эти ИИ-модели для генерации вредоносного кода и автоматизации атак.
По данным OpenAnalysis, хакеры активно эксплуатируют возможности LLM для обхода систем безопасности. В частности, модели помогают им создавать сложные эксплойты и автоматизировать процесс взлома, что значительно ускоряет и упрощает атаки.
Эксперты отмечают, что такие случаи подчеркивают необходимость усиления мер безопасности при использовании ИИ-моделей. Компании должны внедрять дополнительные проверки и ограничения, чтобы предотвратить злоупотребление ИИ-технологиями в криминальных целях.
Специалисты по кибербезопасности рекомендуют регулярно обновлять системы защиты и мониторить активность ИИ-моделей, чтобы своевременно выявлять и предотвращать потенциальные угрозы.