Новые правила экспортного контроля, ограничивающие распространение продвинутых ИИ-моделей, создают непредвиденные препятствия для специалистов по кибербезопасности. Под запрет попала модель Claude Fable 5 после того, как исследователи использовали её для анализа уязвимостей в коде. В ходе эксперимента эксперты загружали в модель открытый исходный код с известными CVE-уязвимостями, а также специально подготовленные фрагменты с внедренными дефектами, чтобы проверить способность системы к их обнаружению и исправлению.
Кейт Муссурис, эксперт в области безопасности, подтвердила, что блокировка модели произошла из-за ошибочной интерпретации процесса «джейлбрейка». Регуляторы классифицировали запрос на исправление уязвимого кода как попытку обхода ограничений безопасности, хотя фактически это была стандартная задача по отладке и укреплению защищенности программного обеспечения. Подобные инциденты демонстрируют разрыв между текущими механизмами контроля за экспортом технологий и реальными методами работы исследователей в сфере информационной безопасности.
Ограничения, направленные на предотвращение использования ИИ в злонамеренных целях, в данном случае ограничили возможности специалистов по поиску и устранению критических дыр в безопасности. Эксперты указывают, что отсутствие доступа к мощным инструментам анализа кода замедляет процесс исправления уязвимостей, что в конечном итоге снижает общий уровень киберзащиты. Ситуация подчеркивает необходимость пересмотра критериев оценки ИИ-систем при введении экспортных ограничений, чтобы они не препятствовали легитимным исследованиям в области защиты данных.