Развитие генеративных моделей меняет ландшафт угроз в сфере биологической и ядерной безопасности. Исследователи отмечают, что доступность продвинутых инструментов ИИ снижает порог входа для поиска информации, которая ранее требовала глубокой экспертной подготовки или доступа к закрытым базам данных. Это касается как синтеза опасных патогенов, так и оптимизации процессов, связанных с разработкой ядерных технологий.
Существующие механизмы контроля, основанные на традиционных методах мониторинга, оказываются недостаточно эффективными перед лицом автоматизированных систем. Эксперты подчеркивают, что текущие стратегии управления рисками должны быть пересмотрены с учетом возможностей ИИ. Это требует внедрения новых стандартов безопасности при обучении моделей, включая фильтрацию данных, связанных с критическими технологиями, и усиление контроля за использованием вычислительных мощностей для потенциально опасных симуляций.
Для минимизации угроз предлагается переход к модели динамического регулирования, которая предполагает тесное сотрудничество между разработчиками ИИ, научным сообществом и государственными регуляторами. Ключевым аспектом становится создание систем раннего обнаружения подозрительной активности и развитие протоколов ответственности для компаний, создающих модели общего назначения. Без адаптации международных норм к новым технологическим реалиям риски неконтролируемого распространения чувствительных знаний будут только возрастать.