Новая стратегия администрации Дональда Трампа по оценке киберугроз от передовых систем искусственного интеллекта фокусируется исключительно на закрытых проприетарных моделях. Согласно отчету Axios, предложенные добровольные руководящие принципы официально исключают проверку открытых моделей, аргументируя это невозможностью контроля над их распространением и доступом к внутренним компонентам со стороны сторонних разработчиков.
Инициатива направлена на создание системы стандартизированного тестирования безопасности, однако её текущая архитектура фактически игнорирует сегмент open-source решений. Разработчики и регуляторы отмечают, что такой подход создает правовой и технический разрыв, при котором требования к безопасности применяются только к централизованным корпоративным продуктам, в то время как открытые веса и архитектуры остаются вне рамок государственного надзора.
Эксперты указывают на сложность реализации подобных проверок для открытых систем, так как их исходный код и параметры доступны для публичного аудита и модификации. Исключение этих моделей из программы тестирования подчеркивает фундаментальное противоречие в текущей политике регулирования: попытку применить методы контроля, характерные для традиционного ПО, к децентрализованным технологиям с открытым доступом.
Ключевые факты
- Программа оценки киберрисков администрации Трампа официально не распространяется на модели с открытыми весами.
- В рамках стратегии подчеркивается, что методы тестирования закрытых систем неприменимы к открытым моделям из-за их доступности для широкого круга пользователей.
- Добровольные руководящие принципы направлены на создание стандартов безопасности для крупных ИИ-компаний, но оставляют open-source сообщество вне периметра регулирования.
- Решение обосновано невозможностью ограничения доступа к компонентам открытых моделей после их публикации в открытом доступе.