Администрация США представила обновленную структуру тестирования передовых систем искусственного интеллекта, которая фокусируется исключительно на закрытых проприетарных моделях. Открытые веса и модели с публичным доступом не попали под действие новых протоколов безопасности. Решение направлено на контроль рисков, связанных с наиболее мощными ИИ-системами, при этом разработчики открытого ПО освобождаются от жестких требований по отчетности и проверке перед выпуском продуктов.
Данный подход отражает стремление властей сбалансировать национальную безопасность и инновации. Исключение открытых моделей из программы тестирования означает, что ответственность за безопасность таких систем ложится на сообщество и отдельных разработчиков, а не на государственные надзорные органы. Это создает правовой разрыв между крупными корпорациями, разрабатывающими закрытые модели, и open-source проектами, которые получают больше свободы в распространении технологий.
Критики и сторонники открытого ИИ отмечают, что такой подход может стимулировать развитие независимых исследований, однако вызывает вопросы о том, как правительство планирует предотвращать потенциальное злоупотребление мощными открытыми моделями. Программа тестирования сосредоточена на выявлении критических уязвимостей, таких как возможность создания биологического оружия или проведение масштабных кибератак, что требует глубокого доступа к архитектуре и весам моделей, который возможен только в закрытых средах.
Ключевые факты
- Программа тестирования охватывает только проприетарные модели, исключая проекты с открытыми весами.
- Основной фокус проверок направлен на предотвращение рисков в сферах кибербезопасности и биологических угроз.
- Разработчики закрытых систем обязаны предоставлять государству доступ к результатам тестирования перед публичным релизом.
- Инициатива направлена на создание стандартизированных метрик безопасности для наиболее мощных систем ИИ.
- Решение подчеркивает различие в подходах к регулированию между корпоративным сектором и открытым сообществом.