Администрация США форсирует создание обязательных стандартов безопасности для разработчиков передовых систем искусственного интеллекта. Инициатива направлена на предотвращение рисков, связанных с кибербезопасностью и национальной безопасностью. Компании, создающие наиболее мощные модели, будут обязаны делиться результатами тестирований с правительством, что знаменует переход от добровольных обязательств к жесткому государственному надзору за индустрией ИИ.
Новые меры опираются на прошлогодний исполнительный указ президента, который обязывает разработчиков моделей, превышающих определенный порог вычислительной мощности, предоставлять отчеты о безопасности. Сейчас регуляторы стремятся формализовать эти требования, чтобы стандартизировать процессы оценки рисков. Это позволит государственным органам эффективнее отслеживать потенциальные угрозы, такие как использование ИИ для создания биологического оружия или проведения масштабных кибератак.
Ожидается, что внедрение этих стандартов станет ключевым этапом в формировании правового поля для ИИ в США. Разработчики должны будут доказывать устойчивость своих систем к взломам и манипуляциям, прежде чем выпускать их в широкий доступ. Подобные шаги призваны сбалансировать темпы технологических инноваций с необходимостью контроля над критически важными технологиями, которые могут существенно влиять на общественную безопасность.
Ключевые факты
- Белый дом планирует завершить разработку стандартов до конца текущего срока администрации.
- Требования распространяются на компании, чьи модели требуют значительных вычислительных мощностей для обучения.
- Разработчики обязаны предоставлять данные о безопасности и результаты «красных команд» (red teaming) правительственным экспертам.
- Основной фокус регуляторов — предотвращение использования ИИ в киберпреступлениях и разработке опасных материалов.
- Инициатива является развитием исполнительного указа от октября 2023 года, направленного на безопасное развитие ИИ.