Nvidia инициировала создание Open Secure AI Alliance (OSAIA) — консорциума из 30 технологических компаний, сфокусированного на стандартах безопасности ИИ-систем. Примечательно, что ключевые разработчики фундаментальных моделей, включая OpenAI, Google и Anthropic, не вошли в число участников объединения. Инициатива возникла на фоне участившихся инцидентов, связанных с уязвимостями в агентных архитектурах и цепочках поставок ПО.
Цель альянса заключается в разработке открытых стандартов для защиты ИИ-инфраструктуры, включая методы предотвращения атак на модели и обеспечения безопасности данных при их обработке. Участники планируют сфокусироваться на создании инструментов для мониторинга угроз и стандартизации протоколов безопасности, которые помогут компаниям минимизировать риски при внедрении генеративных технологий в корпоративные процессы.
Отсутствие крупнейших игроков рынка в составе OSAIA подчеркивает существующие разногласия в подходах к регулированию и обеспечению безопасности ИИ. В то время как лидеры индустрии предпочитают развивать собственные протоколы защиты, участники альянса делают ставку на открытую экосистему, стремясь создать единый отраслевой стандарт, доступный для широкого круга разработчиков и поставщиков облачных решений.
Ключевые факты
- В состав альянса OSAIA вошли 30 компаний, включая Nvidia, Cisco, Dell, Hewlett Packard Enterprise и другие технологические корпорации.
- Основная задача консорциума — разработка открытых стандартов для защиты ИИ-систем от киберугроз и обеспечение безопасности цепочек поставок.
- OpenAI, Google и Anthropic не участвуют в инициативе, несмотря на их доминирующее положение в секторе разработки LLM.
- Создание альянса стало реакцией на недавние инциденты безопасности, связанные с эксплуатацией уязвимостей в ИИ-агентах и интеграционных инструментах.