Nvidia, Microsoft и ряд других технологических компаний объединились для создания Open Secure AI Alliance (OSAIA). Цель инициативы — разработка и распространение инструментов с открытым исходным кодом для защиты систем искусственного интеллекта от киберугроз. Альянс делает ставку на прозрачность и коллективный обмен данными, чтобы противостоять атакам на современные фронтирные модели.
В состав новой организации вошли такие гиганты, как IBM, SpaceX, Cisco и другие игроки рынка. Примечательно, что ключевые разработчики передовых LLM, включая OpenAI, Google и Anthropic, в число участников альянса на текущем этапе не вошли. Участники инициативы подчеркивают, что существующие методы кибербезопасности недостаточно эффективны для защиты специфических архитектур ИИ, поэтому создание открытых стандартов безопасности становится критически важной задачей для индустрии.
Основной фокус работы альянса сосредоточен на создании инструментов, которые помогут компаниям выявлять уязвимости в пайплайнах машинного обучения и защищать модели от состязательных атак (adversarial attacks). Участники планируют делиться лучшими практиками и кодом, чтобы снизить риски, связанные с внедрением генеративного ИИ в корпоративные и критически важные инфраструктурные системы.
Ключевые факты
- В альянс вошли Nvidia, Microsoft, IBM, SpaceX, Cisco, Dell, Hewlett Packard Enterprise и другие компании.
- Основная цель — создание открытых инструментов для защиты ИИ-моделей от кибератак и уязвимостей.
- Инициатива противопоставляет открытый подход закрытым экосистемам, продвигаемым рядом других разработчиков ИИ.
- Крупнейшие игроки рынка, такие как OpenAI, Google и Anthropic, не участвуют в создании данного альянса.