Chainguard и BNY Mellon объединились для создания новой коалиции, направленной на исправление уязвимостей в моделях искусственного интеллекта. Инициатива получила название Athena и будет заниматься выявлением и устранением уязвимостей, обнаруженных с помощью передовых моделей ИИ.
Коалиция будет включать в себя ведущих экспертов по кибербезопасности и разработчиков ИИ. Основной целью проекта является создание стандартов и практик для обеспечения безопасности моделей ИИ. Это особенно важно в свете растущего числа атак на системы, использующие искусственный интеллект.
Athena также планирует разрабатывать инструменты и методологии для автоматического обнаружения и исправления уязвимостей. Это позволит значительно ускорить процесс обеспечения безопасности и снизить риски для пользователей ИИ-технологий.
Участники коалиции будут делиться своими знаниями и опытом, что позволит создать более безопасную экосистему для разработки и использования моделей ИИ. Проект уже привлёк внимание других крупных компаний, которые рассматривают возможность присоединения к инициативе.