Международный союз электросвязи (МСЭ), специализированное учреждение ООН, анонсировал глобальную инициативу по стандартизации доверия к автономным ИИ-агентам. Программа направлена на создание единых протоколов безопасности и прозрачности, чтобы минимизировать риски предвзятости и неконтролируемого поведения систем, которые начинают самостоятельно выполнять сложные бизнес-задачи и взаимодействовать с пользователями в цифровой среде.
Инициатива фокусируется на разработке технических стандартов, которые позволят верифицировать действия агентов и обеспечивать их подотчетность. В условиях стремительного роста агентных систем, способных совершать транзакции и управлять данными, отсутствие общепринятых правил становится барьером для их массового внедрения в корпоративный сектор и государственные сервисы. МСЭ планирует привлечь к работе как технологических гигантов, так и представителей академического сообщества.
Работа будет вестись в рамках платформы AI for Good, которая объединяет регуляторов, разработчиков и экспертов по этике. Основная цель — создать «цифровой паспорт» или систему сертификации для агентов, подтверждающую их соответствие международным нормам безопасности. Это должно помочь компаниям снизить юридические риски при интеграции автономных решений в критически важные бизнес-процессы.
Ключевые факты
- Инициатива запущена Международным союзом электросвязи (МСЭ), специализированным агентством ООН по цифровым технологиям.
- Основная задача — создание стандартов безопасности и прозрачности для автономных ИИ-агентов.
- Программа интегрирована в платформу AI for Good для координации усилий между правительствами и частным сектором.
- Стандарты будут направлены на минимизацию рисков предвзятости, ошибок и несанкционированных действий агентов.