Демис Хассабис, генеральный директор Google DeepMind, выступил с инициативой создания независимого международного регулятора для контроля передовых моделей искусственного интеллекта. По его мнению, индустрии необходима структура, аналогичная финансовому регулятору FINRA, которая будет заниматься независимым тестированием безопасности, установлением отраслевых стандартов и надзором за процессами выпуска новых технологий в публичный доступ.
Предложение Хассабиса направлено на решение проблемы бесконтрольного развития «пограничных» моделей (frontier models), возможности которых могут нести системные риски. В текущих условиях компании-разработчики самостоятельно определяют протоколы безопасности, что создает конфликт интересов и препятствует прозрачности. Создание независимого органа должно обеспечить единые правила игры для всех игроков рынка, предотвращая гонку вооружений в ущерб общественной безопасности.
Инициатива предполагает, что такой орган будет обладать полномочиями по проведению аудита моделей до их релиза. Это позволит выявлять потенциальные угрозы, связанные с предвзятостью, галлюцинациями или использованием ИИ в злонамеренных целях. Подобный подход может стать фундаментом для глобального регулирования, снижая неопределенность для бизнеса и инвесторов, опасающихся жестких государственных ограничений.
Ключевые факты
- Демис Хассабис предложил модель регулирования, основанную на принципах работы FINRA (Financial Industry Regulatory Authority).
- Основная задача органа — независимое тестирование безопасности передовых ИИ-моделей перед их выводом на рынок.
- Инициатива направлена на стандартизацию протоколов выпуска ИИ, чтобы избежать фрагментации правил в разных странах.
- Предложение подчеркивает необходимость перехода от саморегулирования технологических гигантов к внешнему независимому надзору.