Представитель Управления по финансовому регулированию и надзору Великобритании (FCA) заявил о необходимости введения государственного регулирования для разработчиков ИИ-моделей. По мнению регулятора, отсутствие контроля над базовыми технологиями создает системные риски для финансового сектора, требуя создания четких стандартов ответственности и прозрачности для компаний, внедряющих генеративный ИИ в критически важные бизнес-процессы и финансовые услуги.
Инициатива подчеркивает растущую обеспокоенность властей тем, что бесконтрольное использование алгоритмов может привести к манипуляциям на рынках, ошибкам в оценке кредитных рисков и нарушению прав потребителей. Регулятор настаивает на том, что текущих рыночных механизмов саморегулирования недостаточно для обеспечения стабильности финансовой системы в условиях массового внедрения автоматизированных решений.
Обсуждение фокусируется на создании правовой базы, которая будет учитывать специфику работы больших языковых моделей. В отличие от традиционного ПО, ИИ-системы обладают непредсказуемостью результатов, что усложняет аудит и контроль. Предлагаемые меры направлены на то, чтобы обязать разработчиков предоставлять доступ к данным об обучении и методам тестирования моделей перед их интеграцией в финансовые продукты.
Ключевые факты
- FCA (Financial Conduct Authority) выступает за ужесточение контроля над разработчиками ИИ-моделей в Великобритании.
- Основная цель регулирования — предотвращение системных рисков в финансовом секторе, включая рыночные манипуляции.
- Регулятор подчеркивает необходимость прозрачности алгоритмов и ответственности компаний за результаты работы ИИ.
- Обсуждаются требования к обязательному аудиту моделей перед их внедрением в финансовые услуги.
- Инициатива является частью глобального тренда на усиление государственного надзора за технологиями искусственного интеллекта.