Банк Англии изучает возможность внедрения механизмов экстренной остановки торгов, управляемых искусственным интеллектом, для предотвращения системных сбоев на финансовых рынках. Регулятор опасается, что непредсказуемое поведение автономных моделей может спровоцировать каскадные обвалы цен, поэтому прорабатывает протоколы «kill switches», позволяющие мгновенно перевести системы в безопасный режим при возникновении аномалий в торговых операциях.
Инициатива вызвана растущей зависимостью инвестиционных компаний от алгоритмических стратегий, использующих машинное обучение для анализа рыночных данных и исполнения сделок. В отличие от традиционных алгоритмов, современные ИИ-системы способны обучаться на лету, что усложняет прогнозирование их реакции на экстремальные рыночные события. Регулятор стремится создать стандартизированный подход к контролю за такими системами, чтобы избежать «эффекта домино» в случае ошибки модели.
Обсуждение включает не только техническую реализацию принудительного отключения, но и вопросы ответственности за принятые решения. Банк Англии подчеркивает необходимость прозрачности в том, как именно модели принимают торговые решения, и требует от финансовых институтов проведения стресс-тестов, имитирующих сценарии «неконтролируемого» поведения ИИ в условиях высокой волатильности.
Ключевые факты
- Регулятор опасается возникновения «флеш-крэшей», вызванных непредсказуемыми действиями ИИ-агентов в условиях высокой нагрузки.
- Банк Англии планирует обязать финансовые организации внедрять протоколы принудительного отключения (kill switches) для автоматизированных систем.
- В центре внимания находятся риски «черного ящика», где логика принятия решений ИИ становится непрозрачной для операторов и регуляторов.
- Новые требования направлены на обеспечение операционной устойчивости финансового сектора перед лицом массового внедрения генеративного ИИ и автономных торговых ботов.