Исследователи проанализировали уязвимости алгоритмических торговых систем, использующих LLM для анализа новостных заголовков. Выяснилось, что специально сформированные «отравленные» заголовки могут провоцировать модели на ошибочную интерпретацию рыночных настроений, что приводит к неверным торговым решениям. Работа демонстрирует критические риски безопасности для финансовых ИИ-систем, полагающихся на нефильтрованные потоки данных из открытых источников.

Авторы работы изучили, как LLM обрабатывают семантические нюансы в финансовом контексте. В ходе экспериментов выяснилось, что даже незначительные изменения в структуре предложения или использование специфических эмоционально окрашенных слов могут радикально менять вектор предсказания модели. Это создает вектор атаки, при котором злоумышленники могут искусственно влиять на торговых агентов, манипулируя их восприятием рыночных событий.

Исследование подчеркивает необходимость внедрения более надежных механизмов верификации данных перед их подачей в торговые алгоритмы. Традиционные методы анализа текстов, основанные на простых словарях, уступают место сложным нейросетевым архитектурам, которые, в свою очередь, становятся уязвимыми к состязательным атакам (adversarial attacks). Разработчикам предлагается использовать методы ансамблирования моделей и проверки фактов через независимые источники для снижения вероятности манипуляций.

Ключевые факты

  • Исследование сфокусировано на уязвимости LLM при обработке заголовков в высокочастотной торговле.
  • Выявлено, что состязательные манипуляции заголовками могут приводить к систематическим ошибкам в оценке активов.
  • Авторы предлагают использовать многоуровневую проверку данных для защиты от манипуляций рыночными настроениями.
  • Работа подчеркивает критическую важность устойчивости ИИ-моделей к искаженным входным данным в финансовом секторе.