Исследование Университета Флиндерса показало, что современные языковые модели продолжают транслировать предвзятые представления о пациентах, основанные на расе и поле. Несмотря на обновления, ИИ-системы склонны давать разные рекомендации по лечению и диагностике для людей с одинаковыми симптомами, если меняются демографические данные, что создает серьезные риски для точности медицинской помощи и равенства в здравоохранении.
Авторы работы проанализировали ответы популярных моделей на клинические сценарии, где единственной переменной были характеристики пациента. Выяснилось, что алгоритмы чаще приписывают определенные состояния представителям конкретных этнических групп или полов, опираясь на устаревшие медицинские догмы, содержащиеся в обучающих выборках. Это подтверждает, что механизмы фильтрации контента и настройки безопасности пока не способны полностью устранить системные искажения, накопленные в данных из интернета и старых медицинских архивов.
Проблема усугубляется тем, что модели часто демонстрируют уверенность в своих ошибочных суждениях, что может вводить в заблуждение практикующих врачей, использующих ИИ как вспомогательный инструмент. Исследователи подчеркивают необходимость внедрения более строгих протоколов проверки моделей перед их интеграцией в клинические рабочие процессы, чтобы минимизировать влияние алгоритмической предвзятости на принятие решений о здоровье пациентов.
Ключевые факты
- Исследование проведено экспертами Университета Флиндерса (Австралия) и опубликовано в августе 2026 года.
- Анализ показал, что ИИ-модели систематически выдают разные рекомендации для пациентов с идентичными симптомами, меняя тактику в зависимости от расовой или гендерной принадлежности.
- Предвзятость моделей напрямую коррелирует с историческими стереотипами, присутствующими в массивах данных, на которых обучались нейросети.
- Ученые призывают к разработке специализированных медицинских бенчмарков для оценки справедливости алгоритмов перед их внедрением в больницах.