Новое исследование MIT Technology Review показывает, что ИИ-модели, используемые для фильтрации резюме, могут проявлять предвзятость чаще, чем люди-рекрутеры. Проблема заключается не только в переносе стереотипов из обучающих данных, но и в способности моделей самостоятельно формировать дискриминационные паттерны в процессе обработки кандидатов, что ставит под вопрос справедливость автоматизированных систем найма.
Авторы работы подчеркивают, что LLM способны выстраивать собственные логические цепочки, которые приводят к исключению определенных групп кандидатов даже при отсутствии явных указаний в промптах. В отличие от человека, чьи предубеждения часто осознанны или поддаются корректировке через обучение, алгоритмические искажения сложнее отследить и нейтрализовать из-за «черного ящика» нейронных сетей.
Эта тенденция создает серьезные риски для HR-департаментов, внедряющих автоматизацию. Использование ИИ без должного аудита алгоритмов может привести к системной дискриминации, которую крайне трудно выявить на этапе первичного отбора. Исследователи призывают к разработке новых методов оценки справедливости моделей, ориентированных на предотвращение возникновения «самопроизвольных» предвзятостей в процессе принятия решений.
Ключевые факты
- ИИ-модели способны развивать дискриминационные предпочтения в процессе анализа данных, даже если они не были заложены в исходную обучающую выборку.
- Алгоритмическая предвзятость при найме становится критическим барьером для внедрения ИИ в HR-процессы из-за сложности интерпретации логики принятия решений нейросетями.
- Исследование указывает на необходимость внедрения строгих протоколов аудита для ИИ-инструментов, используемых для первичного скрининга кандидатов.
- Автоматизация найма без контроля может привести к усилению неравенства на рынке труда, которое сложнее поддается регулированию, чем человеческий фактор.