Министерство внутренних дел Великобритании столкнулось с судебным разбирательством после того, как судья установил, что ведомство использовало недостоверную информацию, сгенерированную ИИ, для отказа в предоставлении убежища. В ходе проверки выяснилось, что система автоматизированной обработки данных допустила фактические ошибки, которые легли в основу официального решения, что поставило под вопрос надежность алгоритмов в государственных административных процессах.
Инцидент произошел при анализе документов заявителя, где ИИ-инструмент, внедренный для ускорения обработки кейсов, сгенерировал несуществующие факты и исказил контекст предоставленных доказательств. Судья подчеркнул, что автоматизация не освобождает ведомство от ответственности за точность данных, а использование непроверенных результатов работы нейросетей в юридически значимых процедурах нарушает принципы справедливого разбирательства.
Этот случай стал прецедентом, демонстрирующим риски «галлюцинаций» моделей при работе с чувствительными данными. Эксперты отмечают, что отсутствие должного человеческого контроля (Human-in-the-loop) при принятии решений, влияющих на судьбы людей, приводит к системным ошибкам и подрывает доверие к государственным цифровым сервисам.
Ключевые факты
- Судебное решение вынесено в отношении МВД Великобритании (Home Office) по делу об отказе в убежище.
- ИИ-система допустила фактические ошибки, которые были классифицированы судом как «галлюцинации».
- Суд постановил, что автоматизированная обработка не должна подменять собой тщательную проверку фактов чиновниками.
- Инцидент вызвал дискуссию о необходимости внедрения строгих протоколов верификации для ИИ-инструментов в государственном секторе.