Правительство штата Калифорния официально подтвердило эксплуатацию ряда систем искусственного интеллекта, классифицируемых как инструменты высокого риска. Ранее власти отрицали наличие подобных технологий в государственном секторе или уклонялись от отчетности по ним. Речь идет об алгоритмах, которые применяются для принятия решений в сферах социальной защиты, правоохранительной деятельности и управления государственными услугами.
Согласно внутренним данным, многие из этих систем не проходили обязательную процедуру декларирования, предусмотренную местными протоколами прозрачности. Отсутствие отчетности затрудняло внешний аудит алгоритмов на предмет предвзятости, точности и соблюдения прав граждан. Теперь ведомства обязаны провести инвентаризацию всех используемых решений и предоставить подробную информацию об их архитектуре, целях внедрения и методах контроля качества.
Этот инцидент подчеркивает сложность контроля за внедрением ИИ в государственном управлении, где автоматизация процессов часто опережает законодательное регулирование. Власти штата столкнулись с необходимостью пересмотра стандартов подотчетности, чтобы исключить риски дискриминации и ошибок при автоматизированном распределении ресурсов. Ситуация в Калифорнии становится прецедентом для других регионов, стремящихся сбалансировать эффективность цифровизации с требованиями общественной безопасности и прозрачности.