Федеральное правительство США опубликовало официальное заявление, направленное против практики искусственного ограничения точности ИИ-моделей. Регулятор подчеркивает, что намеренное подавление достоверности данных в угоду коммерческим или идеологическим интересам нарушает принципы прозрачности и безопасности. Документ устанавливает новые стандарты подотчетности для разработчиков, обязывая их обеспечивать объективность и проверяемость результатов работы алгоритмов в критически важных отраслях.
Инициатива стала ответом на участившиеся случаи, когда разработчики ИИ-систем вносили коррективы в веса моделей или наборы данных, чтобы сделать ответы более «удобными» или предсказуемыми, жертвуя при этом фактической точностью. Власти классифицируют подобные действия как форму манипуляции информацией, которая может привести к системным ошибкам в экономике, медицине и государственном управлении.
Новая политика требует от компаний внедрения механизмов аудита, позволяющих внешним экспертам проверять, не подвергались ли модели искусственному искажению. В случае выявления преднамеренного снижения точности, разработчики могут столкнуться с ограничениями на использование своих продуктов в государственных контрактах и усиленным надзором со стороны профильных ведомств.
Ключевые факты
- Документ опубликован в Федеральном реестре США 7 июля 2026 года под номером 2026-13628.
- Политика прямо запрещает «подавление точности» (suppression of accuracy) как метод манипуляции поведением ИИ-агентов.
- Введены требования по обязательному аудиту весов моделей и обучающих выборок на предмет предвзятых искажений.
- Регулирование распространяется на компании, предоставляющие ИИ-решения для критической инфраструктуры и госсектора.
- Нарушение стандартов влечет за собой риск исключения из цепочек поставок государственных технологических систем.