Крупнейшие китайские технологические компании ByteDance и Alibaba начали ограничивать функциональность своих ИИ-платформ, позволяющих пользователям создавать персонализированных «человекоподобных» агентов. Эти меры приняты в преддверии вступления в силу новых государственных требований, направленных на усиление контроля за генеративным контентом и предотвращение дезинформации, имитирующей реальных людей.
Регуляторы Китая последовательно ужесточают правила для разработчиков ИИ-сервисов, требуя обязательной маркировки контента, созданного нейросетями, и проверки личности пользователей. Платформы, такие как Doubao от ByteDance и Tongyi Qianwen от Alibaba, вынуждены пересматривать свои инструменты кастомизации, чтобы исключить возможность создания ботов, которые могут вводить пользователей в заблуждение, выдавая себя за реальных личностей или распространяя несанкционированную информацию.
Подобные ограничения отражают глобальный тренд на усиление надзора за этическими аспектами ИИ. Компании стремятся минимизировать риски, связанные с потенциальным злоупотреблением технологиями дипфейков и социальной инженерии, которые становятся всё более доступными благодаря развитию больших языковых моделей. В результате разработчики вынуждены балансировать между гибкостью своих продуктов и строгими требованиями регуляторов к безопасности и прозрачности.
Ключевые факты
- ByteDance и Alibaba начали отключать функции создания кастомных ИИ-агентов, имитирующих поведение реальных людей.
- Меры приняты в ответ на новые регуляторные требования Китая, касающиеся прозрачности генеративного ИИ.
- Регуляторы требуют обязательной идентификации пользователей и маркировки контента, созданного нейросетями.
- Ограничения затрагивают популярные платформы Doubao и Tongyi Qianwen, используемые миллионами пользователей.
- Основная цель изменений — борьба с распространением дезинформации и предотвращение мошенничества с использованием ИИ-персонажей.