Европейский союз утвердил новые правила, обязывающие разработчиков и платформы маркировать любой контент, созданный с помощью искусственного интеллекта, если он выглядит реалистично. Цель инициативы — борьба с дезинформацией и повышение прозрачности цифровой среды. Нарушение требований повлечет за собой значительные штрафы для компаний, работающих на европейском рынке, что потребует внедрения новых стандартов метаданных и визуальных меток.
Новые требования распространяются на изображения, аудио и видео, которые могут быть ошибочно приняты за реальные события или высказывания людей. Регулирование затрагивает как крупные технологические корпорации, так и локальных разработчиков генеративных моделей. Компании обязаны внедрять технические решения для автоматического распознавания и пометки контента, созданного нейросетями, в момент его генерации или публикации.
Законодательная база направлена на защиту пользователей от дипфейков и манипуляций общественным мнением. Разработчики должны будут обеспечить наличие цифровых водяных знаков, которые невозможно удалить без повреждения исходного файла. Эти меры станут частью комплексного подхода ЕС к управлению рисками, связанными с развитием технологий генеративного ИИ.
Ключевые факты
- Маркировка становится обязательной для любого контента, который визуально или аудиально неотличим от реальных записей.
- Правила охватывают все типы генеративных моделей, включая генераторы изображений, видео и синтезаторы голоса.
- Компании обязаны использовать устойчивые к удалению цифровые водяные знаки для идентификации ИИ-происхождения.
- Несоблюдение регламента грозит штрафами, сопоставимыми с санкциями за нарушение GDPR, что может достигать значительных процентов от мирового оборота компании.
- Внедрение стандартов направлено на снижение рисков распространения дипфейков в преддверии крупных политических и общественных событий.