Итальянское управление по защите персональных данных (Garante) наложило штраф на компанию Character.ai из-за недостаточных мер по верификации возраста пользователей. Регулятор установил, что платформа не обеспечивала эффективную защиту несовершеннолетних от потенциально вредоносного контента, что нарушает требования европейского законодательства о конфиденциальности и безопасности детей в цифровой среде.
Расследование было инициировано после жалоб на то, что алгоритмы сервиса могут предлагать подросткам контент, не соответствующий их возрасту, или вовлекать их в небезопасные диалоги. Регулятор подчеркнул, что разработчики ИИ-платформ обязаны внедрять надежные механизмы подтверждения личности, чтобы исключить доступ детей к функциям, предназначенным для взрослой аудитории.
Данный инцидент стал очередным подтверждением ужесточения контроля над разработчиками генеративных моделей в Евросоюзе. Власти ЕС активно проверяют, как компании соблюдают требования GDPR и специализированные нормы по защите несовершеннолетних, требуя от бизнеса прозрачности в алгоритмах фильтрации и строгого соблюдения возрастных ограничений при регистрации.
Ключевые факты
- Сумма штрафа составила 200 тысяч евро.
- Регулятор выявил отсутствие адекватных систем проверки возраста при регистрации новых пользователей.
- Character.ai обязали пересмотреть политику обработки данных и внедрить дополнительные инструменты защиты несовершеннолетних.
- Решение принято итальянским органом по защите данных Garante в рамках надзора за соблюдением цифровых прав граждан.