Система Meta (признана экстремистской организацией, деятельность запрещена в РФ) для автоматического распознавания изображений, созданных искусственным интеллектом, оказалась неэффективной против базового редактирования. Исследование показало, что простая обрезка или изменение размера сгенерированных картинок позволяет им обходить встроенные фильтры маркировки, что ставит под сомнение надежность текущих методов верификации контента в социальных сетях компании.
Технология, внедренная для борьбы с дезинформацией, опирается на скрытые водяные знаки, которые должны сохраняться даже после обработки файлов. Однако на практике алгоритмы часто не распознают метаданные или визуальные маркеры, если исходное изображение подверглось минимальной трансформации. Это создает серьезный пробел в безопасности, позволяя пользователям распространять сгенерированный контент без обязательной пометки «AI-generated».
Проблема подчеркивает технологические ограничения существующих стандартов цифровой маркировки. Несмотря на усилия индустрии по созданию единых протоколов для идентификации синтетического медиа, текущие решения остаются чувствительными к манипуляциям, что затрудняет контроль за распространением дипфейков и другого потенциально вводящего в заблуждение контента на платформах Instagram (принадлежит Meta, признанной экстремистской и запрещённой в РФ) и Facebook.
Ключевые факты
- Инструменты Meta не смогли идентифицировать ИИ-изображения после их кадрирования или изменения разрешения.
- Проблема затрагивает систему автоматической маркировки, призванную отличать контент, созданный нейросетями, от реальных фотографий.
- Эксперты отмечают, что текущие водяные знаки легко удаляются или искажаются при стандартной обработке изображений.
- Несовершенство детекции затрудняет реализацию политики компании по борьбе с распространением немаркированного синтетического контента.