arXiv · 17.06.2026 ·Оценка и бенчмарки

Новый бенчмарк для выявления ИИ-сгенерированных изображений с текстом

Исследователи представили специализированный набор данных для оценки способности систем обнаруживать изображения, созданные нейросетями и содержащие значительные объемы текста. Современные мультимодальные модели научились генерировать реалистичные документы, графики и интерфейсы, что создает риски подделки конфиденциальной, финансовой или юридически значимой информации. Существующие инструменты детекции часто не справляются с анализом сложных визуальных структур, где текст является ключевым элементом.

Бенчмарк сфокусирован на модели GPT-Image-2 и охватывает широкий спектр доменов, включая транзакционные документы и пользовательские интерфейсы. Авторы работы подчеркивают, что точность распознавания таких изображений критически важна для поддержания цифрового доверия и проверки подлинности контента в условиях, когда визуальные данные становятся основным источником принятия решений.

Разработка направлена на преодоление ограничений текущих методов верификации, которые зачастую ориентированы на поиск артефактов в фотореалистичных изображениях, но упускают из виду логические и структурные несоответствия в текстовых элементах. Внедрение подобных стандартов тестирования позволит создавать более надежные системы фильтрации контента, способные противодействовать распространению сгенерированных документов, имитирующих реальные деловые бумаги.

Источник: arXiv

Похожие материалы

arXiv · Оценка и бенчмарки Исследование: как ИИ справляется с юридическим мышлением по стандартам ЕС Исследователи из arXiv выявили пробел в оценке способностей ИИ-моделей выполнять юридическое мышление. Существующие бенчмарки фокусируются на вспомогательных задачах, а не на интерпретации правовых норм, что критически важно для применения ИИ в юриспруденции. arXiv · Машинное обучение ProductConsistency: новый метод сохранения идентичности объектов при редактировании изображений Исследователи представили метод ProductConsistency, направленный на решение проблемы потери деталей при редактировании изображений с помощью текстовых инструкций. Современные модели часто искажают ключевые характеристики товаров, такие как брендинг, специфические элементы дизайна и текстовые надписи, когда пользователь запрашивает изменение фона или окружения. Новый подход позволяет сохранять визуальную идентичность продукта, что критически важно для коммерческого использования ИИ в маркетинге и электронной коммерции. arXiv · Оценка и бенчмарки Новый бенчмарк для оценки качества генерации презентаций X+Slides Исследователи представили X+Slides — специализированный бенчмарк для оценки того, насколько эффективно большие языковые модели адаптируют контент презентаций под конкретную аудиторию. Существующие инструменты автоматической генерации слайдов часто фокусируются лишь на полноте данных или технической сложности текста, игнорируя контекст восприятия информации конечным пользователем. Hacker News · Оценка и бенчмарки BEAVER: новый бенчмарк для оценки LLM в Text-to-SQL Исследователи представили BEAVER — новый бенчмарк для оценки способности языковых моделей (LLM) преобразовывать текстовые запросы в SQL. Это важный шаг в развитии ИИ-агентов, которые могут работать с базами данных, так как Text-to-SQL является критически важной задачей для автоматизации аналитики и управления данными. Hacker News · Оценка и бенчмарки Первые результаты Legal Agent Benchmark для оценки ИИ-агентов Команда исследователей под руководством Габриэля Перейры представила первые результаты Legal Agent Benchmark (LAB) — нового бенчмарка для оценки способностей ИИ-агентов решать юридические задачи. Бенчмарк включает в себя набор тестов, имитирующих реальные юридические сценарии, такие как анализ договоров, подготовка документов и консультирование по правовым вопросам. arXiv · Память и RAG Новый бенчмарк для клинического QA с доказательствами Исследователи представили EHRNote-ChatQA — бенчмарк для оценки систем, способных отвечать на сложные медицинские вопросы с опорой на доказательства. Он основан на выписках пациентов (discharge summaries), которые содержат ключевую информацию о госпитализации и используются врачами для принятия решений. arXiv · Машинное обучение Геометрия собственных чисел в анализе семантических атак на ИИ Исследователи представили новый теоретический подход к изучению уязвимостей моделей классификации, основанный на анализе геометрии собственных чисел. Работа фокусируется на проблеме семантических состязательных атак, при которых незначительные перефразирования текста приводят к изменению предсказаний модели, несмотря на сохранение исходного смысла и близость векторных представлений. Hacker News · Другое AI может читать PDF иначе, чем пользователи Исследователи обнаружили, что ИИ-модели могут интерпретировать PDF-документы по-разному по сравнению с пользователями. Это связано с тем, что модели обрабатывают текст, извлечённый из PDF, без учёта форматирования и структуры, что может приводить к ошибкам в восприятии информации. Hacker News · Модели и релизы Новая модель для реального времени взаимодействия с изображениями и текстом Исследователи представили модель JoyAI-VL-Interaction, предназначенную для взаимодействия с изображениями и текстом в реальном времени. Она способна обрабатывать визуальные и текстовые данные одновременно, что открывает возможности для новых приложений в области компьютерного зрения и обработки естественного языка. Hacker News · Исследования и наука Оценка и бенчмарки для понимания длинных видео Исследователи представили второй этап работы по пониманию длинных видео, посвящённый оценке и бенчмаркам. В статье рассматриваются методы оценки эффективности моделей, которые анализируют видео продолжительностью более часа.

← Все материалы