Организаторы крупной научной конференции столкнулись с критикой после внедрения скрытых инструкций для проверки рецензий на использование ИИ. Исследователи заявили, что подобные методы «ловушек» подрывают доверие к процессу рецензирования и могут приводить к ложноположительным результатам, когда добросовестные авторы ошибочно обвиняются в использовании генеративных моделей для написания своих отзывов.
Конфликт возник, когда в систему подачи рецензий были встроены невидимые для пользователей промпты, предназначенные для провокации ИИ-моделей. Целью было заставить систему выдать специфические маркеры, характерные для ответов ChatGPT или других чат-ботов. Однако научное сообщество выразило обеспокоенность тем, что подобные методы детекции не обладают достаточной точностью и прозрачностью, что ставит под угрозу репутацию ученых.
Критики подчеркивают, что использование скрытых манипуляций в академической среде нарушает этические нормы взаимодействия между организаторами конференций и экспертами. Вместо внедрения скрытых проверок предлагается сосредоточиться на создании прозрачных политик использования ИИ, которые поощряют раскрытие инструментов, а не пытаются поймать исследователей с помощью сомнительных технических уловок.
Ключевые факты
- Конференция внедрила скрытые инструкции в систему рецензирования для идентификации текстов, сгенерированных ИИ.
- Ученые раскритиковали метод за отсутствие прозрачности и риск ложных обвинений в адрес добросовестных рецензентов.
- Проблема вызвала дискуссию о необходимости стандартизации этических правил использования ИИ в академических публикациях.
- Эксперты указывают на низкую надежность инструментов детекции ИИ-контента в условиях научной экспертизы.