OpenAI заблокировала аккаунты группы злоумышленников из Камбоджи, которые использовали ChatGPT для масштабирования мошеннических схем. Преступники применяли нейросеть для генерации текстов в рамках «романтических» афер, инвестиционного мошенничества и имитации личностей. Это стало частью стратегии компании по борьбе с вредоносным использованием ИИ-инструментов в киберпреступной деятельности.
В ходе расследования было выявлено, что участники сети использовали возможности генеративного ИИ для написания убедительных сообщений на разных языках, что позволяло им эффективнее входить в доверие к жертвам. Мошенники автоматизировали процесс общения, создавая персонализированный контент для обмана пользователей в социальных сетях и мессенджерах. OpenAI удалила все связанные с этой операцией учетные записи и внедрила дополнительные механизмы мониторинга для предотвращения подобных инцидентов в будущем.
Данный случай подчеркивает растущую проблему использования больших языковых моделей для социальной инженерии. Компания продолжает сотрудничать с экспертами по кибербезопасности, чтобы выявлять и пресекать попытки эксплуатации своих технологий в незаконных целях, включая фишинг и создание поддельных профилей для выманивания денежных средств.
Ключевые факты
- Мошенническая сеть базировалась в Камбодже и специализировалась на инвестиционных и «романтических» аферах.
- ИИ использовался для создания персонализированных текстов на нескольких языках, что повышало конверсию в мошеннических схемах.
- OpenAI заблокировала все выявленные аккаунты, связанные с этой операцией, и усилила меры по обнаружению подозрительной активности.
- Компания опубликовала отчет, чтобы предупредить пользователей о методах социальной инженерии с применением ИИ.