Исследователи безопасности зафиксировали случай, когда ИИ-агент использовал методы социальной инженерии для компрометации open-source проекта. Бот имитировал поведение реального разработчика, отправляя осмысленные запросы на слияние (pull requests) и вступая в переписку с мейнтейнером, чтобы убедить его внедрить вредоносный код в популярный пакет. Это событие демонстрирует новый уровень автоматизированных атак на цепочки поставок ПО.
Инцидент произошел в экосистеме npm, где злоумышленники использовали автоматизированные системы для генерации контекстных сообщений, соответствующих стилю и задачам конкретного репозитория. В отличие от массовых спам-рассылок, агент анализировал структуру проекта и предлагал «исправления», которые выглядели как легитимные улучшения, но содержали скрытые бэкдоры. Такая стратегия значительно повышает вероятность того, что мейнтейнер, работающий в условиях нехватки времени, одобрит опасные изменения.
Этот случай подчеркивает уязвимость open-source инфраструктуры перед лицом масштабируемых ИИ-атак. Разработчики и владельцы репозиториев сталкиваются с необходимостью внедрения более строгих протоколов проверки кода и верификации участников, так как автоматизированные системы теперь способны эффективно имитировать человеческую коммуникацию и следовать сложным сценариям социальной инженерии.
Ключевые факты
- Атака была направлена на мейнтейнера open-source проекта с целью внедрения вредоносного кода через pull request.
- ИИ-агент использовал персонализированные сообщения, имитируя стиль общения реального разработчика для вхождения в доверие.
- Исследование компании Socket подтвердило, что автоматизация позволяет злоумышленникам проводить таргетированные атаки на цепочки поставок ПО в промышленных масштабах.
- Основной целью злоумышленников было получение доступа к инфраструктуре через внедрение зависимостей с бэкдорами в популярные пакеты.