Traceforce представила решение для защиты ИИ-приложений, ориентированное на безопасность на уровне отдельных устройств. Платформа позволяет разработчикам контролировать выполнение моделей и взаимодействие с данными в изолированной среде, предотвращая несанкционированный доступ и утечки конфиденциальной информации. Инструмент направлен на решение проблем безопасности при развертывании агентных систем в корпоративной инфраструктуре, где критически важна защита локальных данных.
Основная задача системы заключается в обеспечении «безопасности по умолчанию» для приложений, использующих LLM. В условиях, когда агенты получают доступ к чувствительным API и локальным файлам, Traceforce внедряет механизмы контроля доступа и мониторинга выполнения команд. Это позволяет минимизировать риски, связанные с инъекциями промптов и неконтролируемым поведением моделей, работающих с приватными данными пользователей или компаний.
Платформа предлагает интеграцию, которая не требует глубокого изменения архитектуры существующих ИИ-сервисов. Разработчики могут внедрять политики безопасности, ограничивающие действия агентов в реальном времени. Такой подход особенно актуален для систем, работающих с локальными инференс-движками, где периметр безопасности должен быть выстроен вокруг каждого конкретного узла обработки данных.
Ключевые факты
- Traceforce является участником акселератора Y Combinator (сезон S26).
- Платформа фокусируется на защите ИИ-приложений на уровне отдельных устройств (edge/local).
- Решение направлено на предотвращение утечек данных и несанкционированного доступа при работе агентов.
- Архитектура системы поддерживает контроль выполнения команд в изолированной среде для минимизации рисков безопасности.