Стартап Arrakis привлек $8 млн инвестиций для разработки платформы, обеспечивающей безопасность ИИ-агентов в режиме реального времени. Система фокусируется на предотвращении несанкционированных действий и утечек данных, контролируя выполнение кода и взаимодействие агентов с внешними API. Решение направлено на минимизацию рисков, связанных с автономным поведением моделей в корпоративной среде.
По мере того как компании внедряют автономных агентов для выполнения бизнес-задач, вопросы контроля доступа и предотвращения «галлюцинаций» или вредоносных действий становятся критическими. Традиционные методы защиты периметра оказываются недостаточно эффективными против динамических цепочек вызовов, которые генерируют современные LLM. Arrakis предлагает слой мониторинга, который анализирует поведение агента непосредственно в процессе исполнения.
Платформа позволяет компаниям устанавливать политики безопасности, ограничивающие полномочия агентов. Это включает контроль над тем, какие инструменты и базы данных может использовать модель, а также проверку выходных данных на соответствие корпоративным стандартам. Такой подход позволяет безопасно интегрировать агентные системы в критически важные бизнес-процессы, снижая вероятность ошибок или злоупотреблений.
Ключевые факты
- Объем раунда финансирования составил $8 млн.
- Основная задача платформы — контроль действий ИИ-агентов в режиме реального времени.
- Технология фокусируется на предотвращении несанкционированного доступа к API и данным.
- Решение предназначено для защиты корпоративных сред от рисков автономного поведения моделей.