Исследователи из MIT и других ведущих университетов представили TrustedARI — фреймворк для безопасного маршрутизации запросов ИИ-агентов. В работе подчёркивается, что существующие системы Agentic Routing Infrastructure (ARI) получают доступ к запросам и ответам в открытом виде, что создаёт риски для конфиденциальности и целостности данных.
TrustedARI предлагает решение, которое позволяет агентам проверять, что их запросы действительно направляются в нужные сервисы, а ответы не изменяются в процессе маршрутизации. Это особенно важно для агентов, работающих с конфиденциальными данными или в критических приложениях.
Авторы также обсуждают, как TrustedARI может быть интегрирован в существующие системы ARI, обеспечивая при этом минимальные накладные расходы. Это делает его потенциально полезным для разработчиков, стремящихся к созданию более безопасных и надёжных ИИ-агентов.
Для команды Jarv эта работа особенно актуальна, так как она предлагает конкретные решения для одной из ключевых проблем в разработке агентов — обеспечения безопасности и доверия в процессе маршрутизации запросов.