OpenAI представила новый режим Lockdown Mode, который направлен на предотвращение утечек данных в случае атак через инъекции в запросы. Этот режим ограничивает исходящие сетевые запросы, что помогает предотвратить передачу конфиденциальной информации. Lockdown Mode уже доступен для личных аккаунтов, включая бесплатные, Go, Plus и Pro, а также для бизнес-аккаунтов ChatGPT в режиме self-serve.
Режим был впервые анонсирован в феврале, и теперь он постепенно внедряется для всех пользователей. OpenAI подчеркивает, что Lockdown Mode особенно полезен для защиты от финальной стадии эксфильтрации данных, которая может произойти в результате успешной атаки через инъекции в запросы.
Для разработчиков ИИ-агентов, таких как Jarv, этот режим представляет собой важный инструмент для повышения безопасности. В условиях роста числа атак на ИИ-системы, Lockdown Mode может стать стандартом для защиты данных. Важно отметить, что OpenAI продолжает работать над улучшением безопасности своих моделей, и Lockdown Mode является частью этой стратегии.
Внедрение Lockdown Mode также подчеркивает важность постоянного мониторинга и обновления мер безопасности. Для команд, работающих над ИИ-агентами, это напоминание о необходимости интеграции подобных режимов в свои системы. В будущем можно ожидать, что такие меры станут обязательными для всех ИИ-сервисов, чтобы обеспечить защиту пользовательских данных.