OpenAI представила обновленные модели GPT-Realtime-2.1 и GPT-Realtime-2.1-mini, предназначенные для создания низколатентных голосовых интерфейсов. Ключевым технологическим улучшением стало внедрение оптимизированного кэширования, которое позволило сократить задержку p95 как минимум на 25%. Новые модели уже доступны через API и поддерживают прямое подключение по протоколу WebRTC для обеспечения высокой скорости передачи аудиопотока.
Версия GPT-Realtime-2.1-mini позиционируется как компактная модель с улучшенными способностями к рассуждению, сохраняя при этом ценовую политику предыдущих мини-версий. Это обновление направлено на разработчиков, создающих интерактивных ИИ-агентов, где критически важна минимальная задержка ответа при обработке естественной речи в реальном времени.
Оптимизация инфраструктуры API через улучшенное кэширование позволяет значительно снизить время ожидания между завершением фразы пользователя и началом генерации ответа моделью. Использование WebRTC в качестве транспортного протокола обеспечивает стабильную работу в условиях нестабильного сетевого соединения, что является важным фактором для развертывания голосовых сервисов в продакшене.
Ключевые факты
- Представлены две новые модели: GPT-Realtime-2.1 и GPT-Realtime-2.1-mini.
- Задержка p95 (95-й перцентиль) снижена на 25% благодаря оптимизации кэширования.
- Модели поддерживают интеграцию через протокол WebRTC для потоковой передачи данных.
- GPT-Realtime-2.1-mini сохраняет ценовую модель, аналогичную предыдущим мини-версиям линейки.
- Обновление ориентировано на снижение задержек в голосовых агентных системах.