Компания Anthropic пересмотрела параметры контекстного окна для своих платных тарифов. Модель Claude 3 Opus теперь поддерживает до 100 000 токенов, что вдвое меньше прежнего значения. При этом модель Claude 3.5 Sonnet сохраняет расширенную поддержку до 1 миллиона токенов, предлагая пользователям более гибкие возможности для обработки объемных документов и длинных программных кодов в рамках подписки.
Изменения направлены на оптимизацию производительности и распределение вычислительных мощностей между различными версиями моделей. Снижение лимита для Opus может быть связано с высокой стоимостью инференса этой модели, требующей значительных ресурсов при работе с максимальными объемами данных. В то же время сохранение миллионного окна для Sonnet подчеркивает фокус компании на развитии более эффективных и быстрых архитектур для задач с большим контекстом.
Пользователи платных тарифов могут использовать обновленные лимиты как в веб-интерфейсе, так и через API. Эти корректировки отражают общую тенденцию в индустрии, где разработчики стремятся балансировать между глубиной анализа данных и скоростью отклика моделей, адаптируя технические ограничения под реальные сценарии использования в корпоративном секторе и разработке ПО.
Ключевые факты
- Контекстное окно Claude 3 Opus сокращено до 100 000 токенов.
- Модель Claude 3.5 Sonnet сохраняет поддержку контекста объемом до 1 000 000 токенов.
- Изменения распространяются на всех подписчиков платных тарифных планов Claude.
- Обновление лимитов доступно как для прямого взаимодействия с чат-ботом, так и для интеграций через API.