Google объявила об исключении классических параметров генерации — temperature, top_p и top_k — из API последних версий моделей Gemini. Теперь эти настройки игнорируются системой, что знаменует переход к новым методам управления креативностью и вариативностью ответов. Разработчикам, использующим данные модели, необходимо пересмотреть конфигурации своих агентных систем и пайплайнов для корректной работы с API.
Вместо привычных гиперпараметров Google предлагает использовать параметр `response_mime_type` для управления форматом вывода и более строгие системные инструкции. Это изменение направлено на упрощение взаимодействия с моделями и стандартизацию поведения API, при которой ИИ самостоятельно определяет оптимальные параметры генерации на основе контекста запроса и заданных ограничений.
Для существующих интеграций это означает необходимость адаптации кода, так как попытки передать устаревшие параметры больше не будут влиять на результат. Переход к такой модели управления снижает порог входа для настройки генерации, но требует от инженеров изменения подходов к проектированию промптов и системных инструкций, которые теперь становятся основным инструментом контроля за поведением модели.
Ключевые факты
- Параметры `temperature`, `top_p` и `top_k` официально объявлены устаревшими и игнорируются API для последних версий Gemini.
- Изменения касаются актуальных моделей семейства Gemini, доступных через Google AI Studio и Vertex AI.
- Google рекомендует использовать системные инструкции и структурированные форматы вывода для управления качеством генерации.
- Обновление направлено на автоматизацию выбора параметров, чтобы минимизировать необходимость ручной настройки гиперпараметров разработчиками.