Simon Willison's Weblog · 30.07.2026 ·Разработка и инструменты

Обновление CLI-инструмента llm до версии 0.32rc2

Вышел релиз-кандидат 0.32rc2 популярного CLI-инструмента для работы с языковыми моделями llm. Основным изменением стала смена модели по умолчанию: теперь вместо GPT-4o mini пользователям предлагается GPT-5.6 Luna. Обновление также исправляет критическую ошибку в зависимостях, обеспечивая более стабильную работу утилиты в различных окружениях.

Переход на модель Luna обусловлен её более высокими показателями производительности и актуальности данных. Несмотря на улучшенные характеристики, использование новой модели влечет за собой изменение тарифной сетки: стоимость обработки входных токенов составляет 0,20 доллара за миллион, а выходных — 1,20 доллара за миллион. Это делает инструмент более мощным, но требует от пользователей учета возросших затрат при выполнении запросов.

Инструмент llm продолжает развиваться как стандартное решение для разработчиков, предпочитающих взаимодействие с LLM через командную строку. Релиз 0.32rc2 фокусируется на балансе между доступностью современных архитектур и исправлением технических недочетов, выявленных в предыдущей тестовой версии.

Ключевые факты

Релиз: версия 0.32rc2 CLI-инструмента llm.
Новая модель по умолчанию: GPT-5.6 Luna (ранее использовалась GPT-4o mini).
Стоимость входных токенов Luna: 0,20 доллара за 1 млн токенов.
Стоимость выходных токенов Luna: 1,20 доллара за 1 млн токенов.
Исправлена ошибка в зависимостях, присутствовавшая в версии RC1.

Источник: Simon Willison's Weblog

Обсудить с ИИ

Похожие материалы

Simon Willison's Weblog · Разработка и инструменты Обновление CLI-инструмента LLM 0.31.1 Вышел релиз CLI-инструмента LLM версии 0.31.1, устраняющий критическую ошибку при работе с API OpenAI Chat Completion. Проблема возникала при передаче вызовов инструментов (tool calls) с пустыми аргументами, что приводило к сбоям парсинга JSON у ряда провайдеров. Обновление обеспечивает корректную обработку таких запросов, повышая стабильность взаимодействия с агентными функциями. Simon Willison's Weblog · Разработка и инструменты Релиз llm 0.32rc1: новая схема хранения данных и дедупликация сообщений Вышла предварительная версия CLI-инструмента llm 0.32rc1, внедряющая обновленную схему базы данных для работы с современными семействами моделей. Ключевым нововведением стало использование контентно-адресуемых хеш-идентификаторов для всех сохраненных сообщений. Это изменение обеспечивает автоматическую дедупликацию данных в хранилище и позволяет более эффективно управлять историей промптов и ответов, поступающих от различных LLM. Hacker News · Инференс и железо Оптимизация инференса LLM: ускорение работы моделей на потребительском железе Разработчик представил инструмент quantprobe, позволяющий значительно повысить скорость генерации токенов для крупных языковых моделей на ограниченных аппаратных ресурсах. Решение оптимизирует процесс инференса, достигая показателей в 22 токена в секунду для 30B-моделей и до 109 токенов в секунду на конфигурациях с 6–16 ГБ оперативной памяти, обходя стандартные ограничения llama.cpp. Hacker News · Модели и релизы OpenAI представила модель GPT-5.6 Luna с улучшенным медицинским рассуждением OpenAI выпустила новую модель GPT-5.6 Luna, которая демонстрирует значительный прогресс в задачах медицинского рассуждения по сравнению с версией GPT-5.5. Помимо повышения точности ответов в специализированных областях, разработчикам удалось снизить стоимость инференса в 25 раз, что делает использование высокопроизводительных моделей в здравоохранении и смежных индустриях существенно доступнее для бизнеса и исследовательских организаций. Hacker News · Инференс и железо Практическое руководство по локальному запуску LLM через Llama.cpp Развертывание больших языковых моделей на собственном оборудовании становится доступнее благодаря оптимизациям в Llama.cpp. Инструмент позволяет запускать современные LLM на потребительском железе, эффективно используя ресурсы CPU и GPU. Это решение критически важно для задач, требующих приватности данных, снижения затрат на облачные API и обеспечения низкой задержки при работе с локальными агентными системами. Hacker News · Оценка и бенчмарки Результаты модели GPT-5.6 Luna в задачах кибербезопасности Новая модель GPT-5.6 Luna продемонстрировала значительный прирост эффективности при анализе безопасности программного кода. Согласно последним бенчмаркам, система показывает более высокий показатель возврата инвестиций (ROI) при поиске уязвимостей по сравнению с предыдущими версиями, сокращая время на ручную проверку и количество ложноположительных срабатываний в автоматизированных пайплайнах разработки. Simon Willison's Weblog · Инференс и железо llm 0.32a3: новый релиз с поддержкой Claude Fable 5 Вышел новый релиз llm 0.32a3, который включает поддержку модели Claude Fable 5 от Anthropic. Это значительное обновление, так как llm — это фреймворк для локального запуска больших языковых моделей, что делает его потенциально полезным для разработки ИИ-агентов, таких как Jarv. Hacker News · Инференс и железо LocalInference: руководство по запуску LLM на собственном оборудовании LocalInference.io — это специализированная платформа и сообщество, аккумулирующие технические руководства по запуску больших языковых моделей на локальных вычислительных мощностях. Ресурс помогает разработчикам и энтузиастам подбирать аппаратное обеспечение, оптимизировать параметры инференса и настраивать среду выполнения для работы с open-source моделями без обращения к облачным API, обеспечивая полный контроль над данными и приватностью. Hacker News · Инференс и железо Локальный запуск LLM: актуальный стек инструментов и сценарии использования Сообщество разработчиков активно обсуждает инструменты для локального запуска LLM, выделяя наиболее эффективные решения для работы с моделями на персональных компьютерах. Пользователи делятся опытом использования инфраструктурных стеков, позволяющих запускать современные веса моделей с минимальными задержками, обеспечивая приватность данных и независимость от облачных API при разработке агентных систем и локальных RAG-решений. Hacker News · Модели и релизы Релиз GLM-5.2: открытая модель с производительностью уровня Claude при низкой стоимости Разработчики представили GLM-5.2 — новую открытую языковую модель, которая демонстрирует результаты, сопоставимые с Claude 3.5 Sonnet, при этом стоимость её эксплуатации в пять раз ниже. Релиз ориентирован на создание эффективных альтернатив проприетарным решениям, позволяя компаниям снижать расходы на инференс без потери качества обработки сложных запросов и генерации контента.

← Все материалы