Simon Willison's Weblog · 09.07.2026 ·Разработка и инструменты

Обновление CLI-инструмента LLM 0.31.1

Вышел релиз CLI-инструмента LLM версии 0.31.1, устраняющий критическую ошибку при работе с API OpenAI Chat Completion. Проблема возникала при передаче вызовов инструментов (tool calls) с пустыми аргументами, что приводило к сбоям парсинга JSON у ряда провайдеров. Обновление обеспечивает корректную обработку таких запросов, повышая стабильность взаимодействия с агентными функциями.

Инструмент LLM активно используется разработчиками для взаимодействия с различными языковыми моделями через командную строку. Исправление стало необходимым в ходе тестирования интеграции с новыми провайдерами, где строгая валидация JSON-схем приводила к ошибкам при отсутствии параметров в теле вызова функции.

Данное обновление является техническим патчем, направленным на повышение надежности инфраструктуры при работе с агентными паттернами, где вызовы инструментов являются ключевым элементом автоматизации. Исправление гарантирует, что пустые аргументы больше не будут блокировать выполнение цепочек запросов к LLM.

Ключевые факты

Версия релиза: 0.31.1.
Основная проблема: ошибка JSON при обработке пустых аргументов в tool calls.
Затронутый функционал: API OpenAI Chat Completion и совместимые с ним провайдеры.
Причина обнаружения: тестирование интеграции llm-meta-ai.

Источник: Simon Willison's Weblog

Обсудить с ИИ

Похожие материалы

Simon Willison's Weblog · Разработка и инструменты Вышел плагин llm-meta-ai для работы с моделью muse-spark-1.1 Вышел плагин llm-meta-ai версии 0.1, позволяющий интегрировать модель muse-spark-1.1 в экосистему CLI-инструмента LLM. Это обновление дает возможность разработчикам отправлять промпты к новой модели напрямую из командной строки, упрощая процесс тестирования и взаимодействия с ней в рамках локальных рабочих процессов и автоматизированных скриптов. Hacker News · Инфраструктура для агентов Инструмент llm-calc для повышения точности вычислений в ИИ-агентах Разработчики представили CLI-утилиту llm-calc, предназначенную для решения проблемы галлюцинаций LLM при выполнении математических операций. Инструмент позволяет интегрировать надежный вычислительный движок в агентные рабочие процессы, обеспечивая точные расчеты там, где стандартные языковые модели часто допускают ошибки из-за особенностей токенизации и отсутствия встроенной арифметической логики. Simon Willison's Weblog · Инференс и железо llm 0.32a3: новый релиз с поддержкой Claude Fable 5 Вышел новый релиз llm 0.32a3, который включает поддержку модели Claude Fable 5 от Anthropic. Это значительное обновление, так как llm — это фреймворк для локального запуска больших языковых моделей, что делает его потенциально полезным для разработки ИИ-агентов, таких как Jarv. arXiv · Оценка и бенчмарки Исследование: риски использования LLM для автоматического исправления уязвимостей Новое исследование оценило эффективность LLM при устранении программных уязвимостей. Несмотря на способность моделей ускорять процесс написания патчей, их использование несет серьезные риски безопасности. В ходе эксперимента с участием разработчиков выяснилось, что автоматизированные подсказки часто приводят к внедрению новых ошибок или неполному исправлению критических брешей, требуя от специалистов тщательной проверки каждого предложенного решения. Hacker News · Инфраструктура для агентов LLM-Tools: стандартизация инструментов для ИИ-агентов Проект LLM-Tools предлагает унифицированный подход к управлению наборами инструментов для ИИ-агентов, работая по аналогии с файлом requirements.txt в Python. Библиотека позволяет разработчикам декларативно описывать доступные функции и их зависимости, упрощая процесс интеграции внешних API и локальных скриптов в агентные системы, обеспечивая предсказуемость их поведения и упрощая управление средой выполнения. Hacker News · Оценка и бенчмарки Инструменты для верификации действий ИИ-агентов Разработчики представили подход к верификации действий ИИ-агентов, основанный на исполняемых блокнотах. Решение позволяет автоматически проверять, действительно ли модель выполнила поставленную задачу, запуская код в изолированной среде. Это критически важный шаг для перехода от простого чат-интерфейса к надежным агентным системам, где результат работы ИИ требует программного подтверждения и воспроизводимости в реальных условиях. Simon Willison's Weblog · Инфраструктура для агентов Релиз llm-coding-agent: эксперимент по созданию ИИ-кодера на базе агентного фреймворка Саймон Уиллисон представил версию 0.1a0 библиотеки llm-coding-agent, демонстрирующую возможности его обновленного фреймворка для построения ИИ-агентов. Инструмент предназначен для автоматизации написания кода и создания проектной документации через цепочки промптов. В основе лежит модульная архитектура, позволяющая агенту выполнять итеративные задачи разработки, начиная с формирования спецификаций и заканчивая генерацией программных модулей на языке Python. Hacker News · Инфраструктура для агентов LiteLLM переводит ключевые компоненты на Rust Популярный прокси-сервер LiteLLM, используемый для унификации API различных языковых моделей, объявил о миграции критически важных частей своей инфраструктуры на язык программирования Rust. Этот переход направлен на повышение производительности системы, снижение задержек при обработке запросов и оптимизацию потребления ресурсов при высокой нагрузке. Hacker News · Инфраструктура для агентов Инструмент для распределенного трейсинга LLM и привязки к GitHub Представлен инструмент с открытым исходным кодом для распределенного отслеживания цепочек вызовов LLM, который позволяет связывать логи выполнения с конкретными Pull Request и Issue в GitHub. Решение упрощает отладку сложных агентных систем, обеспечивая прозрачность взаимодействия между кодом и поведением модели в распределенной среде разработки. Hugging Face - Blog · Инференс и железо vLLM V1: как ServiceNow ускорил инференс без потери точности ServiceNow представила обновлённую версию vLLM (v1), которая фокусируется на корректности перед исправлениями в RL (reinforcement learning). Новый подход позволяет ускорить инференс моделей без ущерба для точности, что особенно важно для агентов, работающих в реальном времени.

← Все материалы