Hacker News · 30.06.2026 ·Инференс и железо

Huawei представила OpenPangu 2 Flash с контекстным окном 512K

Huawei выпустила открытую версию модели OpenPangu 2 Flash, ключевой особенностью которой стало расширенное до 512 тысяч токенов контекстное окно. Релиз включает в себя веса модели, оптимизированный код для инференса и описание процессов обучения, что позволяет разработчикам развертывать высокопроизводительные решения для обработки длинных последовательностей данных на собственной инфраструктуре.

Модель ориентирована на эффективную работу с большими объемами контекста, что критически важно для задач RAG и анализа длинных документов. Публикация весов и инструментов для инференса снижает порог входа для интеграции подобных архитектур в агентные системы, требующие глубокой работы с памятью и обширными базами знаний без необходимости обращения к проприетарным API.

Технические решения, заложенные в OpenPangu 2 Flash, демонстрируют развитие подходов к оптимизации инференса для моделей с длинным контекстом. Доступность исходного кода и весов дает возможность адаптировать модель под специфические требования корпоративных сред, обеспечивая контроль над данными и предсказуемость производительности при работе с агентными пайплайнами.

Ключевые факты

Размер контекстного окна модели составляет 512 000 токенов.
Релиз включает полные веса модели и специализированный код для инференса.
Предоставлена документация по операциям обучения (training ops) для воспроизведения или дообучения.
Модель оптимизирована для работы с длинными контекстами, что расширяет возможности построения агентных систем с RAG.

Источник: Hacker News

Обсудить с ИИ

Похожие материалы

MarkTechPost · Память и RAG Z.ai представила GLM-5.2 с контекстом в 1 млн токенов Z.ai анонсировала новую версию своей модели GLM-5.2, которая поддерживает контекстное окно в 1 миллион токенов. Это существенный шаг вперёд, так как большинство современных моделей ограничены контекстом в 128–256K токенов. Новая модель доступна во всех тарифах GLM Coding Plan и интегрирована в такие платформы, как Claude Code, Cline и OpenClaw через совместимый с Anthropic API. Hacker News · Инфраструктура для агентов Luce KVFlash: 256K контекст и 72MiB кэша на GPU Команда Luce-Org представила KVFlash — оптимизацию для работы с большими объёмами контекста в GPU. Решение позволяет обрабатывать до 256K контекста с использованием 72MiB кэша ключ-значение (KV) на видеокарте. Это существенно расширяет возможности локального инференса, особенно для задач, требующих глубокого контекста, таких как RAG или сложные диалоги. Hacker News · Инференс и железо Релиз Apex-1-flash: 4B LLM, оптимизированная для обучения на RTX 5070 Команда OrbitAI представила Apex-1-flash — компактную языковую модель с 4 миллиардами параметров. Ключевой особенностью релиза стала оптимизация процесса дообучения (fine-tuning) под потребительское железо нового поколения, в частности видеокарту RTX 5070. Модель демонстрирует высокую эффективность в задачах инференса, сохраняя при этом баланс между производительностью и требованиями к видеопамяти для локального запуска. MarkTechPost · Инференс и железо Liquid AI выпустила компактную модель LFM2.5-230M для локального запуска Компания Liquid AI представила LFM2.5-230M — свою самую компактную нейросеть с 230 млн параметров. Модель оптимизирована для работы на периферийных устройствах, демонстрируя высокую скорость генерации текста. Она поддерживает популярные фреймворки инференса, такие как llama.cpp и vLLM, и показывает превосходство над более крупными аналогами в задачах извлечения данных и выполнения инструкций. Hacker News · Модели и релизы Анализ производительности модели Qwen 2.5 32B для локальной разработки Выпуск модели Qwen 2.5 32B стал значимым событием для локального инференса, предлагая оптимальный баланс между вычислительными требованиями и качеством генерации. Модель демонстрирует высокую эффективность в задачах программирования и логического вывода, сопоставимую с более крупными проприетарными решениями, что делает её предпочтительным выбором для запуска на потребительском железе без потери точности ответов. Hacker News · Инференс и железо Huawei адаптировала чипы Ascend для обучения моделей DeepSeek Китайская компания Huawei успешно адаптировала свои графические процессоры серии Ascend для обучения и дообучения передовых языковых моделей, включая архитектуру DeepSeek. Этот технологический сдвиг позволяет снизить зависимость от зарубежных аппаратных решений, которые ранее были основным стандартом для тренировки сложных нейросетей. Использование локальной инфраструктуры стало возможным благодаря оптимизации программного стека, который теперь обеспечивает стабильную работу с современными алгоритмами глубокого обучения. The Decoder · Модели и релизы Zhipu AI представила модель GLM-5.2 с контекстным окном в 1 млн токенов Китайская лаборатория Zhipu AI выпустила новую языковую модель GLM-5.2, распространяемую под лицензией MIT. Ключевой особенностью релиза стала поддержка контекстного окна объемом 1 миллион токенов, что позволяет обрабатывать значительные массивы данных за один запрос. Модель ориентирована на решение сложных задач, требующих длительного удержания контекста и глубокого анализа информации. GitHub · Инференс и железо Krea AI открыла исходный код для инференса модели Krea 2 Команда Krea AI опубликовала официальный репозиторий с кодом для запуска инференса модели Krea 2. Релиз предоставляет разработчикам необходимые инструменты для интеграции генеративных возможностей модели в сторонние приложения и сервисы. Это решение упрощает локальное развертывание и масштабирование высокопроизводительных генеративных процессов, позволяя использовать архитектуру Krea 2 в собственных агентных пайплайнах и инфраструктурных проектах. MarkTechPost · Инференс и железо Baidu представила Unlimited OCR: 3B-модель с фиксированным потреблением памяти Baidu выпустила Unlimited OCR — специализированную MoE-модель с 3 млрд параметров, предназначенную для обработки многостраничных документов. Главная особенность архитектуры заключается в использовании механизма Reference Sliding Window Attention (R-SWA), который поддерживает постоянный размер KV-кэша. Это позволяет модели сохранять стабильную скорость работы и потребление памяти независимо от объема входных данных, значительно превосходя существующие аналоги. Hacker News · Модели и релизы Новая открытая модель GLM-5.2 превосходит проприетарные аналоги в задачах программирования Разработчики представили открытую языковую модель GLM-5.2, которая демонстрирует результаты в написании кода, превышающие показатели текущих флагманских решений от OpenAI. Согласно опубликованным бенчмаркам, модель показывает более высокую точность в решении алгоритмических задач и генерации функциональных скриптов, при этом стоимость её инференса составляет лишь 1/6 от затрат на использование закрытых моделей аналогичного класса.

← Все материалы