Hacker News · 05.08.2026 ·Оценка и бенчмарки

Celeris-1: новая модель с рекордной скоростью генерации 2082 токена в секунду

Исследователи представили Celeris-1 — диффузионную языковую модель, демонстрирующую беспрецедентную скорость инференса. В ходе тестов система показала производительность на уровне 2082 токенов в секунду, что значительно превышает показатели большинства современных LLM. Этот результат достигнут благодаря архитектурным особенностям диффузионного подхода, который меняет привычные стандарты скорости генерации текста и открывает новые возможности для высоконагруженных систем.

Традиционные авторегрессионные модели генерируют текст последовательно, что создает «узкое горлышко» при масштабировании. Celeris-1 использует диффузионный процесс, позволяющий предсказывать токены параллельно или блоками. Такой подход кардинально снижает задержки (latency) и позволяет обрабатывать огромные объемы данных в реальном времени, что критически важно для интерактивных сервисов и высокочастотных аналитических систем.

Высокая скорость работы модели делает её перспективным решением для сценариев, где требуется мгновенный отклик при сохранении качества генерации. Хотя диффузионные методы в текстовых задачах все еще находятся на этапе активного развития, текущие показатели Celeris-1 доказывают жизнеспособность архитектуры как альтернативы стандартным трансформерам в задачах, требующих экстремальной пропускной способности.

Ключевые факты

Скорость генерации Celeris-1 достигает 2082 токенов в секунду.
Модель построена на базе диффузионной архитектуры, а не классического авторегрессионного трансформера.
Результаты подтверждены независимым аналитическим ресурсом Artificial Analysis.
Технология позволяет радикально сократить время ожидания ответа в сложных агентных системах.

Источник: Hacker News

Обсудить с ИИ

Похожие материалы

Hacker News · Инференс и железо Модель Celeris-1 установила рекорд скорости генерации в 2158 токенов в секунду Новая диффузионная модель Celeris-1 показала рекордную производительность, достигнув скорости генерации 2158 токенов в секунду. Этот результат значительно превосходит показатели существующих аналогов, открывая возможности для работы с генеративным контентом в режиме реального времени. Достижение стало возможным благодаря оптимизации архитектуры инференса, что позволяет существенно снизить задержки при обработке запросов в высоконагруженных системах. MarkTechPost · Инференс и железо NVIDIA представила Nemotron-Labs-TwoTower: диффузионную модель для ускорения генерации текста NVIDIA выпустила Nemotron-Labs-TwoTower — диффузионную языковую модель, призванную преодолеть ограничения традиционных авторегрессионных систем. В отличие от последовательной генерации токенов, новая архитектура использует диффузионный подход, что позволяет значительно увеличить пропускную способность при создании текста. Модель базируется на предобученном «хребте» Nemotron-3-Nano-30B-A3B и распространяется с открытыми весами для исследовательских и прикладных целей. Hacker News · Машинное обучение Диффузионные модели для параллельной генерации текста Исследователи представили новый подход к архитектуре больших языковых моделей, основанный на принципах диффузии. В отличие от стандартных LLM, которые предсказывают следующий токен последовательно, новая методика позволяет генерировать множество токенов одновременно. Это радикально меняет процесс формирования текста, превращая его из пошагового авторегрессионного процесса в параллельный. Hacker News · Модели и релизы Liquid AI представила модель LFM 2.5 с 2,6 млрд параметров Компания Liquid AI выпустила модель LFM 2.5 с 2,6 млрд параметров, которая демонстрирует производительность, сопоставимую с нейросетями в четыре раза большего размера. Разработчики сфокусировались на эффективности архитектуры, позволяющей достигать высоких результатов в задачах обработки текста и кода при значительно меньших требованиях к вычислительным ресурсам и памяти по сравнению с традиционными трансформерами. Hacker News · Инференс и железо Cerebras обеспечила сверхбыстрый инференс для мультимодальной модели Gemma 2 Компания Cerebras представила решение для ускоренного запуска мультимодальной модели Gemma 2, обеспечив беспрецедентную скорость генерации токенов. Использование специализированного аппаратного обеспечения позволяет обрабатывать запросы с минимальной задержкой, что делает систему одной из самых производительных на рынке для задач, требующих работы с текстом и изображениями в режиме реального времени. Hacker News · Инфраструктура для агентов Новый подход к компиляции для LLM и моделей мира Исследователи представили концепцию специализированного компилятора, предназначенного для оптимизации работы LLM и моделей мира. Система переводит высокоуровневые агентные задачи в эффективный машинный код, минимизируя задержки при выполнении сложных логических цепочек. Это решение направлено на повышение производительности систем, работающих в режиме реального времени, и создание более надежной инфраструктуры для будущих автономных ИИ-агентов. Hacker News · Инференс и железо AMD и Cerebras представили совместное решение для высокопроизводительного ИИ-инференса AMD и Cerebras Systems объявили о создании инфраструктурного решения, объединяющего вычислительные мощности процессоров AMD Instinct MI300X и архитектуру Cerebras Wafer-Scale Engine. Система ориентирована на выполнение задач инференса с ультранизкой задержкой и высокой пропускной способностью, что позволяет масштабировать работу с крупными языковыми моделями в корпоративных средах и облачных дата-центрах. Hacker News · Машинное обучение Cl33-opLM: компактная языковая модель с обратимым операторным «бутылочным горлышком» Представлена Cl33-opLM — компактная языковая модель с 236 миллионами параметров, использующая архитектуру с обратимым операторным «бутылочным горлышком» (reversible operator bottleneck). Разработка фокусируется на эффективности вычислений и оптимизации архитектурных ограничений, позволяя достичь производительности, сопоставимой с более крупными моделями, при значительно меньших требованиях к аппаратным ресурсам и памяти для инференса. arXiv · Инференс и железо Оптимизация инференса через метод Relaxed Speculative Decoding Исследователи представили метод Relaxed Speculative Decoding, который ускоряет генерацию текста LLM за счет отказа от строгого соответствия распределению вероятностей исходной модели. В отличие от классического спекулятивного декодирования, этот подход допускает контролируемые отклонения при проверке токенов, что позволяет значительно повысить скорость инференса без необходимости дополнительного обучения вспомогательных моделей. Hacker News · Инференс и железо Новый сервер инференса для DGX Spark ускоряет работу крупных моделей Представлен новый сервер инференса, оптимизированный для системы DGX Spark, который обеспечивает высокую скорость генерации для крупногабаритных моделей. Решение достигает производительности 55–90 токенов в секунду без использования методов спекулятивного декодирования. Это значительный шаг в оптимизации аппаратного обеспечения для развертывания тяжелых LLM в корпоративной инфраструктуре, позволяющий повысить эффективность обработки запросов в реальном времени.

← Все материалы