Together.ai · 25.03.2026 ·Оркестрация агентов

Как слабые модели справляются с длинным контекстом

Исследователи из Together AI предложили новый подход к обработке длинных текстов с помощью небольших языковых моделей. Они разработали фреймворк «Divide & Conquer», который разбивает длинные документы на параллельные части и обрабатывает их с помощью нескольких моделей.

В основе метода лежит три компонента: планировщик, рабочие и менеджер. Планировщик разбивает текст на части, рабочие обрабатывают их параллельно, а менеджер объединяет результаты. Такой подход позволяет моделям Llama-3-70B и Qwen-72B превосходить GPT-4o в задачах с длинным контекстом.

Авторы отмечают, что традиционные подходы к обработке длинных текстов часто приводят к ухудшению качества. Новый метод позволяет избежать этого, используя параллельную обработку и распределение задач между несколькими моделями.

Исследование показывает, что даже небольшие модели могут эффективно справляться с длинными текстами, если использовать правильную стратегию обработки. Это открывает новые возможности для применения языковых моделей в задачах, требующих анализа больших объёмов текста.

Источник: Together.ai

Похожие материалы

Hacker News · Модели и релизы GLM-5.2: новая модель для сложных задач Компания Zhipu AI представила модель GLM-5.2, оптимизированную для выполнения сложных задач, требующих длительного контекста. Новая версия поддерживает до 128K токенов, что позволяет обрабатывать большие объёмы текста и выполнять задачи, требующие глубокого анализа. Together.ai · Машинное обучение Новый метод ускоряет диффузионные языковые модели в 14 раз Исследователи из Together AI представили Consistency Diffusion Language Models (CDLM) — метод, который ускоряет работу диффузионных языковых моделей в 14,5 раза без потери качества. Lobsters · Исследования и наука Исследование: почему глубина моделей может быть их проклятием Новое исследование, опубликованное на arXiv, поднимает важный вопрос о том, как глубина архитектуры больших языковых моделей (LLM) влияет на их производительность. Авторы работы утверждают, что увеличение глубины моделей может привести к так называемому "проклятию глубины", когда дополнительные слои не только не улучшают, но и ухудшают качество генерации текста. Together.ai · Инференс и железо Как Together оптимизировал MiniMax-M3 для эффективного инференса Компания Together.ai представила подход к оптимизации работы модели MiniMax-M3, позволяющий эффективно обрабатывать контекст из 1 миллиона токенов и поддерживать мультимодальность. В основе решения лежит использование KV-block-major sparse attention, что позволяет значительно сократить вычислительные затраты при работе с большими контекстами. arXiv · Модели и релизы Как улучшить точность небольших моделей кода без переобучения Исследователи из DeepSeek и других организаций представили новый подход к повышению точности небольших моделей кода без необходимости их переобучения. В работе рассматриваются так называемые «замороженные» модели кода (с параметрами ≤45 миллионов), которые не поддаются стандартным методам улучшения качества вывода. Hacker News · Обучение и дообучение GoLongRL: новый подход к обучению агентов с длинным контекстом Исследователи из XiaoxuanNLP представили GoLongRL — фреймворк для обучения агентов с длинным контекстом, основанный на подходе reinforcement learning (RL). В отличие от традиционных методов, GoLongRL фокусируется на способностях (capabilities) агентов, а не на конкретных задачах, что позволяет лучше адаптироваться к новым сценариям. Together.ai · Исследования и наука Как языковые модели генерируют контент без указаний Новое исследование показало, что языковые модели (LLM) демонстрируют уникальные «предпочтения» в генерации контента, когда им не дают конкретных указаний. Учёные обнаружили, что модели из разных семейств по-разному заполняют пробелы в информации. Hacker News · Исследования и наука VibeThinker-3B: новый подход к верифицируемому рассуждению в небольших языковых моделях Исследователи представили VibeThinker-3B — небольшую языковую модель, способную выполнять верифицируемое рассуждение. Это значит, что модель может не только генерировать ответы, но и предоставлять обоснования для своих выводов, что делает её более прозрачной и надежной. NVIDIA Technical Blog · Машинное обучение Как оптимизировать трансформеры для обучения с низкой точностью Трансформеры лежат в основе многих современных языковых и генеративных моделей. С ростом их размера увеличивается и потребление вычислительных ресурсов, особенно GPU. NVIDIA предложила методы оптимизации для обучения моделей с низкой точностью, что позволяет снизить нагрузку на оборудование. The latest research from Google · Машинное обучение Sequential Attention: как ускорить модели без потери точности Исследователи Google предложили новый подход к оптимизации трансформеров — Sequential Attention. Он позволяет значительно сократить вычислительные затраты на инференс, не жертвуя точностью. В основе метода лежит идея последовательного внимания: вместо параллельной обработки всех токенов модель фокусируется на одном токене за раз, используя информацию из предыдущих шагов. Это снижает сложность вычислений с O(n²) до O(n log n), что делает модели более эффективными для локального развертывания и работы в реальном времени.

← Все материалы