Hacker News · 19.06.2026 ·Модели и релизы

Консорциум Europa представил модель с 400 миллиардами параметров

Европейский консорциум Europa одержал победу в профильном конкурсе ИИ-разработок, представив языковую модель с 400 миллиардами параметров. Проект стал ответом на доминирование американских технологических гигантов в области создания крупномасштабных нейросетевых архитектур. Разработка ориентирована на обеспечение технологического суверенитета и создание высокопроизводительных инструментов, адаптированных под европейские стандарты и требования к данным.

Технические характеристики модели позволяют ей конкурировать с ведущими мировыми аналогами в задачах обработки естественного языка и генерации контента. В процессе обучения консорциум сфокусировался на оптимизации вычислительных мощностей и использовании специализированных датасетов, что позволило достичь высокой точности ответов при сохранении контроля над инфраструктурой обучения. Проект демонстрирует возможности объединения академических и коммерческих ресурсов для создания моделей тяжелого класса.

Успех консорциума Europa подчеркивает растущую тенденцию к децентрализации разработки фундаментальных моделей. В отличие от закрытых экосистем крупных корпораций, данный проект делает ставку на прозрачность процессов обучения и соответствие региональным регуляторным нормам. Результаты конкурса подтверждают, что создание моделей с сотнями миллиардов параметров становится доступным для коалиций, способных эффективно распределять вычислительные нагрузки и экспертизу в области машинного обучения.

Источник: Hacker News

Похожие материалы

Hacker News · Обучение и дообучение Может ли Европа обучать передовые ИИ-модели на своих вычислительных мощностях Исследователи из компании SammySLtd задались вопросом: способна ли Европа обучать передовые ИИ-модели на своих вычислительных мощностях. В их исследовании рассматривается текущее состояние инфраструктуры, доступной в Европе, и её потенциал для обучения крупных языковых моделей. arXiv · Инфраструктура для агентов FoMoE: новый подход к обучению MoE-моделей через федерацию экспертов Исследователи представили архитектуру FoMoE (Federation of Mixture-of-Experts), которая решает проблему жесткой привязки параметров модели к вычислительной инфраструктуре. Традиционные методы обучения крупных языковых моделей требуют использования массивов тесно связанных ускорителей, что ограничивает масштабируемость. Новый подход позволяет распределять экспертов в составе MoE-архитектуры между независимыми вычислительными узлами, снимая барьер «полной репликации» весов модели на каждом устройстве. Hacker News · Обучение и дообучение Опыт обучения компактных высокопроизводительных моделей Максим Лабонн из Liquid AI представил подробный разбор процесса создания «малых» моделей (Small Language Models), которые по своим характеристикам приближаются к крупным языковым системам. В основе подхода лежит оптимизация архитектуры и качества данных, позволяющая достичь высокой эффективности при ограниченных вычислительных ресурсах. Основное внимание уделяется этапам подготовки датасетов, выбору стратегий токенизации и настройке гиперпараметров, которые критически влияют на итоговую производительность модели. arXiv · Инференс и железо Как вычислительные ресурсы влияют на оценку крупных языковых моделей Исследование на arXiv показывает, что современные оценки ИИ переходят на более сложные задачи, требующие длительных траекторий с использованием инструментов и итеративного решения проблем. Это делает результаты всё более чувствительными к объёму и распределению вычислительных ресурсов во время инференса. Hacker News · Модели и релизы Как мелкие модели могут конкурировать с крупными Исследователи из DeepClause предложили метод, позволяющий мелким языковым моделям демонстрировать производительность, сопоставимую с крупными аналогами. В статье на Substack они объясняют, что ключевым фактором является не количество параметров, а эффективность архитектуры и стратегии обучения. Artificial intelligence – MIT Technology Review · Машинное обучение Стартап Subquadratic заявляет о прорыве в архитектуре языковых моделей Майамский стартап Subquadratic вышел из режима скрытности с заявлением о решении фундаментальной математической проблемы, ограничивавшей развитие больших языковых моделей на протяжении последних десяти лет. Речь идет о преодолении вычислительного барьера, связанного с квадратичной сложностью механизмов внимания в архитектуре Transformer. Традиционно потребность в ресурсах при обработке контекста растет пропорционально квадрату длины последовательности, что создает серьезные препятствия для работы с длинными документами и большими объемами данных. Hacker News · Модели и релизы Cursor обучает модель с 1.5 триллионами параметров на 100 тысячах GPU Компания Cursor анонсировала обучение новой языковой модели с 1.5 триллионами параметров. Для этого процесса используется 100 тысяч графических процессоров, что делает этот проект одним из самых масштабных в области искусственного интеллекта. Hacker News · Рынок труда и экономика Проблема масштабирования данных для обучения ИИ Аналитики указывают на фундаментальный барьер в развитии современных языковых моделей: нехватку качественных данных для обучения. Попытки компаний, включая Meta (признана экстремистской организацией, деятельность запрещена в РФ), привлекать штатных инженеров для ручной разметки и создания синтетических датасетов не решают проблему масштабируемости. Человеческий труд в этом процессе становится «узким горлышком», которое ограничивает скорость прогресса и делает разработку новых поколений моделей неоправданно дорогой. Hugging Face - Blog · Оценка и бенчмарки Новый подход к оценке агентных способностей открытых моделей Hugging Face представила методологию для оценки того, насколько эффективно языковые модели справляются с использованием внешних инструментов. В отличие от стандартных тестов на логику или знание фактов, новый подход фокусируется на способности модели вызывать функции, интерпретировать ответы API и корректировать свои действия в рамках многошаговых задач. Это позволяет разработчикам точнее определять, какая модель лучше подходит для создания автономных агентов. Hacker News · Другое Компании сокращают расходы на ИИ из-за роста затрат Компании по всему миру сталкиваются с резким ростом затрат на разработку и внедрение ИИ-решений. По данным The Economist, расходы на обучение и инференс моделей выросли в несколько раз за последние два года, что заставляет даже крупные игроки пересматривать свои бюджеты.

← Все материалы