Компания ByteDance ведет разработку масштабной языковой модели, количество параметров которой достигает десяти триллионов. Этот показатель в три раза превышает объем текущего лидера китайского рынка — модели Kimi K3 от стартапа Moonshot AI. Проект знаменует собой новый этап в гонке за создание наиболее мощных систем генеративного ИИ в рамках технологического противостояния.
Разработка ведется на фоне жестких ограничений на поставки высокопроизводительных графических процессоров в Китай. Для обучения моделей такого масштаба компания вынуждена оптимизировать имеющиеся вычислительные ресурсы, включая использование чипов NVIDIA предыдущих поколений и собственные аппаратные наработки. Успех проекта позволит ByteDance укрепить позиции в сегменте корпоративных ИИ-решений и автоматизации контента.
Инвестиции в столь крупные модели подчеркивают стратегический приоритет ByteDance по интеграции передовых технологий в свои глобальные платформы. Увеличение количества параметров до 10 триллионов ставит модель в один ряд с самыми амбициозными мировыми проектами, претендуя на лидерство в области сложности архитектуры и глубины обработки данных.
Ключевые факты
- Объем модели ByteDance составляет до 10 триллионов параметров.
- Показатель в три раза превышает размер текущей крупнейшей китайской модели Kimi K3 от Moonshot AI.
- Разработка ведется в условиях экспортных ограничений США на поставку передовых чипов NVIDIA в Китай.
- Проект нацелен на масштабирование возможностей генеративного ИИ для экосистемы сервисов ByteDance.