Илон Маск анонсировал разработку новой версии языковой модели Grok, архитектура которой будет насчитывать 2 триллиона параметров. Обучение системы планируется проводить на массиве инженерных данных компании SpaceX. Этот подход направлен на создание специализированного ИИ, способного глубоко анализировать техническую документацию, физические расчеты и сложные производственные процессы в аэрокосмической отрасли.
Использование узкоспециализированных корпоративных данных для дообучения моделей становится ключевым трендом в развитии больших языковых систем. В отличие от моделей общего назначения, обучаемых на открытых интернет-ресурсах, Grok сфокусируется на экспертных знаниях, накопленных за десятилетия работы SpaceX. Это позволит ИИ лучше справляться с задачами проектирования, моделирования систем и поиска технических решений в условиях жестких инженерных ограничений.
Техническая реализация модели потребует значительных вычислительных мощностей, учитывая масштаб в 2 триллиона параметров. Ожидается, что интеграция инженерного корпуса знаний позволит Grok стать инструментом, который не просто генерирует текст, а выступает в роли полноценного ассистента для инженеров, способного проверять корректность конструкторских решений и оптимизировать циклы разработки сложных механизмов.
Ключевые факты
- Размер будущей модели Grok составит 2 триллиона параметров.
- В качестве основного обучающего датасета выбран инженерный корпус данных SpaceX.
- Модель ориентирована на решение прикладных задач в области проектирования и аэрокосмической инженерии.
- Разработкой занимается компания xAI, основанная Илоном Маском.