Компания Cursor анонсировала обучение новой языковой модели с 1.5 триллионами параметров. Для этого процесса используется 100 тысяч графических процессоров, что делает этот проект одним из самых масштабных в области искусственного интеллекта.
Обучение такой модели требует огромных вычислительных ресурсов. Cursor утверждает, что их подход позволяет эффективно использовать распределённые вычисления на столь большом количестве GPU, что значительно ускоряет процесс обучения.
Новая модель предназначена для решения сложных задач, связанных с программированием и анализом кода. Cursor планирует использовать её для улучшения своих существующих продуктов и разработки новых решений в области искусственного интеллекта.
Масштабы проекта подчёркивают стремительное развитие технологий в области обучения языковых моделей. В ближайшие годы можно ожидать появления ещё более мощных моделей, способных обрабатывать огромные объёмы данных и решать сложные задачи.