OpenAI анонсировала разработку собственного специализированного процессора под кодовым названием Jalapeño. Чип создан в партнерстве с компанией Broadcom и предназначен для оптимизации процессов инференса в масштабных системах компании. Переход на собственное «железо» позволит OpenAI снизить зависимость от сторонних поставщиков графических ускорителей и повысить эффективность работы своих нейросетевых моделей при выполнении запросов пользователей.
Разработка собственного кремния является стратегическим шагом для многих технологических гигантов, стремящихся контролировать весь стек технологий — от архитектуры моделей до аппаратного обеспечения. Использование специализированных чипов позволяет более точно настроить вычислительные мощности под специфические требования LLM, что критически важно для снижения задержек и стоимости обработки каждого токена в условиях растущего спроса на ИИ-сервисы.
Сотрудничество с Broadcom обеспечивает OpenAI доступ к экспертизе в проектировании сложных полупроводниковых систем и налаженным цепочкам поставок. Ранее компания полагалась на стандартные решения от NVIDIA, однако создание кастомного чипа Jalapeño указывает на стремление к вертикальной интеграции, что может существенно изменить экономику эксплуатации будущих поколений моделей OpenAI.
Ключевые факты
- Название проекта: Jalapeño.
- Партнер по разработке и производству: Broadcom.
- Основная специализация: оптимизация задач инференса для нейросетевых систем.
- Стратегическая цель: снижение зависимости от сторонних поставщиков аппаратного обеспечения и повышение энергоэффективности вычислений.