OpenAI в партнерстве с Broadcom ведет разработку специализированного ASIC-чипа под кодовым названием Jalapeño. Проект направлен на снижение зависимости компании от сторонних аппаратных решений, в частности от продукции Nvidia. Создание собственного «железа» является стратегическим шагом для оптимизации колоссальных капитальных затрат на инфраструктуру, необходимых для масштабирования работы нейросетевых моделей и обеспечения их эффективного инференса.
Текущая бизнес-модель OpenAI сильно зависит от стоимости вычислительных мощностей, которые в основном предоставляются через графические процессоры Nvidia. Разработка кастомного чипа позволит компании лучше контролировать производительность и энергопотребление при выполнении задач машинного обучения. Это решение отражает общую тенденцию среди технологических гигантов по переходу на вертикально интегрированную инфраструктуру для повышения маржинальности своих ИИ-сервисов.
Переход на собственные ASIC-решения может существенно изменить структуру расходов OpenAI в долгосрочной перспективе. Использование специализированных процессоров, оптимизированных под конкретные архитектуры моделей, позволяет достичь более высокой плотности вычислений по сравнению с универсальными GPU. Ожидается, что интеграция Jalapeño в инфраструктуру компании позволит значительно снизить стоимость одного запроса к нейросети.
Ключевые факты
- Проект Jalapeño реализуется OpenAI в тесном сотрудничестве с компанией Broadcom.
- Основная цель разработки — снижение капитальных затрат (CapEx) на инфраструктуру для инференса.
- Чип представляет собой специализированную интегральную схему (ASIC), оптимизированную под нужды нейросетей OpenAI.
- Разработка призвана уменьшить зависимость компании от доминирующего положения Nvidia на рынке аппаратного обеспечения для ИИ.