Компания Phantafield представила архитектуру Sophon PFG-1 — специализированный ИИ-процессор, использующий монолитную 3D-компоновку для интеграции 330 ГБ DRAM непосредственно на кристалле. Инновационный подход позволяет отказаться от дорогостоящей и энергозатратной памяти HBM, обеспечивая при этом высокую пропускную способность данных, необходимую для работы с крупными языковыми моделями и сложными агентными системами.
Основная проблема современных ускорителей заключается в «узком горлышке» передачи данных между процессором и внешней памятью. Архитектура PFG-1 решает эту задачу за счет размещения DRAM в непосредственной близости к вычислительным ядрам в рамках одного монолитного 3D-стека. Это радикально снижает задержки и энергопотребление при выполнении операций инференса, что критически важно для развертывания моделей с большим количеством параметров на локальных мощностях.
Технология ориентирована на создание эффективных систем для инференса, где требуется высокая плотность памяти для удержания весов моделей в быстром доступе. Отказ от HBM не только упрощает цепочку поставок, но и делает производство более масштабируемым, предлагая альтернативу традиционным графическим ускорителям в задачах, требующих интенсивной работы с памятью.
Ключевые факты
- Объем встроенной DRAM на кристалле составляет 330 ГБ.
- Архитектура использует монолитную 3D-интеграцию для объединения вычислительных блоков и памяти.
- Технология полностью исключает необходимость использования внешней памяти типа HBM.
- Решение направлено на оптимизацию производительности и энергоэффективности при инференсе LLM.