Исследователи представили MDTransformer — архитектуру фотонного ускорителя, объединяющую аппаратное и программное проектирование для ускорения работы трансформеров. Решение использует метод разделения мод (mode-division) и инверсно спроектированные когерентные кроссбары, что позволяет преодолеть ограничения существующих фотонных систем, связанные с необходимостью генерации множества длин волн и использованием энергозатратных фазовращателей.
Современные фотонные ускорители трансформеров (PTA) показывают высокую производительность, но часто сталкиваются с проблемами масштабируемости из-за сложности оптических компонентов. Предложенный подход MDTransformer минимизирует количество активных элементов, что значительно снижает энергопотребление и физические размеры чипа. Это делает технологию перспективной для интеграции в высоконагруженные вычислительные системы, где критически важна плотность вычислений при ограниченном тепловыделении.
Разработка опирается на принципы когерентных вычислений, где матричные операции выполняются непосредственно в оптическом домене. Инверсное проектирование кроссбаров позволило оптимизировать топологию устройства, добившись более высокой точности вычислений при меньших аппаратных затратах по сравнению с традиционными электронными ускорителями. Данный метод открывает путь к созданию специализированных процессоров для инференса LLM, которые могут работать на порядки быстрее и эффективнее существующих графических решений.
Ключевые факты
- MDTransformer использует технологию разделения мод для повышения плотности вычислений в фотонных чипах.
- Архитектура устраняет необходимость в дорогостоящих многоволновых лазерных источниках.
- Инверсно спроектированные когерентные кроссбары снижают зависимость от активных фазовращателей.
- Решение направлено на радикальное повышение энергоэффективности при выполнении операций умножения матриц в трансформерах.