Исследователи представили архитектуру чипа Genesis, разработанную для преодоления «узкого места» памяти при выполнении задач искусственного интеллекта. Новая разработка позволяет значительно ускорить обработку данных за счет оптимизации доступа к памяти, что критически важно для работы с крупными языковыми моделями и сложными агентными системами, требующими высокой пропускной способности при низком энергопотреблении.
Современные ИИ-модели часто ограничены скоростью передачи данных между процессором и оперативной памятью, что приводит к простоям вычислительных ядер. Архитектура Genesis меняет этот подход, интегрируя вычислительные блоки непосредственно в структуру памяти. Это позволяет выполнять операции над данными там, где они хранятся, минимизируя задержки и снижая тепловыделение, характерное для традиционных архитектур фон Неймана.
Внедрение подобных решений может стать ключевым фактором для развития локального инференса и повышения эффективности автономных агентов. Устранение аппаратных ограничений позволяет запускать более тяжелые модели на менее мощном оборудовании, что открывает новые возможности для масштабирования агентных систем в реальном времени без необходимости постоянного обращения к облачным серверам.
Ключевые факты
- Чип Genesis использует технологию вычислений внутри памяти (In-Memory Computing) для устранения задержек при передаче данных.
- Архитектура направлена на решение проблемы «узкого места» памяти, которая ограничивает производительность современных LLM.
- Разработка позволяет существенно снизить энергопотребление при выполнении сложных нейросетевых вычислений.
- Технология ориентирована на повышение эффективности работы ИИ-систем как в облачных дата-центрах, так и на локальных устройствах.