Исследователи из CMU и других институтов обосновали, что автоматизация проектирования и оптимизации компьютерных систем с помощью ИИ является «AGI-complete» задачей. Это означает, что для полноценной замены человека в задачах проектирования архитектур, управления памятью и оптимизации компиляторов требуется уровень интеллекта, сопоставимый с человеческим, так как эти процессы требуют глубокого понимания контекста и долгосрочного планирования.
Авторы статьи анализируют текущие ограничения LLM в задачах системного программирования. В отличие от генерации текста, где допустимы галлюцинации, работа с низкоуровневым кодом, распределенными системами и аппаратными ограничениями требует абсолютной точности и понимания неявных зависимостей. ИИ-агенты сегодня часто справляются с написанием отдельных функций, но терпят неудачу при проектировании комплексных систем, где необходимо учитывать компромиссы между производительностью, энергопотреблением и задержками.
Ключевым препятствием остается отсутствие «системного мышления» у современных моделей. Исследование подчеркивает, что для прорыва в этой области недостаточно простого увеличения количества параметров или данных. Необходимы новые подходы к интеграции формальных методов верификации и агентных систем, способных к итеративному тестированию и самокоррекции в условиях жестких ограничений реального железа.
Ключевые факты
- Задача «AI for Systems» признана эквивалентной по сложности достижению AGI из-за необходимости глубокого понимания аппаратных и программных зависимостей.
- Основные барьеры для ИИ в этой сфере: отсутствие механизмов формальной верификации кода и неспособность моделей к долгосрочному планированию архитектурных решений.
- Исследование указывает на неэффективность текущих LLM при работе с комплексными системными ограничениями, такими как задержки (latency) и пропускная способность памяти.
- Для прогресса предложено объединение генеративных моделей с методами символьных вычислений и автоматизированного поиска в пространстве состояний.