Джон Юделл предлагает отказаться от концепции «человека в цикле» (human-in-the-loop), которая подразумевает доминирование ИИ-систем над пользователем. Вместо этого он призывает рассматривать ИИ-агентов как полноправных членов команды, работающих в рамках существующих человеческих процессов. Такой подход превращает агентное взаимодействие из «черного ящика» в прозрачный рабочий процесс, где ИИ выступает ассистентом, а не автономным исполнителем.
Традиционная модель «человека в цикле» часто создает иллюзию, что машина является главным субъектом, а человек лишь контролирует её действия. Переосмысление этого процесса позволяет интегрировать ИИ-инструменты в разработку программного обеспечения более органично. Агенты должны не просто принимать промпты и выдавать результат, а встраиваться в существующие рабочие цепочки, где ответственность и управление остаются за человеком.
Этот сдвиг акцентов критически важен для построения сложных агентных систем. Когда ИИ воспринимается как коллега, а не как внешний сервис, меняются требования к интерфейсам и протоколам взаимодействия. Вместо попыток автоматизировать всё «под ключ», разработчики могут сосредоточиться на создании инструментов, которые расширяют возможности человека, сохраняя при этом прозрачность логики принятия решений на каждом этапе.
Ключевые факты
- Концепция «human-in-the-loop» критикуется за передачу избыточных полномочий алгоритмам.
- Предлагается модель «агентного сотрудничества», где ИИ является участником команды, а не управляющим центром.
- Агентное ПО должно проектироваться как прозрачная система, а не как закрытый «черный ящик».
- Новый подход направлен на сохранение человеческого контроля над процессами разработки при активном использовании ИИ-ассистентов.