Исследователи из MIT и UC Berkeley опубликовали работу, посвящённую регулированию ИИ-агентов в open-source. Авторы отмечают, что современные ИИ-агенты уже способны не только предлагать код, но и планировать изменения, редактировать файлы и даже отправлять pull requests с минимальным участием человека. Это ставит под вопрос существующие механизмы управления open-source проектами, которые предполагают наличие юридически ответственного человека.
Проблема в том, что текущие процессы — contributor agreements, codes of conduct, review norms — не учитывают работу ИИ. Например, кто несёт ответственность за код, сгенерированный агентом? Как гарантировать, что ИИ не нарушает лицензионные соглашения или кодексы поведения? Исследователи предлагают несколько решений, включая создание новых юридических рамок и адаптацию существующих процессов под работу с ИИ.
Особое внимание уделяется вопросам прозрачности и отслеживаемости. Авторы предлагают внедрить механизмы, которые позволят отслеживать, какие части кода были созданы ИИ, и обеспечивать их соответствие стандартам проекта. Это особенно важно для open-source, где качество и безопасность кода зависят от доверия сообщества.
Для разработчиков ИИ-агентов, включая команду Jarv, это исследование поднимает важные вопросы о том, как интегрировать агентов в существующие экосистемы. В будущем, возможно, потребуется создать новые стандарты и инструменты, которые позволят ИИ-агентам работать в рамках open-source проектов без нарушения их принципов.