Исследователи призывают к радикальной прозрачности в разработке больших языковых моделей, утверждая, что только сочетание открытых весов, исходного кода и обучающих корпусов может обеспечить научную воспроизводимость и безопасность. Текущая практика «закрытых» моделей ограничивает независимый аудит, препятствуя глубокому пониманию механизмов работы ИИ и создавая риски неконтролируемого влияния на общественные процессы и критическую инфраструктуру.
Авторы подчеркивают, что закрытость моделей под предлогом безопасности часто является маркетинговым инструментом для защиты рыночных позиций крупных корпораций. Без доступа к полному циклу обучения — от наборов данных до архитектурных решений — научное сообщество не может объективно оценивать предвзятость, галлюцинации и уязвимости систем. Это создает «черные ящики», которые внедряются в бизнес-процессы и государственные службы без должной верификации.
В статье предлагается переход к модели «публичного интеллекта», где ключевые компоненты ИИ-систем становятся общественным достоянием. Это позволит разработчикам и исследователям проводить независимые стресс-тесты, оптимизировать модели для специфических задач и создавать более надежные инструменты для бизнеса. По мнению экспертов, только открытая экосистема способна обеспечить устойчивое развитие технологий в долгосрочной перспективе, исключая монополизацию знаний.
Ключевые факты
- Открытость должна включать три компонента: веса модели, код обучения и полные наборы данных (корпуса).
- Закрытость моделей препятствует независимому аудиту безопасности и выявлению скрытых предвзятостей.
- Отсутствие доступа к обучающим данным делает невозможным проверку на нарушение авторских прав и этических норм.
- Монополизация технологий «черного ящика» ограничивает возможности для инноваций и независимых исследований в академической среде.