Компания Anthropic выступила с предложением по регулированию ИИ, которое формально не запрещает открытые веса моделей, но вводит жесткие требования к их распространению. Предлагаемые меры фактически ограничивают возможности обучения и публикации мощных систем, создавая барьеры, которые могут сделать развитие открытого ИИ экономически нецелесообразным или технически невозможным для большинства независимых разработчиков и исследовательских групп.

Суть инициативы заключается в установлении строгих протоколов безопасности и отчетности, которые должны соблюдаться при выпуске моделей с определенным порогом вычислительной мощности. Критики отмечают, что такие требования создают «регуляторный ров», защищающий крупных игроков рынка от конкуренции со стороны open-source сообщества. Под предлогом предотвращения рисков, связанных с использованием ИИ в кибератаках или создании биологического оружия, компания фактически предлагает перенести ответственность за использование моделей на их создателей.

Подобный подход вызывает опасения у экспертов, занимающихся открытыми технологиями. Они указывают на то, что требования к «безопасному» распространению весов могут потребовать от разработчиков внедрения механизмов контроля, которые противоречат самой сути открытого ПО. В результате, вместо прямого запрета, регуляция может привести к тому, что только компании с многомиллиардными бюджетами смогут позволить себе соответствовать юридическим и техническим стандартам безопасности при публикации своих разработок.

Ключевые факты

  • Anthropic предлагает ввести обязательную сертификацию безопасности для моделей, обучение которых требует вычислительных мощностей выше определенного уровня.
  • Предложенные меры включают строгий контроль за цепочкой поставок и ответственность разработчиков за любые инциденты, произошедшие после публикации весов.
  • Критики подчеркивают, что соблюдение таких стандартов требует инфраструктуры, доступной только крупнейшим корпорациям, что де-факто ограничивает развитие открытых моделей.
  • Регулирование направлено на предотвращение использования ИИ в создании угроз национальной безопасности, таких как биологическое оружие или масштабные кибератаки.