Группа действующих и бывших сотрудников OpenAI, Google и Anthropic опубликовала открытое письмо с требованием законодательного регулирования сферы искусственного интеллекта. Авторы настаивают на создании механизмов защиты информаторов, которые сообщают о рисках безопасности, и призывают компании к большей прозрачности в вопросах разработки моделей, чтобы предотвратить потенциальные угрозы обществу и национальной безопасности.
Инициатива подчеркивает растущую обеспокоенность внутри индустрии относительно темпов развития технологий и отсутствия независимого надзора. Подписанты утверждают, что текущие системы внутреннего контроля недостаточны, так как компании зачастую ставят коммерческие интересы выше безопасности. Основной акцент сделан на необходимости правовой защиты специалистов, которые готовы публично раскрывать информацию о нарушениях или скрытых рисках в алгоритмах.
Подобные призывы отражают системный конфликт между стремлением технологических гигантов к доминированию на рынке и необходимостью соблюдения этических норм. Законодатели США уже рассматривают ряд инициатив, направленных на ограничение бесконтрольного внедрения ИИ, однако текущие предложения сталкиваются с сопротивлением лоббистов, опасающихся замедления инноваций и потери конкурентоспособности на мировом рынке.
Ключевые факты
- В петиции приняли участие сотрудники OpenAI, Google (Alphabet) и Anthropic.
- Основное требование — создание юридических гарантий для «информаторов» (whistleblowers), сообщающих о рисках ИИ.
- Авторы призывают к обязательному раскрытию данных о безопасности моделей перед их публичным релизом.
- Инициатива направлена на преодоление «культуры секретности», которая, по мнению сотрудников, мешает объективной оценке угроз.
- Документ призывает правительство США внедрить независимый аудит систем ИИ для предотвращения катастрофических рисков.