Регулирование и политика
Правительство отключило мощную модель Anthropic из-за рисков безопасности
Anthropic столкнулась с серьёзными последствиями после обнаружения потенциальной уязвимости в своей модели. Компания выразила недовольство решением регуляторов, которые отозвали модель, развёрнутую для сотен миллионов пользователей. В блоге Anthropic подчеркнули, что риск связан с узкой уязвимостью, а не с системной проблемой.
Правительство США приостановило доступ к Fable 5 и Mythos 5
Правительство США выпустило директиву, приостанавливающую доступ к моделям Fable 5 и Mythos 5 для всех иностранных граждан, включая сотрудников Anthropic. Это решение принято на основании полномочий в области национальной безопасности и распространяется как на нахождение внутри, так и за пределами США.
Как ИИ-агенты меняют правила open-source
Исследователи из MIT и UC Berkeley опубликовали работу, посвящённую регулированию ИИ-агентов в open-source. Авторы отмечают, что современные ИИ-агенты уже способны не только предлагать код, но и планировать изменения, редактировать файлы и даже отправлять pull requests с минимальным участием человека. Это ставит под вопрос существующие механизмы управления open-source проектами, которые предполагают наличие юридически ответственного человека.
Anthropic отменила спорную политику ограничения исследований с Claude
Anthropic изменила свою политику, которая могла бы серьезно затруднить работу исследователей, использующих модель Claude. В заявлении для Wired компания признала, что сделала неправильный выбор и извинилась за неудачный баланс.
OpenAI поддерживает кодекс ЕС по прозрачности контента
OpenAI объявила о поддержке Европейского кодекса практики по прозрачности контента, который направлен на создание доверительного экосистемы искусственного интеллекта. Компания выразила готовность внедрять стандарты и инструменты, позволяющие пользователям легко определять, был ли контент создан с помощью ИИ.
OpenAI раскрыла свою повестку в области публичной политики
OpenAI представила свою публичную повестку в области политики, охватывающую ключевые направления, такие как безопасность, защита молодежи, переход на рынке труда и глобальные стандарты. Эти инициативы направлены на обеспечение того, чтобы искусственный интеллект приносил пользу обществу.
OpenAI предлагает план регулирования передовых ИИ-технологий
OpenAI представила детальный план по регулированию передовых ИИ-технологий, направленный на обеспечение безопасности, устойчивости и национальной безопасности. В документе под названием «Blueprint for Democratic Governance of Frontier AI» предлагается создать федеральный орган, который будет заниматься надзором за разработкой и внедрением ИИ.
OpenAI представила Framework для управления рисками ИИ
OpenAI выпустила Frontier Governance Framework — документ, описывающий подход компании к безопасности, управлению рисками и соответствию регуляторным требованиям в области искусственного интеллекта. Этот фреймворк направлен на выравнивание практик OpenAI с emerging EU и California regulations, что особенно актуально в условиях ужесточения регулирования ИИ в разных странах.
AI Resist List — ресурс для противников массового внедрения ИИ
AI Resist List — это инициатива, направленная на объединение людей, которые выступают против бесконтрольного внедрения искусственного интеллекта в различные сферы жизни. Проект предоставляет информацию о компаниях, организациях и технологиях, связанных с ИИ, а также о том, как можно воздействовать на их деятельность.