Компания Anthropic назначила бывшего главу Федеральной резервной системы США Бена Бернанке в состав своего независимого совета по доверию и безопасности (Long-Term Benefit Trust). Это решение направлено на усиление надзора за разработкой мощных моделей ИИ, привлекая экспертов с опытом управления сложными экономическими и системными рисками для контроля за этикой и безопасностью технологий.
Совет по доверию Anthropic выполняет уникальную функцию: его участники обладают полномочиями назначать и смещать членов совета директоров компании. Такая структура призвана гарантировать, что долгосрочные цели безопасности и минимизация экзистенциальных рисков остаются приоритетными, даже если они вступают в противоречие с краткосрочными финансовыми интересами акционеров или инвесторов.
Привлечение Бернанке, известного своей ролью в преодолении финансового кризиса 2008 года, подчеркивает стремление Anthropic институционализировать контроль над ИИ-разработками. Компания пытается создать модель управления, которая сочетает коммерческую деятельность с жесткими внешними рамками, предотвращающими бесконтрольное распространение потенциально опасных технологий.
Ключевые факты
- Бен Бернанке возглавлял ФРС США с 2006 по 2014 год и является лауреатом Нобелевской премии по экономике.
- Совет по доверию Anthropic (Long-Term Benefit Trust) имеет право назначать и увольнять членов совета директоров компании.
- Основная задача совета — обеспечение соответствия разработок ИИ принципам безопасности и долгосрочного блага для человечества.
- Назначение отражает тренд на привлечение экспертов из государственного сектора и академических кругов в органы управления ИИ-компаний.