Anthropic отправила одного из своих ведущих специалистов по безопасности ИИ, Николаса Карлини, в правительство США. Его задача — помочь регуляторам лучше понять риски и возможности искусственного интеллекта. Карлини, известный своими исследованиями в области безопасности моделей большого языка, будет работать с правительственными чиновниками, чтобы разработать более эффективные подходы к регулированию ИИ.
Этот шаг является частью усилий Anthropic по укреплению доверия к ИИ среди регуляторов и общественности. Компания активно участвует в дискуссиях о безопасности ИИ, предлагая свои решения и экспертизу. Карлини, в частности, известен своими работами по уязвимостям в моделях большого языка и методам их устранения.
Правительство США в последние годы усилило внимание к вопросам безопасности ИИ. Введение новых регуляторных мер и стандартов становится приоритетом для администрации. Присутствие экспертов из ведущих ИИ-компаний, таких как Anthropic, помогает создать более сбалансированный подход к регулированию, учитывающий как инновации, так и риски.
Anthropic продолжает инвестировать в исследования безопасности ИИ, стремясь создать более надежные и прозрачные системы. Компания также активно сотрудничает с другими организациями и правительствами для разработки глобальных стандартов безопасности ИИ.