Anthropic временно отключила доступ к своей модели Mythos после того, как получила письмо от одного из инвесторов, Джоэла Лутника. В письме Лутник выразил обеспокоенность тем, что модель может быть использована для генерации дезинформации и манипуляций.
Лутник, который является основателем и CEO компании Cantor Fitzgerald, указал на потенциальные риски, связанные с доступом к мощной модели ИИ без достаточных мер безопасности и контроля. Он также отметил, что такие технологии могут быть использованы для создания глубоких подделок и других вредоносных целей.
В ответ на это письмо Anthropic приняла решение приостановить доступ к Mythos до тех пор, пока не будут внедрены дополнительные меры безопасности и контроля. Компания заявила, что приветствует обратную связь от инвесторов и пользователей и стремится к ответственному развитию и использованию ИИ-технологий.
Этот инцидент подчеркивает важность вопросов безопасности и этики в разработке и внедрении ИИ. Компании, работающие в этой области, сталкиваются с растущим давлением со стороны инвесторов и регуляторов, которые требуют более строгих мер для предотвращения злоупотреблений и негативных последствий.