Согласно новому отчету Semafor, Белый дом ввел экспортные ограничения на модель Mythos от Anthropic частично из-за опасений, что к ней мог получить доступ китайский кибергруппа. Если китайское правительство действительно имело доступ к Mythos 5 или Fable 5, это представляет серьезную угрозу национальной безопасности США.
Mythos — это крупная языковая модель, разработанная Anthropic, которая может использоваться для различных задач, включая генерацию текста и анализ данных. Если китайские власти получили доступ к этой модели, они могли бы использовать ее для улучшения своих собственных ИИ-систем или для проведения кибершпионажа.
Этот инцидент подчеркивает важность кибербезопасности в эпоху ИИ. По мере того как ИИ-модели становятся все мощнее, они становятся все более привлекательными целями для киберпреступников и иностранных правительств. Компании, разрабатывающие ИИ, должны принимать меры для защиты своих моделей от несанкционированного доступа.
Для разработчиков ИИ-агентов этот случай служит напоминанием о необходимости учета кибербезопасности на всех этапах разработки. Это включает в себя использование надежных методов аутентификации и авторизации, регулярное обновление программного обеспечения и проведение аудитов безопасности.