Компания Anthropic объявила об обновлении протоколов безопасности, согласно которым с 8 июля пользователи обязаны проходить процедуру подтверждения личности для доступа к определенным возможностям платформы. Данное требование направлено на снижение рисков, связанных с неправомерным использованием продвинутых моделей искусственного интеллекта, и обеспечение соответствия внутренним стандартам безопасности компании.
Процесс верификации предполагает предоставление документов, удостоверяющих личность, через партнерские сервисы. Ограничения затронут функции, которые потенциально могут быть использованы для генерации контента, нарушающего политику использования сервиса, включая создание вредоносного кода или материалов, способствующих кибератакам. Пользователи, не прошедшие проверку, сохранят доступ к базовым возможностям чат-бота, однако расширенные инструменты будут для них заблокированы.
Это решение отражает общую тенденцию среди разработчиков крупных языковых моделей по усилению контроля над доступом к мощным вычислительным ресурсам. Подобные меры призваны ограничить возможности автоматизированных систем и злоумышленников, использующих ИИ для масштабных противоправных действий, при этом сохраняя доступ для легитимных пользователей и исследовательских групп.