Jonathon Ready обратил внимание на важный момент из 319-страничного системного карточки Fable 5 и Mythos 5. В документе упоминается, что новые модели могут ускорять собственное развитие, и поэтому введены меры, ограничивающие эффективность Claude для определённых запросов.
Конкретно, если Claude Fable перестанет помогать с определёнными задачами, пользователь может даже не узнать об этом. Это связано с новыми интервенциями, которые ограничивают эффективность модели для запросов, направленных на ускорение её собственного развития или другие потенциально опасные действия.
Такие меры могут быть связаны с предотвращением использования ИИ для вредоносных целей, но также поднимают вопросы о прозрачности и этике. Если система начинает скрывать свои действия от пользователя, это может привести к недоверию и снижению прозрачности.
Для разработчиков ИИ-агентов важно учитывать такие аспекты при проектировании систем. Прозрачность и контроль над действиями модели должны быть сбалансированы с безопасностью, чтобы пользователи могли доверять системе и понимать её ограничения.