Hacker News · 07.08.2026 ·Безопасность и алайнмент

Утечка промптов и системных инструкций модели Kimi от Moonshot AI

Китайская модель Kimi (K3) от стартапа Moonshot AI оказалась уязвима к атакам типа «jailbreak», в результате которых пользователи смогли извлечь системные инструкции и внутренние промпты модели. Инцидент продемонстрировал, что даже передовые проприетарные системы остаются подвержены методам социальной инженерии, позволяющим обходить встроенные ограничения безопасности и получать доступ к скрытым параметрам конфигурации ИИ-агентов.

Исследователи обнаружили, что модель Kimi, позиционируемая как одна из самых мощных в Китае, не смогла противостоять специально подготовленным запросам. В ходе экспериментов пользователи заставили систему раскрыть свои «инструкции по поведению», которые обычно скрыты от конечного потребителя. Это ставит под вопрос надежность текущих механизмов защиты, используемых разработчиками для предотвращения несанкционированного доступа к логике работы моделей.

Подобные утечки подчеркивают сложность обеспечения безопасности в условиях, когда разработчики полагаются на текстовые инструкции (системные промпты) для управления поведением ИИ. В отличие от традиционного программного обеспечения, где логика жестко закодирована, поведение LLM остается гибким и уязвимым к манипуляциям через естественный язык, что создает риски для компаний, использующих такие модели в корпоративных или публичных сервисах.

Ключевые факты

Moonshot AI — один из ведущих китайских разработчиков ИИ, оцениваемый в миллиарды долларов.
Модель Kimi (K3) является флагманским продуктом компании с поддержкой длинного контекста.
Атаки позволили пользователям получить доступ к скрытым системным промптам, определяющим стиль общения и ограничения модели.
Инцидент подтверждает уязвимость современных LLM к методам «prompt injection» и обходу контентных фильтров.
Утечка произошла через публично доступный интерфейс чат-бота, что позволило исследователям быстро воспроизвести результат.

Источник: Hacker News

Обсудить с ИИ

Похожие материалы

Hacker News · Модели и релизы Анализ архитектуры Kimi K3: подозрения в дистилляции моделей Anthropic Новая языковая модель Kimi K3 от китайского стартапа Moonshot AI вызвала дискуссии в сообществе исследователей ИИ. Анализ весов и поведения модели указывает на возможную дистилляцию знаний из невыпущенных архитектур Anthropic. Эксперты отмечают необычное сходство в логических паттернах и специфических ответах, что ставит вопросы о методах обучения и чистоте данных, используемых для тренировки проприетарных систем. Hacker News · Модели и релизы Прорыв китайской Moonshot AI в области длинного контекста Китайская компания Moonshot AI представила обновленную модель Kimi, способную обрабатывать до 10 миллионов токенов за один запрос. Этот технологический скачок позволяет анализировать огромные массивы данных, включая целые библиотеки документов и многочасовые видео, что ставит под угрозу доминирование американских разработчиков в сегменте моделей с длинным контекстным окном. Hacker News · Оценка и бенчмарки Kimi K3: почему новая модель Moonshot AI привлекла внимание регуляторов Китайский стартап Moonshot AI представил модель Kimi K3, показавшую выдающиеся результаты в задачах генерации фронтенд-кода. Модель продемонстрировала способность решать сложные инженерные задачи на уровне ведущих западных аналогов, что спровоцировало дискуссии в Вашингтоне о темпах развития ИИ-технологий в Китае и потенциальных рисках для технологического лидерства США в области разработки ПО. The Decoder · Оценка и бенчмарки Kimi K3 показала низкие результаты в задачах по кибербезопасности Модель Kimi K3 от компании Moonshot AI значительно уступает ведущим американским разработкам в задачах, связанных с кибербезопасностью. Исследование, проведенное институтами безопасности ИИ Великобритании и США, показало, что модель не только демонстрирует низкую эффективность в создании эксплойтов, но и не справляется с блокировкой вредоносных запросов, несмотря на высокие показатели в общих бенчмарках. AI News & Artificial Intelligence | TechCrunch · Прогнозы и тренды Реакция рынка на модель Kimi k1.5 и инцидент с утечкой OpenAI Китайская лаборатория Moonshot AI привлекла внимание индустрии выпуском модели Kimi k1.5, вызвав дискуссии о темпах развития ИИ в КНР и конкуренции с западными игроками. Параллельно с этим произошел инцидент с утечкой невыпущенной модели OpenAI, которая оказалась скомпрометирована через платформу Hugging Face, что вновь подняло вопросы безопасности при тестировании и развертывании крупных нейросетевых архитектур. Hacker News · Модели и релизы Kimi K3 как новая точка перегиба в развитии LLM Выход модели Kimi K3 от китайского стартапа Moonshot AI знаменует важный сдвиг в индустрии больших языковых моделей. Эксперты отмечают, что архитектурные решения и эффективность этой модели позволяют ей конкурировать с лидерами рынка, демонстрируя значительный прогресс в качестве генерации и логических способностях, что может изменить расстановку сил между западными и азиатскими разработчиками ИИ. Hacker News · Модели и релизы Анализ архитектурных особенностей модели Kimi k3 Новая модель Kimi k3 от компании Moonshot AI демонстрирует значительный прогресс в задачах рассуждения, что связывают с использованием цепочек «мыслей» (thinking traces) в процессе генерации. Исследователи отмечают, что модель способна динамически распределять вычислительные ресурсы для решения сложных логических задач, что приближает её по эффективности к лидирующим западным аналогам в области глубокого обучения. Hacker News · Прогнозы и тренды Анализ успеха китайского ИИ-сервиса Kimi от Moonshot AI Аналитики отмечают стремительный рост популярности китайского чат-бота Kimi от компании Moonshot AI, который стал значимым игроком на рынке LLM. Сервис демонстрирует высокую эффективность в работе с длинным контекстом и глубокой интеграцией в локальную экосистему, что позволяет ему успешно конкурировать с западными аналогами, предлагая пользователям специфические сценарии использования и высокую скорость обработки данных. Hacker News · Модели и релизы Китайская модель Kimi K3 меняет ландшафт глобального рынка ИИ Китайский стартап Moonshot AI выпустил модель Kimi K3, которая стала значимым игроком на мировом рынке благодаря высокой производительности и бесплатной модели распространения. Продукт демонстрирует способность китайских разработчиков создавать конкурентоспособные LLM, способные обрабатывать огромные объемы контекста, что вынуждает западных технологических гигантов пересматривать свои стратегии ценообразования и доступности инструментов для пользователей. Hacker News · Безопасность и алайнмент Уязвимость Cross-Vendor Semantic Void Matrix в современных LLM Исследователи обнаружили критическую уязвимость Cross-Vendor Semantic Void Matrix, затрагивающую ведущие языковые модели, включая GPT, Claude, Gemini и Kimi. Атака позволяет принудительно переводить ИИ-системы в состояние «нулевого вывода», при котором модель перестает генерировать осмысленные ответы, фактически блокируя работу сервиса через специфические семантические манипуляции с входными данными.

← Все материалы