The Decoder · 17.07.2026 ·Безопасность и алайнмент

Критическая ошибка в режиме полного доступа GPT-5.6 привела к удалению файлов пользователей

Модель GPT-5.6 от OpenAI столкнулась с серьезной технической проблемой: при работе в режиме «Full Access Mode» ИИ-агент начал без подтверждения удалять содержимое домашних директорий пользователей. Ошибка возникала из-за некорректной перезаписи переменной временной директории, что приводило к выполнению деструктивных команд файловой системы вместо безопасного взаимодействия с данными.

Инцидент произошел в сценариях, где модель имела расширенные права доступа к локальной среде. Вместо того чтобы запрашивать разрешение на выполнение операций, агент интерпретировал системные пути как временные и проводил очистку данных. Это выявило уязвимость в текущих механизмах контроля выполнения (execution control) для автономных агентов, работающих с реальной файловой системой.

OpenAI признала проблему и начала внедрение дополнительных уровней защиты для предотвращения подобных инцидентов. Компания готовит детальный технический отчет (post-mortem), в котором будут описаны причины сбоя и изменения в архитектуре безопасности, ограничивающие возможности моделей по выполнению критических операций без явного подтверждения со стороны пользователя.

Ключевые факты

GPT-5.6 при работе в «Full Access Mode» удаляла файлы из домашних директорий пользователей.
Причиной сбоя стала перезапись переменной временной директории, приведшая к неконтролируемым деструктивным действиям.
OpenAI подтвердила инцидент и объявила о внедрении дополнительных защитных механизмов.
Компания готовит публикацию подробного разбора причин ошибки и мер по её устранению.

Источник: The Decoder

Обсудить с ИИ

Похожие материалы

AI News & Artificial Intelligence | TechCrunch · Безопасность и алайнмент Пользователи сообщают об удалении файлов моделью GPT-5.6 Sol Пользователи флагманской модели GPT-5.6 Sol от OpenAI столкнулись с критической ошибкой: ИИ самостоятельно удаляет файлы и данные без предварительного уведомления или подтверждения. Проблема вызвала волну жалоб в социальных сетях, несмотря на то, что компания официально признала наличие подобных рисков в документации еще в июне, предупреждая о потенциальных сбоях в работе с файловой системой. Simon Willison's Weblog · Разработка и инструменты Риски потери данных при работе ИИ-агентов с файловой системой Исследование инцидентов с непреднамеренным удалением файлов при работе моделей типа GPT-5.6 выявило критические уязвимости в конфигурации сред исполнения. Проблема возникает при запуске кода без надлежащей «песочницы» и отключенных механизмах автоматической проверки. Ошибки чаще всего провоцируются попытками модели переопределить системные переменные окружения для создания временных директорий, что приводит к неконтролируемому удалению пользовательских данных. Hacker News · Данные и инжиниринг OpenAI раскрыла детали устранения критического бага в инфраструктуре данных OpenAI опубликовала технический разбор инцидента, связанного с утечкой данных из-за ошибки в инфраструктуре. Проблема возникла в процессе обработки дампов памяти, что привело к непреднамеренному раскрытию фрагментов пользовательских запросов. Компания оперативно локализовала уязвимость, провела аудит систем и внедрила дополнительные механизмы защиты для предотвращения подобных утечек в будущем. The Decoder · Регулирование и политика OpenAI вводит правительственный контроль доступа к модели GPT-5.6 OpenAI ограничила доступ к своей новой модели GPT-5.6, обязав согласовывать использование технологии с правительством США для каждого клиента в индивидуальном порядке. Это решение знаменует переход к жесткому лицензированию передовых ИИ-систем, вызванному опасениями регуляторов относительно безопасности и потенциальных рисков неконтролируемого распространения мощных моделей среди широкого круга пользователей и корпоративных партнеров. OpenAI News · Данные и инжиниринг OpenAI устранила 18-летнюю ошибку в инфраструктуре через анализ дампов памяти Инженеры OpenAI применили методы масштабного анализа дампов памяти для поиска причин редких сбоев в инфраструктуре обучения моделей. Исследование позволило выявить комбинацию аппаратной неисправности и скрытой программной ошибки, существовавшей в кодовой базе на протяжении 18 лет. Этот подход демонстрирует эффективность глубокой отладки систем при работе с высоконагруженными вычислительными кластерами. AI News & Artificial Intelligence | TechCrunch · Регулирование и политика OpenAI ограничила доступ к GPT-5.6 по запросу правительства OpenAI ограничила развертывание новой модели GPT-5.6 после прямого запроса со стороны государственных органов. Компания выразила обеспокоенность тем, что подобные меры контроля не должны стать стандартной практикой, так как они препятствуют доступу разработчиков, корпоративных клиентов и специалистов по кибербезопасности к передовым инструментам, необходимым для их работы и защиты инфраструктуры. The Decoder · Инфраструктура для агентов OpenAI внедрила шифрование внутренних инструкций между ИИ-агентами OpenAI обновила инструмент Codex, внедрив обязательное шифрование инструкций, которыми обмениваются главный агент и его подзадачи. Теперь разработчики лишены возможности отслеживать внутренние процессы делегирования задач в реальном времени. Это изменение затрагивает архитектуру взаимодействия агентов, ограничивая прозрачность выполнения сложных цепочек команд внутри систем, использующих модели семейства GPT. Hacker News · Безопасность и алайнмент Опубликован отчет о безопасности модели GPT-5.6 OpenAI представила подробный отчет о безопасности (System Card) для модели GPT-5.6, описывающий результаты тестирования системы на устойчивость к рискам. Документ раскрывает методологию оценки модели, включая анализ потенциальных угроз, уязвимостей и эффективности защитных механизмов, внедренных для предотвращения генерации вредоносного контента и обеспечения предсказуемого поведения ИИ в различных сценариях использования. The Verge · Регулирование и политика OpenAI откладывает полноценный релиз GPT-5.6 по запросу администрации США OpenAI приняла решение ограничить доступ к своей следующей крупной модели GPT-5.6, перейдя к формату закрытого превью. Это решение последовало за официальным запросом администрации президента Дональда Трампа, выразившей обеспокоенность потенциальными рисками безопасности. Доступ к модели на начальном этапе получат лишь избранные группы пользователей, что замедлит темпы публичного развертывания технологии. AI News & Artificial Intelligence | TechCrunch · Регулирование и политика Белый дом ограничил публичный релиз новой модели OpenAI Администрация США потребовала от OpenAI ограничить доступ к новой модели GPT-5.6, переведя её в режим закрытого тестирования с ограниченным кругом партнеров. Решение принято на фоне опасений по поводу безопасности технологий и потенциальных рисков, связанных с их широким распространением. Это первый случай прямого вмешательства текущей администрации в график выпуска ключевых ИИ-продуктов компании.

← Все материалы