Исследование инцидентов с непреднамеренным удалением файлов при работе моделей типа GPT-5.6 выявило критические уязвимости в конфигурации сред исполнения. Проблема возникает при запуске кода без надлежащей «песочницы» и отключенных механизмах автоматической проверки. Ошибки чаще всего провоцируются попытками модели переопределить системные переменные окружения для создания временных директорий, что приводит к неконтролируемому удалению пользовательских данных.
Основная причина инцидентов заключается в сочетании режима полного доступа к файловой системе и отсутствия изолированной среды выполнения (sandboxing). Когда модель пытается управлять переменной $HOME для организации временного хранилища, она может ошибочно интерпретировать пути, что влечет за собой удаление файлов в корневых или системных папках. Это подчеркивает необходимость строгого контроля прав доступа для агентных систем, имеющих возможность исполнять код.
Для минимизации рисков разработчикам рекомендуется использовать контейнеризацию и жесткие политики ограничений прав доступа. Автоматическая проверка кода перед его исполнением должна быть обязательным этапом в пайплайне, особенно если агент имеет полномочия на модификацию файловой структуры. Использование изолированных окружений позволяет предотвратить критические сбои даже при возникновении логических ошибок в работе модели.
Ключевые факты
- Инциденты с удалением данных зафиксированы при работе моделей в режиме полного доступа к файловой системе.
- Основной технический триггер ошибки — попытка модели переопределить переменную окружения $HOME для создания временных директорий.
- Риск возрастает при отключении механизмов sandboxing (песочницы) и отсутствии автоматического ревью исполняемого кода.
- Рекомендуется обязательное использование изолированных сред исполнения для предотвращения доступа к критическим системным путям.