В сети обсуждают сбой ChatGPT: один символ в коде удалил все данные

Обычная попытка очистить кэш с помощью скрипта, сгенерированного искусственным интеллектом, закончилась потерей всех данных на жестком диске. Разработчик столкнулся с этой проблемой из-за единственного ошибочного символа в коде, созданном нейросетью.

Инцидент получил огласку благодаря публикации на форуме Reddit. Пользователь обратился к ChatGPT Codex версии 5.3 с просьбой написать простой скрипт на языке PowerShell для удаления определенных папок. Однако вместо того, чтобы очистить кэш, программа стерла все файлы на диске F, включая рабочие проекты и данные Docker.

Причиной сбоя стала небольшая ошибка в написании пути к файлам. Скрипт, созданный искусственным интеллектом, использовал обратную косую черту для выделения кавычек. Этот метод может работать в некоторых случаях, но он приводит к проблемам, когда PowerShell обращается к командной строке Windows. В результате переменная пути сократилась до одного символа, который операционная система восприняла как указание на корень текущего диска. Команда на удаление была выполнена без запроса подтверждения, и все содержимое корневого каталога оказалось уничтожено.

Этот случай не был связан со сложной уязвимостью, а стал следствием разницы в том, как различные оболочки Windows обрабатывают специальные символы. Например, в PowerShell для этих целей обычно используется обратный апостроф, а не косая черта. Смешивание этих сред может привести к непредвиденным последствиям даже для опытных пользователей. Кроме того, многие команды удаления в Windows не имеют встроенных механизмов защиты от случайных действий.

Сообщается, что разработчику удалось восстановить часть потерянной информации из резервных копий, но основная масса данных была безвозвратно утрачена. Этот инцидент не говорит о том, что инструменты на основе искусственного интеллекта опасны, но он напоминает о необходимости тщательно проверять сгенерированный код. Специалисты советуют тестировать подобные скрипты в безопасной среде и не использовать команды принудительного удаления без предварительной проверки.