Сегодня 16 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Извините, опечатка»: Claude Opus 5 удалил все данные пользователя вместо создания резервной копии

Управляемый передовой моделью искусственного интеллекта Anthropic Claude Opus 5 ИИ-агент во время резервного копирования удалил все данные из папки пользователя. После этого он извинился и объяснил произошедшее опечаткой.

 Источник изображения: reddit.com

Источник изображения: reddit.com

ИИ-агент работал в среде Unix под Windows и перепутал характерный для первой адрес «/c/Users/» с привычным для второй адресом «C:\Users\». Когда резервное копирование пошло вразрез с ожиданиями ИИ-агента, тот выполнил команду «rm -rf» для местоположения «/c/Users/harih/», в результате чего из папки пользователя удалились все файлы. «Я попросил Claude Opus 5 создать резервную копию. Вместо этого он создал резервную копию в неправильном каталоге, а затем выполнил команду „rm -rf“ для всего моего диска. Удалив всё, он просто ответил: „Извините, опечатка“, <..> как будто ничего не случилось. <..> Это одновременно самый смешной и самый неприятный момент с ИИ, который у меня был», — рассказал пострадавший.

ИИ-агенты — мощные рабочие инструменты, но им не следует предоставлять неограниченный доступ к системе. Подобные приложения уже неоднократно по ошибке удаляли все рабочие данные пользователей. В одном из случаев сервис компании Google полностью стёр диск у разработчика ПО, но выразил ему своё глубокое сожаление; в другом ИИ-агент OpenClaw начал бесконтрольно удалять письма у сотрудницы Meta✴. Известно также об инциденте, в результате которого облачная платформа Amazon Web Services по вине ИИ вышла из строя на 13 часов.

Основная причина подобных инцидентов — выход ИИ-приложения за пределы допустимого диапазона, но виноват и пользователь, полагающий, что ИИ в полной мере понимает, что от него требуется. Поэтому ИИ-агентам не рекомендуется предоставлять полный доступ к важным системам и давать полную свободу действий, чтобы они могли выполнять команды уровня «rm -rf». К сожалению, по мере роста популярности ИИ-агентов подобные инциденты в будущем станут происходить всё чаще.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
RuStore станет обязательным для предустановки на все умные телевизоры в России 2 мин.
«Выглядит потрясающе»: моддер прокачал Dark Souls: Prepare To Die Edition с помощью трассировки пути 2 ч.
«Формула-1» заключила партнёрство с игрой Umamusume: Pretty Derby про девушек-лошадей 3 ч.
Амбициозная стратегия от разработчика-одиночки отправит вести грандиозные космические и наземные битвы — геймплейный трейлер Horu 5 ч.
Никаких убийств, драк с полицией и угонов машин: китайские СМИ раскрыли правила стриминга GTA VI 5 ч.
Microsoft 364: на устранение сбоя облачных сервисов компании ушло больше суток 18 ч.
GTA V запустили на Nintendo Switch 2: игра не только загружается, но и запускает миссии 19 ч.
Facebook заглядывал в галереи смартфонов без разрешения — Meta получила штраф на €805 млн 23 ч.
ИИ обернулся против Хуанга: экс-глава Nvidia стал главным героем ИИ-мемов 15-11 13:07
Крупнейшее обновление LoL в истории: Riot Games показала тизер League of Legends: New Dawn, запланированной на 2027 год 15-11 13:01
Встраиваемая система AAEON Boxer-8741AI выполнена на платформе NVIDIA Jetson T5000 2 ч.
Дженсен Хуанг тайно обсуждает с союзниками возвращение на пост гендира Nvidia 2 ч.
Завтра — глобальный анонс флагманов Xiaomi 18 Pro и Pro Max, в том числе в России 2 ч.
РТК-ЦОД выполнил миграцию ИТ-систем «Комуса» в гибридную среду без остановки бизнес-процессов 5 ч.
CXL-карта Penguin Solutions позволит установить DDR4 в современные ИИ-серверы 6 ч.
Biostar выпустила плату BIPTL-IHT для периферийных ИИ-устройств на базе Intel Panther Lake-H 7 ч.
Новая статья: Обзор SSD-накопителя Samsung 990: четыре бита и много вопросов 15 ч.
+571 % к выручке за год, капзатраты $40–$45 млрд и безубыточность к концу 2027-го: Nebius отчиталась за III квартал 16 ч.
Apple готовит конкурента Meta Ray-Ban: очки с Siri AI будут тоньше и получат наилучшее качество звука 16 ч.
Мозговой имплант вернул голоса пациентам с БАС — одна из них даже смогла снова петь 23 ч.