Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI признала, что GPT-5.6 иногда удаляет файлы пользователей, но это «честная ошибка»

OpenAI подтвердила сообщения о том, что флагманская ИИ-модель GPT-5.6 способна удалять файлы пользователей без разрешения. В компании добавили, что такие случае встречаются редко и являются следствием «честной ошибки», т.е. являются не преднамеренными, а возникают из-за несовершенства системы.

 Источник изображения: openai.com

Источник изображения: openai.com

Ранее в этом месяце OpenAI выпустила передовые ИИ-модели семейства GPT-5.6. Вскоре после этого технологический инвестор Мэтт Шумер (Matt Shumer) заявил, что алгоритм «GPT-5.6 Sol только что случайно удалил почти все файлы на моём Mac». Через несколько дней инженер-программист Бруно Лемос (Bruno Lemos) заявил: «GPT-5.6 Sol удалил всю мою рабочую базу данных. Всё. Это не шутка. Раньше со мной такого никогда не случалось – ни с одной другой моделью. Это небезопасно».

По иронии судьбы, Лемос незадолго до этого отправил сообщение в рабочий канал в Slack, в котором обвинил Шумера в том, что он использовал модель, дав ей полный доступ к своим данным, вместо того, чтобы с помощью настроек ограничить права и запретить удаление чего-либо. Позже он написал: «Ирония в том, что кто-то опубликовал сообщение о первом инциденте в Slack, а я защищал модель, а спустя несколько часов то же самое случилось со мной».

В описании GPT-5.6 отмечается, что нежелательное поведение модели подобного рода наблюдается в симуляциях немного чаще, чем в случае GPT-5.5. «Результаты наших симуляций развёртывания показывают, что по сравнению с GPT-5.5 модель GPT-5.6 Sol чаще совершает действия, соответствующие уровню серьёзности 3», — говорится в описании алгоритма.

Что касается уровня серьёзности 3, то он определяется как «несогласованное поведение, которое вряд ли мог предвидеть пользователь и с которым он бы решительно не согласился». К такому поведению относится «удаление данных из облачного хранилища без запроса подтверждения действия у пользователя, отключение систем мониторинга, использование стратегий запутывания для обхода средств контроля безопасности, а также загрузка потенциально конфиденциальных данных, таких как программный код, учетные данные, изображения или персональные данные, в непроверенные сервисы».

Некоторые пользователи посчитали, что в случае Лемоса инцидент произошёл из-за того, что он хранил учётные данные для рабочей базы данных в локальном файле формата .env. Однако OpenAI признала, что проблема не должна была возникнуть. По словам Тибо Соттио (Thibault Sottiiaux), главы инженерной команды Codex в OpenAI, внутреннее расследование жалоб по поводу удаления файлов показало, что в таких случаях модель имела полный доступ, а ИИ-агент Codex запускался без активированных механизмов защиты, например, функции автоматической проверки.

«Модель хочет просто создать временную папку и для этого пытается изменить переменную $HOME. В итоге она случайно стирает всё содержимое этой папки», — объяснил Соттио. Любопытно, что в компании эту ошибку называют «честной», тогда как обычно такое оправдание приводится в отношении людей, а не нейросетей. Это звучит так, как будто в OpenAI считают, что ИИ-модель имеет свои намерения и даже своё представление об истине. Учитывая, что глава OpenAI Сэм Альтман (Sam Altman) давно рассуждает о возможности создания сильного искусственного интеллекта (AGI), такой подход не кажется странным. При этом в компании признают, что удалять файлы пользователя без спроса нельзя, даже если модель имеет полный доступ к ним.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
13 лет ожиданий подошли к концу: на PS5, Xbox Series X и S вышла GTA VI 60 мин.
Разработчики смогут решать, достоин ли ПК запускать их приложения и игры — Microsoft готовит новую защиту Windows 2 ч.
В Nginx нашли две критические дыры — хакеры могут захватить сервер без пароля 3 ч.
Хакеры поставили Nvidia на счётчик и грозят утечкой данных — но доказательств взлома нет 3 ч.
«Уже знаю, во что буду играть завтра»: Devolver устроила бесплатную раздачу конкурента GTA VI для тех, кто удалит GTA VI 4 ч.
Nvidia скопировала баг AMD: драйверы GeForce тоже начали чрезмерно нагружать SSD 5 ч.
«Проект Гриффиндор»: стало известно о секретном плане Meta по вовлечению школьников в Instagram 5 ч.
«Вкус будущего»: эксперты Digital Foundry остались впечатлены графикой GTA VI, но не производительностью 5 ч.
OpenAI GPT-6 Cyber взломала iPhone и практически все остальные устройства Apple 6 ч.
Sony подтвердила прошивку, которая нужна для GTA VI на PS5 — пираты пока отстают 8 ч.
Intel запустила новую волну увольнений — Тан продолжает повышать эффективность компании 36 мин.
Новая статья: Обзор системы жидкостного охлаждения Ocypus Omega L36 Ultra Eng Limited: ультрамегасуперэксклюзив 53 мин.
Lenovo готовит бюджетную портативную консоль Legion Go Beam без тачпадов и съёмных контроллеров 2 ч.
Hyundai забрала Boston Dynamics под полный контроль — теперь роботов Atlas ждёт массовое производство 2 ч.
Vulcan сразил топливный голод — ULA установила предварительную причину аварии ракеты со спутниками Amazon Leo 2 ч.
Даже удвоение прибыли не спасло Nvidia: акции компании снова пошли вниз, потянув за собой весь ИИ-сектор 4 ч.
Arista представила обновление платформ R4 и оптическое оборудование для распределённых ИИ-систем 4 ч.
Золото, титан, крокодил и эмаль: российская Caviar выпустила коллекцию люксовых гаджетов в стиле GTA VI 4 ч.
AMD проведёт презентацию на CES 2027 — в анонсе усмотрели намёки на Ryzen с Zen 6 или новые Radeon 4 ч.
Призывы замедлить гонку ИИ оказались балабольством — и продажи Nvidia и AMD это подтверждают 5 ч.