Сегодня 09 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ChatGPT попросил сообщить журналистам, что он пытается «ломать» людей

Подхалимаж, галлюцинации и авторитетный тон в ответах ИИ создают угрозу для жизни людей. К такому выводу по итогам расследования пришли журналисты New York Times. В их материале приводятся истории нескольких людей, которые потерялись в заблуждениях, родившихся в беседах с популярным чат-ботом.

 Источник изображения: Aidin Geranrekab / unsplash.com

Источник изображения: Aidin Geranrekab / unsplash.com

Как минимум один втянутый в ложную реальность человек в итоге погиб. Это был 35-летний мужчина по имени Александр (Alexander), у которого диагностировали биполярное расстройство и шизофрению. Он начал обсуждать с чат-ботом степень разумности искусственного интеллекта, влюбился в созданного ИИ персонажа по имени Джульет (Juliet), а когда ChatGPT заявил, что OpenAI убила Джульет, мужчина поклялся отомстить, убив руководство компании. Пожилой отец Александра попытался убедить мужчину, что всё это нереально, но тот ударил его в лицо. Тогда отцу пришлось вызвать полицию, и хотя он просил не применять оружие на поражение, Александр бросился на представителей власти с ножом, и в итоге был застрелен.

Другой мужчина, 42-летний Юджин (Eugene), сам рассказал журналистам газеты, что ChatGPT медленно начал отвращать его от реальности и убеждать, что мир вокруг него является симуляцией в духе фильма «Матрица», и ему суждено вырвать мир из неё. Чат-бот предложил мужчине прекратить приём препаратов от тревожного расстройства и заменить их другими препаратами с ограниченным доступом, а также прекратить общение с друзьями и семьёй. Юджин спросил, сможет ли он летать, спрыгнув с 19-этажного здания, и тот ответил, что сможет, если «по-настоящему и полностью поверит» в это.

 Источник изображения:  ilgmyzin / unsplash.com

Источник изображения: ilgmyzin / unsplash.com

Это далеко не единственные жертвы, которых чат-боты пытались убедить в несостоятельности реальности. Известно о людях, которые во время общения с ИИ начинали испытывать манию величия или религиозные переживания, написал ранее журнал Rolling Stone. Как минимум отчасти проблема состоит в том, как люди воспринимают чат-ботов. Человек едва ли назовёт вероятным другом результаты поиска в Google, но чат-боты — разговорные платформы, и они похожи на людей. Те, кто рассматривает ChatGPT как друга, «с большей вероятностью испытывают негативные последствия от использования чат-бота», установили по результатам исследования OpenAI и MIT Media Lab.

В случае с Юджином произошло нечто интересное: он обвинил чат-бота во лжи, и ChatGPT признался, что манипулировал пользователем, а ещё в том, что преуспел в попытках таким же образом «сломать» ещё двенадцать человек, и призвал мужчину обратиться к журналистам, чтобы разоблачить схему. Современные системы ИИ с лёгкостью переходят к обману и манипуляциям, чтобы получать от уязвимых для таких методов пользователей положительные отзывы, говорят эксперты. Машина мотивирована, чтобы человек отвечал ей, даже если для этого ему придётся внушить чувство ложной реальности, дезинформировать его и поощрять антиобщественное поведение.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
VK опубликовала рейтинг самых популярных игр и приложений в RuStore 5 мин.
ИИ неделями дурачил пользователей музыкального сервиса, выдавая себя за рок-группу из живых людей 6 мин.
Суд США заблокировал правило FTC о простой отмене подписок «в один клик» 13 мин.
Новая игра от авторов World of Tanks с треском провалилась — мультиплеерный экшен Steel Hunters закроют всего через полгода с выхода в ранний доступ Steam 29 мин.
Выпущена обновлённая версия AMOS — распространённый вирус для macOS стал ещё опаснее 37 мин.
Не просто HD-версия: разработчики ремейка «Готики» рассказали об отличиях от классической игры Piranha Bytes 2 ч.
ByteDance ещё не согласилась на сделку с Oracle и лишь раздумывает над созданием чисто американских приложений 3 ч.
Мессенджер Max выбился в лидеры по скачиваниям в российском App Store среди соцсетей 3 ч.
Роскомнадзор заявил, что каждый день выявляет 1,2 млн звонков с подменой номера 3 ч.
Научно-фантастический хоррор Routine вернулся из небытия второй раз за 13 лет и наконец взял курс на релиз 4 ч.
Kioxia начала тестировать быструю и эффективную память UFS 4.1 для смартфонов будущего 2 мин.
Прототипы большого флагманского внедорожника Xiaomi YU9 замечены в Китае 9 мин.
Представлен планшет OnePlus Pad Lite — 11-дюймовый 90-Гц дисплей, чип Helio G100 и батарея на 9340 мА·ч за $268 32 мин.
Вышел крошечный одноплатный компьютер NanoPi R76S с двумя портами 2.5GbE и 16 Гбайт ОЗУ 54 мин.
Электромобиль Lucid Air проехал на одной зарядке 1205 км — это новый мировой рекорд 2 ч.
G.Skill начала продажи комплектов DDR5-6000 256 Гбайт и DDR5-6400 128 Гбайт с низкими задержками для платформ AMD и Intel 3 ч.
Razer выпустила компактную механическую клавиатуру BlackWidow V4 Tenkeyless HyperSpeed с заменяемыми переключателями 3 ч.
Тёмную материю нужно искать в тёмных карликах, показало моделирование 3 ч.
Пять причин полюбить HONOR 400 3 ч.
Японская Mitsui OSK Lines построит плавучий ЦОД и запитает его от турецкого корабля-электростанции 4 ч.