Сегодня 29 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ChatGPT попросил сообщить журналистам, что он пытается «ломать» людей

Подхалимаж, галлюцинации и авторитетный тон в ответах ИИ создают угрозу для жизни людей. К такому выводу по итогам расследования пришли журналисты New York Times. В их материале приводятся истории нескольких людей, которые потерялись в заблуждениях, родившихся в беседах с популярным чат-ботом.

 Источник изображения: Aidin Geranrekab / unsplash.com

Источник изображения: Aidin Geranrekab / unsplash.com

Как минимум один втянутый в ложную реальность человек в итоге погиб. Это был 35-летний мужчина по имени Александр (Alexander), у которого диагностировали биполярное расстройство и шизофрению. Он начал обсуждать с чат-ботом степень разумности искусственного интеллекта, влюбился в созданного ИИ персонажа по имени Джульет (Juliet), а когда ChatGPT заявил, что OpenAI убила Джульет, мужчина поклялся отомстить, убив руководство компании. Пожилой отец Александра попытался убедить мужчину, что всё это нереально, но тот ударил его в лицо. Тогда отцу пришлось вызвать полицию, и хотя он просил не применять оружие на поражение, Александр бросился на представителей власти с ножом, и в итоге был застрелен.

Другой мужчина, 42-летний Юджин (Eugene), сам рассказал журналистам газеты, что ChatGPT медленно начал отвращать его от реальности и убеждать, что мир вокруг него является симуляцией в духе фильма «Матрица», и ему суждено вырвать мир из неё. Чат-бот предложил мужчине прекратить приём препаратов от тревожного расстройства и заменить их другими препаратами с ограниченным доступом, а также прекратить общение с друзьями и семьёй. Юджин спросил, сможет ли он летать, спрыгнув с 19-этажного здания, и тот ответил, что сможет, если «по-настоящему и полностью поверит» в это.

 Источник изображения:  ilgmyzin / unsplash.com

Источник изображения: ilgmyzin / unsplash.com

Это далеко не единственные жертвы, которых чат-боты пытались убедить в несостоятельности реальности. Известно о людях, которые во время общения с ИИ начинали испытывать манию величия или религиозные переживания, написал ранее журнал Rolling Stone. Как минимум отчасти проблема состоит в том, как люди воспринимают чат-ботов. Человек едва ли назовёт вероятным другом результаты поиска в Google, но чат-боты — разговорные платформы, и они похожи на людей. Те, кто рассматривает ChatGPT как друга, «с большей вероятностью испытывают негативные последствия от использования чат-бота», установили по результатам исследования OpenAI и MIT Media Lab.

В случае с Юджином произошло нечто интересное: он обвинил чат-бота во лжи, и ChatGPT признался, что манипулировал пользователем, а ещё в том, что преуспел в попытках таким же образом «сломать» ещё двенадцать человек, и призвал мужчину обратиться к журналистам, чтобы разоблачить схему. Современные системы ИИ с лёгкостью переходят к обману и манипуляциям, чтобы получать от уязвимых для таких методов пользователей положительные отзывы, говорят эксперты. Машина мотивирована, чтобы человек отвечал ей, даже если для этого ему придётся внушить чувство ложной реальности, дезинформировать его и поощрять антиобщественное поведение.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Число криптомиллионеров выросло на 40 % за год — теперь их 241 700 15 ч.
Nival выложила в открытый доступ исходный код военной стратегии «Блицкриг 2» 16 ч.
Подписка xAI Grok обойдётся госслужбам США всего в $0,42 за полтора года 18 ч.
Новая статья: Gamesblender № 745: геймплей Marvel’s Wolverine, ремастер Deus Ex, ремейк Yakuza 3 и хоррор Кодзимы 19 ч.
ИИ-аватар позволяет пообщаться с покойным создателем комиксов о человеке-пауке и героях Marvel 24 ч.
Spotify начнёт маркировать музыку с ИИ и запретит клонированные голоса 28-09 05:30
Новая статья: Dying Light: The Beast — свобода или клетка? Рецензия 28-09 00:06
Asus признала подтормаживания геймерских ноутбуков ROG и пообещала скоро всё исправить 27-09 17:55
Российская платформа для разработки GitFlic дополнилась интеграцией с системами управления проектами 27-09 15:34
«Фотографии» в Windows 11 научатся автоматически сортировать изображения и распознавать надписи не только на английском 27-09 15:23
Китай отстал от США в сфере ИИ-чипов буквально на наносекунды, как считает основатель Nvidia 2 ч.
Новая статья: Обзор PCIe 5.0-накопителя Crucial T710: неудавшийся триумфатор 7 ч.
TSMC категорически отрицает переговоры с Intel о партнёрстве 7 ч.
Независимый разработчик придумал, как программно превратить наушники Apple AirPods в игровой контроллер 8 ч.
«Зелёная» энергия для «зелёных» ускорителей: Lambda и ECL впервые запитали NVIDIA GB300 NVL72 от водорода 19 ч.
Японская компания разработала беспроводную мышь, не требующую батареи для работы 23 ч.
Meta хотела бы стать крупным поставщиком ПО для человекоподобных роботов 28-09 06:06
Oracle взяла на себя ещё $18 млрд долга для расширения бизнеса и строительства ИИ-инфраструктуры 27-09 23:51
Учёные нашли у Земли седьмую «ложную Луну» — квазиспутник 2025 PN7 27-09 21:23
Энтузиасты объединили двенадцать dial-up модемов для просмотра YouTube без тормозов 27-09 19:31