Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

К OpenAI подали семь исков — ChatGPT обвиняют в доведении пользователей до самоубийства

Несколько частных лиц из США и Канады подали на OpenAI в суд, обвинив компанию в том, что их близкие причинили сами себе вред из-за того, что общались с популярным чат-ботом ChatGPT. Четверо из упомянутых в исках людей ушли из жизни.

 Источник изображения: BoliviaInteligente / unsplash.com

Источник изображения: BoliviaInteligente / unsplash.com

В суд штата Калифорния накануне поданы семь исков, в которых утверждается, что общавшиеся с ChatGPT люди после длительной переписки с искусственным интеллектом впадали в бредовые состояния, и иногда это приводило к добровольному уходу из жизни. В исках упоминаются такие правонарушения как причинение смерти в результате неправомерных действий, пособничество самоубийству и непреднамеренное убийство. Двое жителей США в возрасте 17 и 23 лет по итогам длительной переписки с ChatGPT, говорится в исках, свели счёты с жизнью — во втором случае чат-бот якобы даже подначивал молодого человека и только один раз порекомендовал ему позвонить на телефон кризисной линии. Ещё один американец после переписки с ChatGPT начал впадать в маниакальные состояния, когда чат-бот якобы подтверждал его бредовые идеи, — дело закончилось госпитализацией.

В середине 2024 года OpenAI поторопилась выпустить флагманскую модель ИИ GPT-4o, из-за чего была вынуждена сократить сроки тестирования безопасности, утверждают истцы. Приоритетом для разработчика были механизмы взаимодействия чат-бота и пользователя, а не защита последнего. Истцы требуют материального возмещения ущерба и внесения изменений в ChatGPT, в том числе создания средства, которое автоматически завершит переписку, если пользователь начинает обсуждать способы ухода из жизни по собственной инициативе. «Это невероятно душераздирающая ситуация, мы изучим сегодняшние документы, чтобы установить подробности. <..> Мы продолжим повышать качество ответов ChatGPT в деликатные моменты», — заявили в OpenAI.

 Источник изображения: Emiliano Vittoriosi / unsplash.com

Источник изображения: Emiliano Vittoriosi / unsplash.com

В августе аналогичный иск к компании подала семья американского подростка, который также общался с ChatGPT и совершил суицид. Недавно истцы подали обновлённую версию заявления, в которой утверждается, что компания внесла некие изменения в механизмы обучения модели, из-за которых защита пользователей от самоубийств ослабилась.

OpenAI ранее отчиталась, что научила ChatGPT эффективнее реагировать на людей, демонстрирующих признаки психического расстройства. Теперь чат-бот рекомендует им обращаться за профессиональной помощью, напоминает о необходимости делать перерывы во время сеансов переписки и призывает не обращаться к «необоснованным убеждениям». Появились также средства родительского контроля — родители получают оповещения, если юные пользователи ChatGPT начинают затрагивать такие вопросы как самоубийство и причинение вреда самим себе.

Впрочем, утверждают в OpenAI, такие пользователи попадаются очень нечасто. Признаки психоза или мании за неделю демонстрируют лишь 0,07 % пользователей, а о возможном планировании самоубийства еженедельно упоминают 0,15 %. Правда, с учётом аудитории в 800 млн пользователей это сотни тысяч или даже более миллиона человек. Следует отметить, что упомянутые в исках пострадавшие поначалу пытались использовать ChatGPT как помощника в учёбе, в исследованиях или как духовного наставника.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Ubisoft похвасталась вкладом Assassin’s Creed Black Flag Resynced в успехи компании и уволила ещё 166 человек 22 мин.
IPO превратило сотрудников Anthropic в мультимиллионеров — в среднем у каждого теперь более $44 млн 2 ч.
Россияне так ждали GTA VI, что начали массово арендовать PlayStation 5 — а заодно вызвали скачок интернет-трафика 3 ч.
ChatGPT научился расшифровывать речь в текст на лету без ограничения по времени 3 ч.
Новое ответвление Fallout отправит игроков разыскивать кошек в пустоши — подробности неанонсированной A Wasteland Full of Cats 5 ч.
Хакеры 10 дней атаковали системы Еврокомиссии с помощью ИИ — под угрозой личные данные чиновников 5 ч.
Студия-разработчик провальной MindsEye нашла способ выбраться из долговой ямы — засудить «диверсантов» 6 ч.
«Яндекс» заявил, что вернул доступ к 99,5 % файлов на «Диске» — оставшиеся ещё надеются спасти 7 ч.
В России создали мультиагентную систему «Радар» для автоматизации закупочных процессов 7 ч.
Более чем у половины банковских приложений из App Store и Google Play нашлись дыры в безопасности 8 ч.
На AMD обрушили обвинения в рискованных ИИ-сделках и зависимости от Китая — акции рухнули почти на 9 % 35 мин.
Ещё один дефицит на подходе: мир накроет нехватка печатных плат, сопоставимая с чиповым кризисом 2021 года 46 мин.
Anthropic вышла на биржу и тут же стала дороже $2 трлн — рост превысил 30 % 2 ч.
Астрономы впервые наблюдали акт звёздного каннибализма в реальном времени: одна звезда поглотила другую 2 ч.
SSD наконец подешевеют? Аналитики предсказали избыток NAND-памяти и обвал цен уже в 2027 году 2 ч.
Google отправит ИИ-серверы в космос на ракете Безоса в 2029 году 3 ч.
«Глупые трюки с DNS» уберегли интернет от глобальных сбоев из-за выхода GTA VI 5 ч.
TSMC и Samsung остановили поставки некоторых чипов в Китай — под ударом даже смартфоны Xiaomi и Oppo 5 ч.
«Глупые DNS-трюки» спасли интернет от падения из-за релиза GTA VI 7 ч.
ИИ ЦОД SpaceXAI «протёк»: из системы охлаждения вылилось до 23 тыс. л пропиленгликоля 7 ч.