Сегодня 18 сентября 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI забеспокоилась об отношениях людей с ChatGPT в новом голосовом режиме

Общение с ИИ-чат-ботом ChatGPT в новом голосовом режиме, когда его голос ничем не отличается от человеческого, может привести к появлению у пользователя зависимости от взаимодействия с ИИ, пишет ресурс CNN со ссылкой на отчёт OpenAI.

 Источник изображения: Andrew Neel/unsplash.com

Источник изображения: Andrew Neel/unsplash.com

Как сообщает OpenAI, опубликовавшая в четверг отчёт по поводу безопасности использования расширенного голосового режима (Advanced Voice Mode, AVM) для сервиса ChatGPT, ставшего доступным для небольшого количества подписчиков ChatGPT Plus, голос чат-бота ChatGPT в режиме AVM звучит очень реалистично. Чат-бот реагирует в реальном времени, может подстраиваться под прерывание, воспроизводит звуки, которые люди издают во время разговора, например, посмеивается или хмыкает. Он также может судить об эмоциональном состоянии собеседника по тону его голоса.

После того, как OpenAI анонсировала эту функцию у мультимодальной модели генеративного ИИ GPT-4o, её начали сравнивать с цифровым помощником ИИ из вышедшего в 2013 году фильма «Она», в которого влюбляется главный герой.

Видимо у OpenAI вызывает опасения то, что вымышленная история оказалась близкой к реальности, после наблюдения за пользователями, которые разговаривают с ChatGPT в голосовом режиме на языке, «выражающем общие связи» с инструментом общения.

В итоге «пользователи могут формировать социальные отношения с ИИ, снижая свою потребность в человеческом взаимодействии — потенциально принося пользу одиноким людям, но, возможно, влияя на здоровые отношения», отметила OpenAI. В отчёте также указано, что получение информации от бота в голосовом режиме, звучащем как голос человека, может вызвать у пользователя больше доверия, чем следовало бы, учитывая склонность ИИ ошибаться.

OpenAI заявила, что взаимодействие пользователей с ChatGPT в голосовом режиме также может со временем отразиться на том, что считается нормой в социальных взаимодействиях. «Наши модели являются почтительными, позволяя пользователям прерывать и “брать микрофон” в любой момент, что, хотя и ожидаемо для ИИ, не является нормой в человеческих взаимодействиях», — сообщается в отчёте компании.

Вместе с тем OpenAI подчеркнула, что стремится создавать ИИ «безопасно» и планирует продолжить изучение потенциала «эмоциональной зависимости» пользователей от предлагаемых ИИ-решений.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Пользователи по всему миру жалуются на проблемы с доступом к сайтам из-за сбоя у Cloudflare 3 мин.
Еженедельный чарт Steam: в топ-10 вернулись Ghost of Tsushima, Satisfactory и сразу три гоночных хита 26 мин.
Electronic Arts впервые подтвердила продолжение Star Wars Jedi: Survivor — третья часть станет «заключительной главой» 46 мин.
«Заставит вновь почувствовать себя ребёнком»: The Plucky Squire вышла в российском Steam и очаровала критиков 3 ч.
Electronic Arts передумала выпускать The Sims 5 — что ждёт серию в будущем 4 ч.
Google поможет отличать настоящие изображения от подделок ИИ 7 ч.
Rockstar отметила 11-летие GTA V добавлением в GTA Online нового античита на ПК 7 ч.
Instagram усилил родительский контроль, введя ограничения с помощью Teen Accounts 8 ч.
Банк России и Минфин проведут эксперимент по международным расчётам в криптовалюте 8 ч.
Мультфильм The Witcher: Sirens of the Deep со звездой «Ведьмаков» от CD Projekt Red выйдет позже обещанного — утечка раскрыла точную дату релиза 10 ч.
Новая статья: Обзор видеокарты Acer Predator BiFrost Intel Arc A750 OC: конкурентоспособная производительность, высокое энергопотребление 15 мин.
SpaceX грозит штраф из-за нетерпеливости Илона Маска 15 мин.
Швейцария ввела в эксплуатацию гибридный суперкомпьютер Alps: 11 тыс. NVIDIA GH200, 2 тыс. AMD EPYC Rome и щепотка A100, MI250X и MI300A 2 ч.
Объявленный Intel план реструктуризации ставит под сомнение будущее ускорителей Falcon Shores 4 ч.
Китайские учёные научились засекать дроны и самолёты-невидимки по помехам в сети Starlink 4 ч.
Дроны скоро начнут перевозить человеческую кровь между больницами в Лондоне 5 ч.
Koss представила беспроводные наушники Porta Pro Wireless с легендарным дизайном 40-летних Porta Pro 5 ч.
Micron представила полноразмерные SSD Crucial P310 — до 2 Тбайт и до 7100 Мбайт/с 5 ч.
AOC представила четыре 27-дюймовых изогнутых монитора серии G4  — до QHD и до 280 Гц 5 ч.
В России стартовали продажи смартфона Realme C61 с гарантией 2 года и ценой от 9999 рублей 6 ч.