Сегодня 03 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI забеспокоилась об отношениях людей с ChatGPT в новом голосовом режиме

Общение с ИИ-чат-ботом ChatGPT в новом голосовом режиме, когда его голос ничем не отличается от человеческого, может привести к появлению у пользователя зависимости от взаимодействия с ИИ, пишет ресурс CNN со ссылкой на отчёт OpenAI.

 Источник изображения: Andrew Neel/unsplash.com

Источник изображения: Andrew Neel/unsplash.com

Как сообщает OpenAI, опубликовавшая в четверг отчёт по поводу безопасности использования расширенного голосового режима (Advanced Voice Mode, AVM) для сервиса ChatGPT, ставшего доступным для небольшого количества подписчиков ChatGPT Plus, голос чат-бота ChatGPT в режиме AVM звучит очень реалистично. Чат-бот реагирует в реальном времени, может подстраиваться под прерывание, воспроизводит звуки, которые люди издают во время разговора, например, посмеивается или хмыкает. Он также может судить об эмоциональном состоянии собеседника по тону его голоса.

После того, как OpenAI анонсировала эту функцию у мультимодальной модели генеративного ИИ GPT-4o, её начали сравнивать с цифровым помощником ИИ из вышедшего в 2013 году фильма «Она», в которого влюбляется главный герой.

Видимо у OpenAI вызывает опасения то, что вымышленная история оказалась близкой к реальности, после наблюдения за пользователями, которые разговаривают с ChatGPT в голосовом режиме на языке, «выражающем общие связи» с инструментом общения.

В итоге «пользователи могут формировать социальные отношения с ИИ, снижая свою потребность в человеческом взаимодействии — потенциально принося пользу одиноким людям, но, возможно, влияя на здоровые отношения», отметила OpenAI. В отчёте также указано, что получение информации от бота в голосовом режиме, звучащем как голос человека, может вызвать у пользователя больше доверия, чем следовало бы, учитывая склонность ИИ ошибаться.

OpenAI заявила, что взаимодействие пользователей с ChatGPT в голосовом режиме также может со временем отразиться на том, что считается нормой в социальных взаимодействиях. «Наши модели являются почтительными, позволяя пользователям прерывать и “брать микрофон” в любой момент, что, хотя и ожидаемо для ИИ, не является нормой в человеческих взаимодействиях», — сообщается в отчёте компании.

Вместе с тем OpenAI подчеркнула, что стремится создавать ИИ «безопасно» и планирует продолжить изучение потенциала «эмоциональной зависимости» пользователей от предлагаемых ИИ-решений.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Только вы, ваша машина и чистое веселье»: в ранний доступ Steam скоро ворвётся олдскульная боевая гонка Fumes 21 мин.
Windows 11 перестанет навязывать Edge в качестве браузера по умолчанию — но не для всех 37 мин.
Resident Evil 9 не заставит себя долго ждать — сразу три инсайдера подтвердили скорый анонс от Capcom 2 ч.
«Мы бесконечно признательны»: продажи Elden Ring Nightreign взяли новую высоту, а обзоры игры в Steam стали «в основном положительными» 3 ч.
Благодаря ИИ Microsoft из отстающих вышли в лидеры по темпам роста своих акций 4 ч.
Microsoft продолжила массовые увольнения, несмотря на сокращение 7000 сотрудников в мае 4 ч.
Broadcom: на рынке происходит «облачная перезагрузка» — доверие к частным облакам только растёт 5 ч.
Character.AI запустила генерацию видео, а персонажи теперь могут говорить 7 ч.
Генератор видео Sora компании OpenAI стал бесплатным в приложении Bing 9 ч.
Wizards of the Coast анонсировала грандиозный боевик по Dungeons & Dragons от новой студии режиссёра God of War III и Star Wars Jedi: Survivor 15 ч.
В США создали топливный элемент для электрификации авиалайнеров — размером с кирпич и втрое ёмче лития 3 мин.
xAI Илона Маска намерена привлечь ещё $5,3 млрд инвестиций при оценке в $113 млрд 31 мин.
Стала известна дата анонса Google Pixel 10, а прототип Pixel 10 Pro показался на фото 39 мин.
Французские власти готовы выкупить НРС-активы Atos за €410 млн 40 мин.
ДАТАРК успешно испытала модульный ЦОД для первого зарубежного проекта 45 мин.
Дорогой проект Xiaomi по разработке процессоров для смартфонов оказался под угрозой срыва из-за США 48 мин.
Смартфоны будут служить дольше — ЕС уже с июня заставит обновлять их 5 лет и выпускать запчасти 7 лет 2 ч.
Archer Aviation начала пилотируемые испытания электролёта Midnight 2 ч.
GeForce RTX 3060 снова стала самой популярной видеокартой в Steam, а RTX 5060 Ti дебютировала в рейтинге 2 ч.
Dreame Technology поделилась секретами успеха и дальнейшими планами 5 ч.