Сегодня 05 ноября 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI забеспокоилась об отношениях людей с ChatGPT в новом голосовом режиме

Общение с ИИ-чат-ботом ChatGPT в новом голосовом режиме, когда его голос ничем не отличается от человеческого, может привести к появлению у пользователя зависимости от взаимодействия с ИИ, пишет ресурс CNN со ссылкой на отчёт OpenAI.

 Источник изображения: Andrew Neel/unsplash.com

Источник изображения: Andrew Neel/unsplash.com

Как сообщает OpenAI, опубликовавшая в четверг отчёт по поводу безопасности использования расширенного голосового режима (Advanced Voice Mode, AVM) для сервиса ChatGPT, ставшего доступным для небольшого количества подписчиков ChatGPT Plus, голос чат-бота ChatGPT в режиме AVM звучит очень реалистично. Чат-бот реагирует в реальном времени, может подстраиваться под прерывание, воспроизводит звуки, которые люди издают во время разговора, например, посмеивается или хмыкает. Он также может судить об эмоциональном состоянии собеседника по тону его голоса.

После того, как OpenAI анонсировала эту функцию у мультимодальной модели генеративного ИИ GPT-4o, её начали сравнивать с цифровым помощником ИИ из вышедшего в 2013 году фильма «Она», в которого влюбляется главный герой.

Видимо у OpenAI вызывает опасения то, что вымышленная история оказалась близкой к реальности, после наблюдения за пользователями, которые разговаривают с ChatGPT в голосовом режиме на языке, «выражающем общие связи» с инструментом общения.

В итоге «пользователи могут формировать социальные отношения с ИИ, снижая свою потребность в человеческом взаимодействии — потенциально принося пользу одиноким людям, но, возможно, влияя на здоровые отношения», отметила OpenAI. В отчёте также указано, что получение информации от бота в голосовом режиме, звучащем как голос человека, может вызвать у пользователя больше доверия, чем следовало бы, учитывая склонность ИИ ошибаться.

OpenAI заявила, что взаимодействие пользователей с ChatGPT в голосовом режиме также может со временем отразиться на том, что считается нормой в социальных взаимодействиях. «Наши модели являются почтительными, позволяя пользователям прерывать и “брать микрофон” в любой момент, что, хотя и ожидаемо для ИИ, не является нормой в человеческих взаимодействиях», — сообщается в отчёте компании.

Вместе с тем OpenAI подчеркнула, что стремится создавать ИИ «безопасно» и планирует продолжить изучение потенциала «эмоциональной зависимости» пользователей от предлагаемых ИИ-решений.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Apple позволит назначить «Google Карты» навигационным приложением по умолчанию, но не всем пользователям 4 мин.
Спустя 20 лет в легендарную демоверсию Halo 2 с E3 2003 можно будет поиграть самому, причём очень скоро 2 ч.
Календарь релизов 4 – 10 ноября: Empire of the Ants, Metal Slug Tactics и Metro Awakening 2 ч.
Видеоредактор «Мовавика Видео» получил новую функцию: автосубтитры при помощи искусственного интеллекта 3 ч.
Microsoft запустила ИИ-техподдержку для Xbox 3 ч.
Netflix начнёт использовать генеративный ИИ для игр и удалит почти все интерактивные шоу 4 ч.
Instagram начнёт с помощью ИИ вычислять подростков, скрывающих свой возраст 4 ч.
«Не очень хорошо, но очень интересно»: критики вынесли вердикт экшен-хоррору Slitterhead от создателя Silent Hill 14 ч.
«У нас всего один шанс»: Ubisoft объяснила, почему перенос Assassin's Creed Shadows был необходим 16 ч.
Игрок обнаружил в ремейке Silent Hill 2 секретное послание — разработчики боялись, что загадка будет слишком сложной 17 ч.
Nintendo Switch теряет популярность — прогноз по годовым продажам снижен на 7 % 12 мин.
Первый в мире деревянный спутник отправился в космос 27 мин.
Apple собралась создать собственные смарт-очки — запущен проект Atlas по изучению умных очков Meta и Snap 35 мин.
Отечественные ноутбуки стали популярнее Apple, Dell и HP в России, но доминируют на рынке китайские решения 47 мин.
Microsoft потратит $10 млрд на аренду ИИ-серверов у своего конкурента CoreWeave 2 ч.
Создан консорциум UALink по разработке альтернативы NVIDIA NVLink 2 ч.
SK hynix представила первые в отрасли 16-ярусные чипы HBM3E ёмкостью 48 Гбайт 3 ч.
OpenAI намерена вывести ИИ реальный мир — компания переманила из Meta главу разработки AR-очков 3 ч.
Мировые продажи планшетов подскочили на 20 % — Amazon и Huawei выросли сильнее всех, тогда как Apple теряет рынок 4 ч.
«Мы получили $0 из грантов CHIPS» — глава Intel пожаловался, что США тормозят выплаты по «Закону о чипах» 4 ч.