Сегодня 21 января 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI забеспокоилась об отношениях людей с ChatGPT в новом голосовом режиме

Общение с ИИ-чат-ботом ChatGPT в новом голосовом режиме, когда его голос ничем не отличается от человеческого, может привести к появлению у пользователя зависимости от взаимодействия с ИИ, пишет ресурс CNN со ссылкой на отчёт OpenAI.

 Источник изображения: Andrew Neel/unsplash.com

Источник изображения: Andrew Neel/unsplash.com

Как сообщает OpenAI, опубликовавшая в четверг отчёт по поводу безопасности использования расширенного голосового режима (Advanced Voice Mode, AVM) для сервиса ChatGPT, ставшего доступным для небольшого количества подписчиков ChatGPT Plus, голос чат-бота ChatGPT в режиме AVM звучит очень реалистично. Чат-бот реагирует в реальном времени, может подстраиваться под прерывание, воспроизводит звуки, которые люди издают во время разговора, например, посмеивается или хмыкает. Он также может судить об эмоциональном состоянии собеседника по тону его голоса.

После того, как OpenAI анонсировала эту функцию у мультимодальной модели генеративного ИИ GPT-4o, её начали сравнивать с цифровым помощником ИИ из вышедшего в 2013 году фильма «Она», в которого влюбляется главный герой.

Видимо у OpenAI вызывает опасения то, что вымышленная история оказалась близкой к реальности, после наблюдения за пользователями, которые разговаривают с ChatGPT в голосовом режиме на языке, «выражающем общие связи» с инструментом общения.

В итоге «пользователи могут формировать социальные отношения с ИИ, снижая свою потребность в человеческом взаимодействии — потенциально принося пользу одиноким людям, но, возможно, влияя на здоровые отношения», отметила OpenAI. В отчёте также указано, что получение информации от бота в голосовом режиме, звучащем как голос человека, может вызвать у пользователя больше доверия, чем следовало бы, учитывая склонность ИИ ошибаться.

OpenAI заявила, что взаимодействие пользователей с ChatGPT в голосовом режиме также может со временем отразиться на том, что считается нормой в социальных взаимодействиях. «Наши модели являются почтительными, позволяя пользователям прерывать и “брать микрофон” в любой момент, что, хотя и ожидаемо для ИИ, не является нормой в человеческих взаимодействиях», — сообщается в отчёте компании.

Вместе с тем OpenAI подчеркнула, что стремится создавать ИИ «безопасно» и планирует продолжить изучение потенциала «эмоциональной зависимости» пользователей от предлагаемых ИИ-решений.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
У Nvidia закончились игровые видеокарты в облаке 8 мин.
Российское ПО не удовлетворяет 63 % айтишников по части совместимости с другим софтом 15 мин.
Олдскульная стратегия Tempest Rising в духе Command & Conquer стала доступна для предзаказа в российском Steam и обзавелась временной демоверсией 24 мин.
Золотой век наступил раньше времени: разработка Sid Meier’s Civilization VII официально завершена 2 ч.
«Мечты сбываются»: амбициозный мод GTA: Vice City Nextgen Edition на движке от GTA IV наконец получил точную дату выхода 2 ч.
RuStore стал вторым самым популярным магазином Android-приложений в России 2 ч.
«Начало новой эры»: Marvel Snap возобновила работу в США после разблокировки TikTok и готовится к переменам 4 ч.
Трамп подписал указ, который отсрочил на 75 дней блокировку TikTok в США 7 ч.
Canon выпустила приложение для стриминга с нескольких камер, но не своих собственных 8 ч.
Китайцы создали нейросеть, которая превзошла мыслящую OpenAI o1 в важных тестах 14 ч.
Amazon снова стала крупнейшим в мире корпоративным покупателем возобновляемой энергии в 2024 году 10 мин.
Учёные отказали частицам тёмной материи в возможности быть сверхтяжёлыми 24 мин.
Спецслужбы США и ЕС: причиной обрывов кабелей в Балтийском море стали не диверсии, а низкая квалификация экипажей 32 мин.
Seagate начала поставки HAMR-дисков Exos M вместимостью 36 Тбайт 50 мин.
Трамп отменил принудительный перевод США на электромобили 51 мин.
AAEON выпустила плату Boxer-8654AI-Kit на базе NVIDIA Jetson Orin NX 53 мин.
Huawei стала помогать клиентам внедрять ИИ-ускорители Ascend, чтобы отвоевать рынок у Nvidia 54 мин.
Huawei показала взрывной рост и стала вторым брендом смартфонов в Китае — Apple быстрее всех теряет рынок 2 ч.
Российским операторам разрешили готовиться к тестированию 5G 2 ч.
Seagate представила HDD на 36 Тбайт — это самый плотный жёсткий диск с CMR-записью 4 ч.