Сегодня 24 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI забеспокоилась об отношениях людей с ChatGPT в новом голосовом режиме

Общение с ИИ-чат-ботом ChatGPT в новом голосовом режиме, когда его голос ничем не отличается от человеческого, может привести к появлению у пользователя зависимости от взаимодействия с ИИ, пишет ресурс CNN со ссылкой на отчёт OpenAI.

 Источник изображения: Andrew Neel/unsplash.com

Источник изображения: Andrew Neel/unsplash.com

Как сообщает OpenAI, опубликовавшая в четверг отчёт по поводу безопасности использования расширенного голосового режима (Advanced Voice Mode, AVM) для сервиса ChatGPT, ставшего доступным для небольшого количества подписчиков ChatGPT Plus, голос чат-бота ChatGPT в режиме AVM звучит очень реалистично. Чат-бот реагирует в реальном времени, может подстраиваться под прерывание, воспроизводит звуки, которые люди издают во время разговора, например, посмеивается или хмыкает. Он также может судить об эмоциональном состоянии собеседника по тону его голоса.

После того, как OpenAI анонсировала эту функцию у мультимодальной модели генеративного ИИ GPT-4o, её начали сравнивать с цифровым помощником ИИ из вышедшего в 2013 году фильма «Она», в которого влюбляется главный герой.

Видимо у OpenAI вызывает опасения то, что вымышленная история оказалась близкой к реальности, после наблюдения за пользователями, которые разговаривают с ChatGPT в голосовом режиме на языке, «выражающем общие связи» с инструментом общения.

В итоге «пользователи могут формировать социальные отношения с ИИ, снижая свою потребность в человеческом взаимодействии — потенциально принося пользу одиноким людям, но, возможно, влияя на здоровые отношения», отметила OpenAI. В отчёте также указано, что получение информации от бота в голосовом режиме, звучащем как голос человека, может вызвать у пользователя больше доверия, чем следовало бы, учитывая склонность ИИ ошибаться.

OpenAI заявила, что взаимодействие пользователей с ChatGPT в голосовом режиме также может со временем отразиться на том, что считается нормой в социальных взаимодействиях. «Наши модели являются почтительными, позволяя пользователям прерывать и “брать микрофон” в любой момент, что, хотя и ожидаемо для ИИ, не является нормой в человеческих взаимодействиях», — сообщается в отчёте компании.

Вместе с тем OpenAI подчеркнула, что стремится создавать ИИ «безопасно» и планирует продолжить изучение потенциала «эмоциональной зависимости» пользователей от предлагаемых ИИ-решений.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Каждый продвинутый ИИ сам научился врать и манипулировать — даже рассуждая «вслух» 9 мин.
Всего за год отечественный спрос на специалистов по безопасности ИИ вырос в 4 раза 20 мин.
Великобритания заставит Google ослабить контроль над своим поисковиком 2 ч.
GSC Game World подтвердила дату выхода следующего крупного обновления для S.T.A.L.K.E.R. 2: Heart of Chornobyl 2 ч.
Амбициозная ролевая песочница Hytale в духе Minecraft спустя десять лет разработки отменена, а студия будет расформирована 4 ч.
Суд обязал OpenAI хранить даже удалённые чаты, но пользователи считают это тотальной слежкой 7 ч.
Конгресс США запретил сотрудникам пользоваться высокорискованным WhatsApp 14 ч.
«Продолжаем держать курс на крутые обновления»: создатели «Мира танков» и «Мира кораблей» нацелены обжаловать решение суда 15 ч.
Одна платформа, чтоб править всеми: в библиотеку Xbox на ПК скоро можно будет добавить игры из Steam, Battle.net и «других ведущих магазинов» 15 ч.
Точки восстановления в Windows 11 теперь живут всего 60 дней 16 ч.
Секретный ИИ-гаджет OpenAI и Джони Айва не будет носимым и выйдет не раньше 2026 года 5 мин.
Роботакси Tesla за два дня работы привлекли внимание американских властей странными манёврами 2 ч.
Lenovo анонсировала новые системы для дата-центров, оптимизированные для ИИ 2 ч.
Samsung подтвердила презентацию Unpacked 9 июля — покажут много новых складных смартфонов 2 ч.
В MIT придумали бустер для CPU и GPU — крошечный дискретный GaN-транзистор «дайлет» 3 ч.
Китай пообещал сотню прорывов в сфере ИИ, сопоставимых с выходом DeepSeek 3 ч.
Samsung заманивает инженеров на американские фабрики огромными зарплатами — в 1,5–2 раза выше, чем у Intel и TSMC 4 ч.
Процессор в составе новейшего ноутбука Huawei MateBook Fold выпускается по прежней 7-нм технологии 6 ч.
Владельцы «параллельно ввезённых» машин Lixiang до конца июня могут бесплатно получить мастер-аккаунт в РФ 9 ч.
Новая статья: Обзор ноутбука HONOR MagicBook Pro 14 (FMB-P) на платформе Core Ultra второго поколения 12 ч.