Сегодня 25 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI забеспокоилась об отношениях людей с ChatGPT в новом голосовом режиме

Общение с ИИ-чат-ботом ChatGPT в новом голосовом режиме, когда его голос ничем не отличается от человеческого, может привести к появлению у пользователя зависимости от взаимодействия с ИИ, пишет ресурс CNN со ссылкой на отчёт OpenAI.

 Источник изображения: Andrew Neel/unsplash.com

Источник изображения: Andrew Neel/unsplash.com

Как сообщает OpenAI, опубликовавшая в четверг отчёт по поводу безопасности использования расширенного голосового режима (Advanced Voice Mode, AVM) для сервиса ChatGPT, ставшего доступным для небольшого количества подписчиков ChatGPT Plus, голос чат-бота ChatGPT в режиме AVM звучит очень реалистично. Чат-бот реагирует в реальном времени, может подстраиваться под прерывание, воспроизводит звуки, которые люди издают во время разговора, например, посмеивается или хмыкает. Он также может судить об эмоциональном состоянии собеседника по тону его голоса.

После того, как OpenAI анонсировала эту функцию у мультимодальной модели генеративного ИИ GPT-4o, её начали сравнивать с цифровым помощником ИИ из вышедшего в 2013 году фильма «Она», в которого влюбляется главный герой.

Видимо у OpenAI вызывает опасения то, что вымышленная история оказалась близкой к реальности, после наблюдения за пользователями, которые разговаривают с ChatGPT в голосовом режиме на языке, «выражающем общие связи» с инструментом общения.

В итоге «пользователи могут формировать социальные отношения с ИИ, снижая свою потребность в человеческом взаимодействии — потенциально принося пользу одиноким людям, но, возможно, влияя на здоровые отношения», отметила OpenAI. В отчёте также указано, что получение информации от бота в голосовом режиме, звучащем как голос человека, может вызвать у пользователя больше доверия, чем следовало бы, учитывая склонность ИИ ошибаться.

OpenAI заявила, что взаимодействие пользователей с ChatGPT в голосовом режиме также может со временем отразиться на том, что считается нормой в социальных взаимодействиях. «Наши модели являются почтительными, позволяя пользователям прерывать и “брать микрофон” в любой момент, что, хотя и ожидаемо для ИИ, не является нормой в человеческих взаимодействиях», — сообщается в отчёте компании.

Вместе с тем OpenAI подчеркнула, что стремится создавать ИИ «безопасно» и планирует продолжить изучение потенциала «эмоциональной зависимости» пользователей от предлагаемых ИИ-решений.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Бизнес раскритиковал идею введения платного доступа к госсервисам для юрлиц 7 ч.
Объявлена дата выхода Little Nightmares 3 — новый трейлер, 11 минут геймплея и предзаказ с приятным сюрпризом 7 ч.
«Если я говорю, что напишу, то сделаю это, в отличие от Джорджа Мартина»: Анджей Сапковский пообещал фанатам «Ведьмака» новые книги 7 ч.
Российская гиперконвергентная платформа vStack HCP получила крупное обновление 9 ч.
Продажи Rematch от создателей Sifu превысили миллион копий — раскрыта статистика игроков 10 ч.
Для Warhammer 40,000: Rogue Trader вышло сюжетное дополнение Lex Imperialis и большой патч 1.4, а в работе ещё более крупное обновление 10 ч.
Anthropic выиграла суд у издателей: обучать ИИ на купленных книгах законно, на пиратских — нет 10 ч.
Xbox скоро настигнет новая волна массовых увольнений — Microsoft проводит реорганизацию 12 ч.
Путин подписал закон о создании национального мессенджера 12 ч.
Новый геймплейный трейлер раскрыл дату выхода перезапуска Painkiller — в российском Steam открыт предзаказ 13 ч.
Оборот российского рынка микроэлектроники может к 2030 году превысить триллион рублей 53 мин.
Суд приговорил криптоблогера Битмаму к семи годам колонии за мошенничество 2 ч.
Apple приняла официальное участие в китайской программе субсидирования продаж потребительской электроники 2 ч.
Fujitsu считает важным появление в Японии контрактного производителя передовых чипов Rapidus 2 ч.
Intel запустила обещанную волну увольнений — первыми под сокращение попали инженеры в Калифорнии 5 ч.
Gigabyte представила три версии GeForce RTX 5050, включая низкопрофильную — все с разгоном 5 ч.
Стараниями Китая мировые поставки носимых устройств подскочили на 10,5 % в первом квартале 5 ч.
Новая статья: Разрубить EUV-узел 6 ч.
MSI представила компактную GeForce RTX 5050 Shadow 2X OC с разгоном 7 ч.
Бизнес США единодушно предупредил Трампа: пошлины на чипы в 25 % обернутся хаосом 7 ч.