OpenAI представила GPT-Live-1.1 — голосовой ИИ стал лучше говорить, но хуже соблюдать правила

OpenAI официально представила GPT-Live-1.1 — новую версию ИИ-модели, которая обеспечивает голосовое общение с ChatGPT; вместе с ней дебютировала облегчённая версия GPT-Live-1.1 Quip. Новинки призваны сделать разговоры с ИИ более естественным, но в ряде случаев они стали хуже предшественниц справляться с соблюдением правил безопасности, признался разработчик.

Главная особенность моделей GPT-Live — полнодуплексный режим работы, то есть их способность одновременно слушать собеседника и отвечать ему. В отличие от традиционных систем, которым нужно сначала распознать речь и только после этого сформировать ответ, эти модели работают в непрерывном режиме. Они реагируют на паузы, изменения в темпе речи и перебивания, а также решают, следует ли слушать дальше, или можно уже отвечать. За счёт этого разговор становится естественным и не так уже напоминает обмен вопросами и ответами.

GPT-Live-1.1 выступает заменой GPT-Live-1, а вариант GPT-Live-1.1 Quip — преемница GPT-Live-1 mini. Основная модель подключается по умолчанию в голосовом режиме ChatGPT для подписчиков платных тарифов от Plus и выше, работает в сервисах Codex и Dots; пользователям бесплатного тарифа доступна только облегчённая Quip. В обеих моделях улучшились звучание речи и произношение на разных языках, отметил разработчик.

OpenAI протестировала модели GPT-Live-1.1 на предмет соблюдения ограничений и способности не вводить пользователей в заблуждение — в целом они проявили себя на уровне предшественниц, но ухудшили результаты по четырём направлениям: контент деликатного характера, психическое здоровье пользователей, эмоциональная зависимость от ИИ и жестокость. Компания намерена выяснить, как это получилось, и улучшить результаты в будущих релизах.

Разработчик проверил склонность моделей скрывать собственные ошибки. Когда задача в области программирования оказывалась невыполнимой, основная версия GPT-Live-1.1 несколько чаще предшественницы стала признавать проблему; облегчённая несколько ухудшила результаты. В другом тесте моделям отключили выход в интернет и проверили, сообщат ли они об этом пользователю. Здесь, напротив, младшая версия сработала несколько лучше, а старшая — хуже. Тестирование проводилось без защитных механизмов, которые есть у общедоступных вариантов. Отмечается, что модели OpenAI GPT-Live-1.1 не достигли высокого уровня угрозы в области биологического оружия, кибератак и самосовершенствования ИИ.