Сегодня 23 мая 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft объяснила, почему ИИ-бот в Bing путается в ответах и может выказывать агрессию

Microsoft запустила на прошлой неделе поисковик Bing с интегрированным чат-ботом ChatGPT на основе ИИ, разработанным компанией OpenAI, предоставив к нему доступ отдельным обычным пользователем. Как оказалось, ИИ может допускать ошибки при ответах и даже выказывать агрессию по отношению к задающим вопросы.

 Источник изображения: Pixabay

Источник изображения: Pixabay

В одном случае он отказался сообщить, где можно посмотреть фильм «Аватар: Путь воды», поскольку по его мнению фильм ещё не вышел, утверждая, что сейчас на дворе 2022 год. Когда же пользователь указал на ошибку, ИИ-бот назвал его «неразумным и упрямым» и предложил завершить этот чат.

Microsoft опубликовала в блоге команды Bing сообщение с объяснением происходящего с чат-ботом, а также поделилась планами по решению проблемы. Компания признала, что не предполагала, что ИИ Bing будет использоваться для «общего открытия мира и социальных развлечений», добавив, что «длительные, расширенные сеансы чата из 15 или более вопросов» могут сбить ИИ-бот с толку. «Bing может стать повторяющимся или оказаться спровоцированным на то, чтобы давать ответы, которые необязательно полезны или не соответствуют задуманной нами общей атмосфере общения», — сообщила компания. Microsoft также отметила, что «модель иногда пытается ответить или отразить тон, в котором её просят дать ответы», а это может привести к стилю общения, который изначально не предполагался. В компании полагают, что эту проблему можно решить, обеспечив пользователям больший контроль над форматом общения.

Microsoft сообщила, что несмотря на имеющиеся проблемы, тестировщики в целом дали ИИ Bing хорошие оценки по цитированию и ссылкам для поиска, хотя всё же нужно повысить точность ответов касательно данных в режиме реального времени, например, результатов спортивных матчей в прямом эфире, а также относительно цифр финансовых отчётов.

Также будет добавлен переключатель, который даст пользователям «больше контроля над точностью и креативностью ответа» применительно к конкретному запросу.

Команда Bing поблагодарила пользователей за участие в тестировании, которое помогает улучшить продукт, вместе с тем выразив удивление по поводу того, что те проводят в чатах так много времени — иногда до двух часов.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
С 12 июня товары и услуги в ботах Telegram можно будет покупать только за Telegram Stars 5 мин.
ГК Softline открыла представительство в ОАЭ для выхода на рынки Ближнего Востока 53 мин.
Relic впервые за 20 лет вновь стала независимой — разработчики Company of Heroes и Warhammer 40,000: Dawn of War «вернутся к корням» 8 ч.
Mozilla Firefox получит вертикальные вкладки, группы вкладок и другие масштабные улучшения 9 ч.
Selectel создаст собственную отечественную ОС на базе Linux-дистрибутива Debian 12 и выйдет на рынок инфраструктурного ПО 11 ч.
Студия-разработчик Helldivers 2 нацелилась «стать следующей FromSoftware или Blizzard» 11 ч.
Google выпустила обновление, устраняющее шесть критических уязвимостей в Chrome 11 ч.
Activision начала рекламную кампанию новой Call of Duty — первый тизер Black Ops 6 12 ч.
Пионер компьютерных технологий Гордон Белл умер в возрасте 89 лет 13 ч.
В Twitch появилась фильтрация контента — пользователи могут скрыть трансляции на «сексуализированные темы» 13 ч.
В следующем месяце Nvidia осуществит дробление акций по схеме «10 к 1» 2 ч.
Взлетевшая более чем в пять раз выручка Nvidia в серверном сегменте способствовала росту акций до уровня более $1000 2 ч.
Новый Microsoft Surface с чипом Qualcomm Snapdragon X Elite показал отличные результаты, но с оговорками 4 ч.
Новая статья: Обзор смартфона HUAWEI Pura 70: флагман по справедливой цене 7 ч.
Новая статья: Обзор игрового 360 Гц WQHD-монитора MSI MPG 271QRX QD-OLED: теперь на равных 9 ч.
В июле Atos продаст свои активы и определится с планом проведения реструктуризации 9 ч.
В России активно изучают идею создания отечественной игровой приставки, заявили в Минпромторге 11 ч.
На всех российских авиалайнерах к 2028 году появится Wi-Fi — также к спутниковому интернету подключат поезда РЖД 11 ч.
Google обогнала AMD на рынке процессоров для ЦОД и вот-вот догонит Intel 11 ч.
Первый полёт Boeing Starliner с астронавтами отложили на неопределённый срок 13 ч.