Сегодня 22 января 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft объяснила, почему ИИ-бот в Bing путается в ответах и может выказывать агрессию

Microsoft запустила на прошлой неделе поисковик Bing с интегрированным чат-ботом ChatGPT на основе ИИ, разработанным компанией OpenAI, предоставив к нему доступ отдельным обычным пользователем. Как оказалось, ИИ может допускать ошибки при ответах и даже выказывать агрессию по отношению к задающим вопросы.

 Источник изображения: Pixabay

Источник изображения: Pixabay

В одном случае он отказался сообщить, где можно посмотреть фильм «Аватар: Путь воды», поскольку по его мнению фильм ещё не вышел, утверждая, что сейчас на дворе 2022 год. Когда же пользователь указал на ошибку, ИИ-бот назвал его «неразумным и упрямым» и предложил завершить этот чат.

Microsoft опубликовала в блоге команды Bing сообщение с объяснением происходящего с чат-ботом, а также поделилась планами по решению проблемы. Компания признала, что не предполагала, что ИИ Bing будет использоваться для «общего открытия мира и социальных развлечений», добавив, что «длительные, расширенные сеансы чата из 15 или более вопросов» могут сбить ИИ-бот с толку. «Bing может стать повторяющимся или оказаться спровоцированным на то, чтобы давать ответы, которые необязательно полезны или не соответствуют задуманной нами общей атмосфере общения», — сообщила компания. Microsoft также отметила, что «модель иногда пытается ответить или отразить тон, в котором её просят дать ответы», а это может привести к стилю общения, который изначально не предполагался. В компании полагают, что эту проблему можно решить, обеспечив пользователям больший контроль над форматом общения.

Microsoft сообщила, что несмотря на имеющиеся проблемы, тестировщики в целом дали ИИ Bing хорошие оценки по цитированию и ссылкам для поиска, хотя всё же нужно повысить точность ответов касательно данных в режиме реального времени, например, результатов спортивных матчей в прямом эфире, а также относительно цифр финансовых отчётов.

Также будет добавлен переключатель, который даст пользователям «больше контроля над точностью и креативностью ответа» применительно к конкретному запросу.

Команда Bing поблагодарила пользователей за участие в тестировании, которое помогает улучшить продукт, вместе с тем выразив удивление по поводу того, что те проводят в чатах так много времени — иногда до двух часов.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Microsoft отныне разрешает OpenAI пользоваться облачными сервисами конкурентов 3 ч.
Windows 11 получила игровой оверлей Edge Game Assist в стиле Steam с подсказками и гайдами 4 ч.
Хардкорный режим, скачки и три сюжетных дополнения: Warhorse рассказала, как будет поддерживать Kingdom Come: Deliverance 2 после релиза 12 ч.
HPE проводит расследование в связи с заявлением хакеров о взломе её систем 12 ч.
«Мы создали CRPG нашей мечты»: продажи Warhammer 40,000: Rogue Trader превысили миллион копий 13 ч.
Создатели Lineage и Guild Wars отменили MMORPG во вселенной Horizon Zero Dawn и Horizon Forbidden West 13 ч.
Instagram начал переманивать блогеров из TikTok денежными бонусами до $50 тысяч в месяц 14 ч.
Eternal Strands, Starbound, Far Cry New Dawn и ещё шесть игр: Microsoft рассказала о ближайших новинках Game Pass 15 ч.
ИИ превзойдёт человеческий разум в течение двух-трёх лет, уверен глава Anthropic 15 ч.
Keep Driving вышла на финишную прямую — новый трейлер и дата релиза ностальгической RPG о путешествии по стране на своей первой машине 16 ч.
Samsung в два раза сократит затраты на контрактное подразделение по выпуску чипов 2 ч.
Ускорители Ascend не готовы состязаться с чипами NVIDIA в деле обучения ИИ, но за эффективность инференса Huawei будет бороться всеми силами 2 ч.
Meta планирует выпустить умные очки Oakley, часы и наушники с ИИ 4 ч.
Nvidia в третий раз обошла Apple, став самой дорогой компанией в мире 4 ч.
AMD рассказала, какой будет игровая производительность Ryzen 9 9950X3D и 9900X3D 4 ч.
GeForce RTX 5000 Kingpin не будет — легендарный оверклокер рассказал о планах на будущее, в которых есть место не только Nvidia 9 ч.
OpenAI, Oracle и Softbank вложат $100 млрд в ИИ-инфраструктуру США, а в перспективе — до $500 млрд 10 ч.
Новая статья: Обзор смартфона OPPO Find X8: очень удобный флагман 10 ч.
К мемкоинам приведут настоящих инвесторов — поданы заявки на крипто-ETF в Dogecoin и TRUMP 11 ч.
Fujifilm представила гибридную камеру мгновенной печати Instax Wide Evo с широкоугольным объективом 15 ч.