Сегодня 21 ноября 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft готовит дополнительные ограничения для своего ИИ-чат-бота, чтобы избежать ошибок и агрессии

Когда на прошлой неделе Microsoft представила новую версию своей поисковой системы Bing с интегрированным чат-ботом ChatGPT на основе ИИ, разработанным OpenAI, руководители компании понимали, что рискуют. Зная, что не все ответы нового чат-бота будут точными, его разработчики встроили защиту от пользователей, которые будут пытаться спровоцировать его на странные действия или побуждать к публикации расистских или разжигающих ненависть материалов.

 Источник изображения: Pixabay

Источник изображения: Pixabay

Но Microsoft оказалась не совсем готова к тому, что когда пользователи попытаются вовлечь чат-бота в открытые личные беседы, тот поведёт себя неадекватно, начнёт повторяться, делать ошибки и даже выказывать агрессию. Впрочем, эта проблема хорошо известна в мире исследователей, специализирующихся на искусственном интеллекте.

Как сообщает The New York Times, сейчас компания работает над ограничениями для новой версии Bing, рассматривая, в том числе, возможность добавления пользователями инструментов для возобновления разговора с чат-ботом или предоставления им большего контроля над характером общения.

Кевин Скотт (Kevin Scott), главный технический директор Microsoft, рассказал The New York Times, что также рассматривается возможность ограничения продолжительности разговоров, прежде чем беседа примет странный оборот. Microsoft заявила, что длительные чаты могут сбить с толку чат-бота, и он может перейти на раздражительный тон. Позднее компания сообщила, что ограничит длительность сессии общения пользователей с чат-ботом 50 вопросами в день, а за одну сессию можно будет задать не более пяти вопросов. Выяснилось, что сессии из более чем 15 вопросов заставляют бот повторяться или давать излишне эмоциональные ответы.

«Одна из областей, в которой мы изучаем новый вариант использования чата, — это то, когда люди используют его в качестве инструмента для более общего познания мира и социальных развлечений»,сообщила компания в своём блоге. Для Microsoft оказалось неожиданностью, что чат-бот будет использоваться для этих целей.

То, что Microsoft, традиционно соблюдавшая осторожность при запуске новых продуктов, показала готовность рискнуть с непредсказуемой технологией, ещё раз подтверждает степень энтузиазма, с которым отрасль стала относиться к искусственному интеллекту.

В свою очередь, Орен Этциони (Oren Etzioni), почётный профессор Вашингтонского университета и гендиректор Института Аллена по искусственному интеллекту, считает, что Microsoft «пошла на просчитанный риск, пытаясь контролировать технологию настолько, насколько это возможно».

Чтобы подстраховаться, Microsoft предоставила доступ к новому Bing всего нескольким тысячам пользователей, сообщив, что к концу месяца может значительно увеличить их число. И чтобы снять сомнения в точности ответов, чат-бот предоставляет ссылки в своих ответах, чтобы пользователи могли сверить результаты.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Star Wars Outlaws вышла в Steam с крупным обновлением и дополнением про Лэндо Калриссиана 42 мин.
Миллионер с зарплатой сантехника: выяснилось, сколько зарабатывает глава OpenAI 3 ч.
Рекордная скидка и PvP-режим Versus обернулись для Warhammer: Vermintide 2 полумиллионом новых игроков за неделю 3 ч.
Роскомнадзор с декабря начнёт блокировать сайты за публикацию научной информации о VPN для обхода блокировок 3 ч.
Новый трейлер раскрыл дату выхода Mandragora — метроидвании с элементами Dark Souls и нелинейной историей от соавтора Vampire: The Masquerade — Bloodlines 4 ч.
В Японии порекомендовали добавить в завещания свои логины и пароли 5 ч.
Обновления Windows 11 больше не будут перезагружать ПК, но обычных пользователей это не касается 6 ч.
VK похвасталась успехами «VK Видео» на фоне замедления YouTube 7 ч.
GTA наоборот: полицейская песочница The Precinct с «дозой нуара 80-х» не выйдет в 2024 году 9 ч.
D-Link предложила устранить уязвимость маршрутизаторов покупкой новых 10 ч.
Redmi показала флагманский смартфон K80 Pro и объявила дату его премьеры 29 мин.
Астрономы впервые сфотографировали умирающую звезду за пределами нашей галактики — она выглядит не так, как ожидалось 4 ч.
Представлена технология охлаждения чипов светом — секретная и только по предварительной записи 4 ч.
Японская Hokkaido Electric Power намерена перезапустить ядерный реактор для удовлетворения потребности ЦОД в энергии 5 ч.
Грузовик «Прогресс МС-29» улетел к МКС с новогодними подарками и мандаринами для космонавтов 5 ч.
Meta планирует построить за $5 млрд кампус ЦОД в Луизиане 6 ч.
HPE готова ответить на любые вопросы Минюста США по расследованию покупки Juniper за $14 млрд 6 ч.
Thermaltake представила компактный, но вместительный корпус The Tower 250 для игровых систем на Mini-ITX 7 ч.
Флагманы Oppo Find X8 и X8 Pro на Dimensity 9400 стали доступны не только в Китае — старший оценили в €1149 8 ч.
«ВКонтакте» выросла до 88,1 млн пользователей — выручка VK взлетела на 21,4 % на рекламе 8 ч.