Сегодня 01 марта 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Топ-менеджер Google предупредил о «галлюцинациях» у чат-ботов с ИИ

Основанные на алгоритмах искусственного интеллекта чат-боты могут представлять угрозу для пользователей в силу своего несовершенства — у них случаются своего рода «галлюцинации», заявил старший вице-президент компании Google и глава подразделения Google Search Прабхакар Рагхаван (Prabhakar Raghavan) в интервью немецкой газете Welt am Sonntag.

 Источник изображения: blog.google

Источник изображения: blog.google

«Разновидность ИИ, о которой мы сейчас говорим, иногда приходит к тому, что мы называем галлюцинациями. <..> Это выражается в том, что машина даёт убедительный, но полностью выдуманный ответ», — заявил господин Рагхаван. И добавил, что одной из фундаментальных задач является сведение числа таких инцидентов к минимуму.

Google впервые начала проигрывать на поле технологий для веб-поиска после того, как Microsoft за $10 млрд заручилась поддержкой компании OpenAI, которая недавно представила революционный проект ChatGPT. Языковая ИИ-модель в удивительно человечной манере отвечает на запросы: дошло до того, что чат-бота пригласили на собеседование, а ещё он написал дипломную работу.

Поисковый гигант на днях представил собственного чат-бота Bard, которого не смогли уберечь от «галлюцинации» даже в рекламном ролике — он дал явно недостоверный ответ на вопрос по астрономии. Это вызвало недовольство научного сообщества, а акции владеющего Google холдинга Alphabet рухнули на 8 %. «Мы, конечно, осознаём срочность [решения проблемы], но также ощущаем большую ответственность. И определённо не хотим вводить общественность в заблуждение», — добавил глава Google Search.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
После 19 лет в составе Activision разработчики Crash Bandicoot и Spyro обрели независимость — Toys for Bob снова стала инди-студией 42 мин.
Google добавила в Chrome новые функции для эффективного поиска даже при слабом интернете 4 ч.
Microsoft готовит к выпуску чат-бот Copilot для финансистов 7 ч.
Новая статья: Упакован по максимуму: ИИ-фишки и интересные функции «Яндекс Браузера» 11 ч.
ServiceNow, Hugging Face и NVIDIA представили новое поколение ИИ-моделей StarCoder2 для генерации кода 11 ч.
Авторы How to Survive и Warhammer: Chaosbane анонсировали кооперативный «дьяблоид» о борьбе с драконами Dragonkin: The Banished 11 ч.
Симулятор выживания по «Терминатору» получил название, трейлер и дату выхода в раннем доступе — новые подробности Terminator: Survivors 13 ч.
Nacon раскрыла, когда выйдет GreedFall II: The Dying World — игра оказалась временным эксклюзивом Steam 14 ч.
Слухи: Embracer продаст Saber Interactive и Gearbox, а ремейк Star Wars: Knights of the Old Republic всё-таки жив 14 ч.
В полку российских СУБД прибыло: SoQoL вышла в релиз 14 ч.