Сегодня 28 мая 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Топ-менеджер Google предупредил о «галлюцинациях» у чат-ботов с ИИ

Основанные на алгоритмах искусственного интеллекта чат-боты могут представлять угрозу для пользователей в силу своего несовершенства — у них случаются своего рода «галлюцинации», заявил старший вице-президент компании Google и глава подразделения Google Search Прабхакар Рагхаван (Prabhakar Raghavan) в интервью немецкой газете Welt am Sonntag.

 Источник изображения: blog.google

Источник изображения: blog.google

«Разновидность ИИ, о которой мы сейчас говорим, иногда приходит к тому, что мы называем галлюцинациями. <..> Это выражается в том, что машина даёт убедительный, но полностью выдуманный ответ», — заявил господин Рагхаван. И добавил, что одной из фундаментальных задач является сведение числа таких инцидентов к минимуму.

Google впервые начала проигрывать на поле технологий для веб-поиска после того, как Microsoft за $10 млрд заручилась поддержкой компании OpenAI, которая недавно представила революционный проект ChatGPT. Языковая ИИ-модель в удивительно человечной манере отвечает на запросы: дошло до того, что чат-бота пригласили на собеседование, а ещё он написал дипломную работу.

Поисковый гигант на днях представил собственного чат-бота Bard, которого не смогли уберечь от «галлюцинации» даже в рекламном ролике — он дал явно недостоверный ответ на вопрос по астрономии. Это вызвало недовольство научного сообщества, а акции владеющего Google холдинга Alphabet рухнули на 8 %. «Мы, конечно, осознаём срочность [решения проблемы], но также ощущаем большую ответственность. И определённо не хотим вводить общественность в заблуждение», — добавил глава Google Search.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
The Rogue Prince of Persia от соавторов Dead Cells вышла в раннем доступе Steam, причём без привязки к Ubisoft Connect 57 мин.
Google Cloud полностью взяла на себя вину за скандальное удаление облака пенсионного фонда UniSuper 2 ч.
Календарь релизов 27 мая – 2 июня: Selaco, Nine Sols и обновленный MultiVersus 3 ч.
Моддер добавил «больше тонкостей и свободу действий» в один из лучших квестов The Elder Scrolls III: Morrowind 3 ч.
Издатель Syberia анонсировал первую игру про легендарного вора-джентльмена Арсена Люпена — трейлер и детали Arsene Lupin: Once a Thief 4 ч.
Инсайдер назвал слухи о ремейке первой Resident Evil «полной чушью» и прояснил, когда выйдет Resident Evil 9 5 ч.
Разработчики стратегии Songs of Conquest в духе «Героев Меча и Магии» анонсировали четыре сюжетных дополнения и первый аддон 6 ч.
Волки, овцы и Саддам Хусейн: новый тизер Call of Duty: Black Ops 6 и дата премьеры первого трейлера 7 ч.
Indika не разочаровала польского издателя продажами, в отличие от The Invincible и The Thaumaturge 10 ч.
Игроков заинтриговал геймплейный трейлер олдскульного хоррора Nightmare Operator с элементами Ghostwire: Tokyo и Dead Space 11 ч.