Сегодня 03 ноября 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Топ-менеджер Google предупредил о «галлюцинациях» у чат-ботов с ИИ

Основанные на алгоритмах искусственного интеллекта чат-боты могут представлять угрозу для пользователей в силу своего несовершенства — у них случаются своего рода «галлюцинации», заявил старший вице-президент компании Google и глава подразделения Google Search Прабхакар Рагхаван (Prabhakar Raghavan) в интервью немецкой газете Welt am Sonntag.

 Источник изображения: blog.google

Источник изображения: blog.google

«Разновидность ИИ, о которой мы сейчас говорим, иногда приходит к тому, что мы называем галлюцинациями. <..> Это выражается в том, что машина даёт убедительный, но полностью выдуманный ответ», — заявил господин Рагхаван. И добавил, что одной из фундаментальных задач является сведение числа таких инцидентов к минимуму.

Google впервые начала проигрывать на поле технологий для веб-поиска после того, как Microsoft за $10 млрд заручилась поддержкой компании OpenAI, которая недавно представила революционный проект ChatGPT. Языковая ИИ-модель в удивительно человечной манере отвечает на запросы: дошло до того, что чат-бота пригласили на собеседование, а ещё он написал дипломную работу.

Поисковый гигант на днях представил собственного чат-бота Bard, которого не смогли уберечь от «галлюцинации» даже в рекламном ролике — он дал явно недостоверный ответ на вопрос по астрономии. Это вызвало недовольство научного сообщества, а акции владеющего Google холдинга Alphabet рухнули на 8 %. «Мы, конечно, осознаём срочность [решения проблемы], но также ощущаем большую ответственность. И определённо не хотим вводить общественность в заблуждение», — добавил глава Google Search.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Новая статья: Alan Wake 2: The Lake House — творческий катаклизм. Рецензия 12 мин.
Новая статья: Gamesblender № 698: релиз RDR на ПК, «снова великая» BioWare (или нет) и обиженные авторы Denuvo 34 мин.
Google представила Learn About — инструмент интерактивного обучения на базе искусственного интеллекта 7 ч.
Аудитория Threads превысила 275 млн пользователей за год с момента её запуска 10 ч.
У VK Cloud появился ИИ-консультант по облачным сервисам 13 ч.
На «Госуслугах» появилась форма для регистрации блогеров с аудиторией более 10 тыс. подписчиков 13 ч.
Правительство запретило незарегистрированным майнерам расходовать более 6000 кВт·ч электроэнергии в месяц 14 ч.
WhatsApp добавил новую функцию для быстрой организации чатов 20 ч.
Apple объявила о покупке популярного редактора изображений Pixelmator литовской разработки 20 ч.
Новая статья: Neva — белый Бим Черные рога. Рецензия 02-11 00:07
Облако AWS стало основным драйвером роста выручки Amazon — компания готова и дальше вкладываться в ИИ-инфраструктуру 3 ч.
Система Веги оказалась планетарной пустыней 4 ч.
Облачный бизнес Google растёт быстрее, чем у всех конкурентов 4 ч.
В гонке за передовым ИИ техногиганты потратят в 2024 году более $200 млрд 8 ч.
Intel до сих пор не начала зарабатывать на контрактном производстве чипов — заказов очень мало 8 ч.
Созданы сверхтонкие солнечные панели для дирижаблей — их масса меньше 700 г на квадратный метр 9 ч.
OnePlus 13 возглавил рейтинг самых мощных Android-смартфонов по итогам октября 10 ч.
В США задумались о санкциях против китайских производителей дисплеев — они вытесняют всех конкурентов 10 ч.
Спутники мобильной связи AST SpaceMobile стали ярчайшими объектами на ночном небе — астрономы в шоке 10 ч.
Власти США готовят «план спасения Intel» на случай дальнейшего ухудшения её финансового положения 10 ч.