Сегодня 22 ноября 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft оправдала склонность ИИ давать неправильные ответы тем, что они «полезно неверные»

В ходе состоявшейся накануне презентации ИИ-платформы Copilot для офисного пакета Microsoft 365 топ-менеджеры Microsoft признали, что системы на базе искусственного интеллекта часто дают неверные ответы на вопросы. Но, несмотря на это, новые системы в компании назвали полезными, и даже сами неправильные ответы там считают «полезно неверными».

 Источник изображения: efes / pixabay.com

Источник изображения: efes / pixabay.com

Не соответствующие действительности заявления систем искусственного интеллекта являются одной из важнейших проблем данной области. Явные ошибки со дня своего запуска совершает задавший новый стандарт чат-бот ChatGPT. Аналогичное решение от Google, появившееся некоторое время спустя, давало пользователям неверные ответы на вопросы прямо в демонстрационных материалах. «Не отстаёт» от своих аналогов и чат-бот, появившийся в поисковой службе Bing.

Всё это не помешало Google внедрить функции искусственного интеллекта в сервисы Gmail и Google Docs, а Microsoft внедрила обновлённую версию Copilot в пакет Microsoft 365. В Microsoft считают, что даже в теперешнем виде система окажется полезной: пользователи, заведомо зная, что чат-бот может давать неточные ответы, смогут самостоятельно исправлять лишь некоторые неточности в электронных письмах и слайдах презентации. Например, когда человек хочет поздравить члена семьи с днём рождения, Copilot окажется полезным, даже если укажет в письме неверную дату: ИИ генерирует текст, экономя пользователю время, и человеку останется лишь исправить отдельные ошибки — нужно лишь проявлять осторожность и следить за тем, чтобы в тексте не было неточностей. Просто не следует излишне доверять ИИ.

Главный научный сотрудник Microsoft Хайме Тееван (Jaime Teevan) указал, что компания предусмотрела некие «смягчающие меры» на тот случай, когда Copilot «делает что-то неправильно, демонстрирует предубеждения или используется не по назначению». Тем более, что перед выпуском системы для широкого круга пользователей она будет тестироваться лишь 20 корпоративными клиентами. «Мы будем совершать ошибки, но при их возникновении мы их быстро исправим», — пообещал инженер.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Apple научит Siri лучше поддерживать диалоги с пользователем 53 мин.
Новая статья: Верные спутники: 20+ полезных Telegram-ботов для путешественников 7 ч.
Итоги Golden Joystick Awards 2024 — Final Fantasy VII Rebirth и Helldivers 2 забрали больше всех наград, а Black Myth: Wukong стала игрой года 8 ч.
В программу сохранения классических игр от GOG вошли S.T.A.L.K.E.R. Shadow of Chernobyl и Call of Pripyat, а Clear Sky — на подходе 9 ч.
Star Wars Outlaws вышла в Steam с крупным обновлением и дополнением про Лэндо Калриссиана 11 ч.
Рекордная скидка и PvP-режим Versus обернулись для Warhammer: Vermintide 2 полумиллионом новых игроков за неделю 12 ч.
Новый трейлер раскрыл дату выхода Mandragora — метроидвании с элементами Dark Souls и нелинейной историей от соавтора Vampire: The Masquerade — Bloodlines 13 ч.
В Японии порекомендовали добавить в завещания свои логины и пароли 15 ч.
Обновления Windows 11 больше не будут перезагружать ПК, но обычных пользователей это не касается 15 ч.
VK похвасталась успехами «VK Видео» на фоне замедления YouTube 17 ч.
Nvidia предупредила о возможном дефиците игровых решений в четвёртом квартале 4 ч.
Представлен внешний SSD SanDisk Extreme на 8 Тбайт за $800 и скоростной SanDisk Extreme PRO с USB4 8 ч.
Представлен безбуферный SSD WD_Black SN7100 со скоростью до 7250 Мбайт/с и внешний SSD WD_Black C50 для Xbox 8 ч.
Новая статья: Обзор ноутбука ASUS Zenbook S 16 (UM5606W): Ryzen AI в естественной среде 8 ч.
Redmi показала флагманский смартфон K80 Pro и объявила дату его премьеры 10 ч.
Астрономы впервые сфотографировали умирающую звезду за пределами нашей галактики — она выглядит не так, как ожидалось 13 ч.
Представлена технология охлаждения чипов светом — секретная и только по предварительной записи 14 ч.
Японская Hokkaido Electric Power намерена перезапустить ядерный реактор для удовлетворения потребности ЦОД в энергии 14 ч.
Грузовик «Прогресс МС-29» улетел к МКС с новогодними подарками и мандаринами для космонавтов 14 ч.
Meta планирует построить за $5 млрд кампус ЦОД в Луизиане 15 ч.