Сегодня 30 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft представила ИИ-инструмент для защиты ИИ от галлюцинаций и ошибок

Microsoft представила новую функцию Content Safety в облачной инфраструктуре Azure — она направлена на борьбу со сбоями в работе генеративного искусственного интеллекта. Функция автоматически обнаруживает и даже исправляет ошибки в ответах моделей ИИ.

 Источник изображения: youtube.com/@MicrosoftAzure

Источник изображения: youtube.com/@MicrosoftAzure

Content Safety доступна в предварительной версии в пакете Azure AI Studio — это набор средств безопасности, предназначенных для обнаружения уязвимостей, поиска «галлюцинаций» у систем ИИ, а также блокировки недопустимых запросов от пользователей. Content Safety сканирует ответы ИИ и выявляет в них неточности, сравнивая выходные данные с исходными материалами клиента.

Обнаружив ошибку, система выделяет её, сопровождает сведениями, почему предоставленная информация неверна, и переписывает проблемный контент — всё это происходит ещё «до того, как пользователь сможет увидеть» неточность. Впрочем, гарантии надёжности эта функция не даёт. На корпоративной платформе Google Vertex AI тоже есть функция «заземления» моделей ИИ посредством сверки ответов по поисковой машине Google, собственным данным компании и в перспективе сторонним наборам данных.

Система Microsoft Content Safety осуществляет согласование ответов с базовыми документами при помощи больших и малых языковых моделей, рассказал представитель компании, но и она не застрахована от ошибок. «Важно отметить, что обнаружение [ошибок при помощи функции] "заземления" не решает проблему "точности", но помогает согласовывать ответы генеративного ИИ с базовыми документами», — пояснили в Microsoft.

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Google выпустила экстренное обновление для Chrome, закрывшее опасную уязвимость 13 мин.
Devil May Cry 5 стала самой продаваемой игрой квартала для Capcom, а Monster Hunter Wilds весь запал растеряла 27 мин.
ИИ-приложения захватили смартфоны и удвоили выручку — ChatGPT уже дышит в затылок Google 30 мин.
Google заявила, что Великобритания не требовала от неё создать бэкдор в облаке — в отличие от Apple 2 ч.
Тысячи камер Hikvision остаются уязвимы ко взлому почти год — доступ к ним активно продают в даркнете 2 ч.
TikTok запустил систему проверки фактов и новые инструменты родительского контроля 2 ч.
Генерация кадров и востребованные функции: для Clair Obscur: Expedition 33 вышло крупное обновление 3 ч.
Завтра пройдёт презентация Nintendo Direct: Partner Showcase — фанаты ждут Hollow Knight: Silksong и Red Dead Redemption 2 3 ч.
Подписывать документы без Max можно — Минцифры опровергло слухи об обязательности нацмессенджера 4 ч.
Microsoft близка к заключению сделки о постоянном доступе к самым передовым технологиям OpenAI 4 ч.
Apple случайно прорекламировала Samsung Galaxy Z Flip7 15 мин.
Минюст США посягнул на качества, которые делают iPhone уникальным — Apple ответила на громкий иск 2 ч.
Житель Аризоны украл оборудования с вышек сотовой связи на полмиллиона долларов 3 ч.
В Москве протестировали 5G-антенну российского производства — она обеспечила 1 Гбит/с 3 ч.
Pixel 10 станет первым флагманом Google с магнитной зарядкой Qi2, если слухи и утечки не врут 4 ч.
Microsoft выпустила Smurface Laptop — спецверсию Surface Laptop с синим лого и изображениями смурфов 4 ч.
Стартовали российские продажи роботов-пылесосов Dreame D20 с функциями флагманов 4 ч.
В ноябре в Москве пройдёт «Электроника России» 2025 — выставка-форум передовых отечественных технологий 5 ч.
YTL Power и NVIDIA инвестируют $2,3 млрд в ИИ в Малайзии — но связано ли это с предыдущей сделкой на $4,3 млрд? 5 ч.
Пентагон заказал разработку аналоговых «мозгов» для дронов и систем автопилота 6 ч.