Сегодня 08 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft представила ИИ-инструмент для защиты ИИ от галлюцинаций и ошибок

Microsoft представила новую функцию Content Safety в облачной инфраструктуре Azure — она направлена на борьбу со сбоями в работе генеративного искусственного интеллекта. Функция автоматически обнаруживает и даже исправляет ошибки в ответах моделей ИИ.

 Источник изображения: youtube.com/@MicrosoftAzure

Источник изображения: youtube.com/@MicrosoftAzure

Content Safety доступна в предварительной версии в пакете Azure AI Studio — это набор средств безопасности, предназначенных для обнаружения уязвимостей, поиска «галлюцинаций» у систем ИИ, а также блокировки недопустимых запросов от пользователей. Content Safety сканирует ответы ИИ и выявляет в них неточности, сравнивая выходные данные с исходными материалами клиента.

Обнаружив ошибку, система выделяет её, сопровождает сведениями, почему предоставленная информация неверна, и переписывает проблемный контент — всё это происходит ещё «до того, как пользователь сможет увидеть» неточность. Впрочем, гарантии надёжности эта функция не даёт. На корпоративной платформе Google Vertex AI тоже есть функция «заземления» моделей ИИ посредством сверки ответов по поисковой машине Google, собственным данным компании и в перспективе сторонним наборам данных.

Система Microsoft Content Safety осуществляет согласование ответов с базовыми документами при помощи больших и малых языковых моделей, рассказал представитель компании, но и она не застрахована от ошибок. «Важно отметить, что обнаружение [ошибок при помощи функции] "заземления" не решает проблему "точности", но помогает согласовывать ответы генеративного ИИ с базовыми документами», — пояснили в Microsoft.

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
С новым патчем в The Last of Us Part II Remastered появился хронологический режим — он позволит по-иному взглянуть на сюжет игры 51 мин.
«Не передать словами, что это значит для нас»: создатели философского выживания The Alters похвастались продажами игры 2 ч.
Российский суд оштрафовал Twitch, TikTok и Pinterest — каждую на 7 млн рублей 2 ч.
Магазин Chrome заполонили опасные расширения для браузера — их скачали уже 1,7 млн раз 3 ч.
Sony скоро покажет 20 минут геймплея Ghost of Yotei — подробности специального выпуска State of Play 3 ч.
В Android появятся ИИ-сводки уведомлений, но с оглядкой на провал схожей функции на iPhone 3 ч.
Слухи: в разработке находится сразу несколько Fallout, включая ту, «что вы все ждёте» 3 ч.
Российская «Ред ОС» 8 портирована на одноплатный компьютер Orange Pi Zero 2W 4 ч.
Threads почти догнала X по аудитории мобильных приложений 4 ч.
Минцифры РФ заплатит до миллиона рублей за обнаружение уязвимостей в государственных сервисах 5 ч.
Tecno представила серию тонких и доступных смартфонов Spark 40 с ворохом ИИ-функций 9 мин.
Мощнейший Ryzen Threadripper Pro 9995WX показался в магазинах по цене $12 800 14 мин.
SSD и оперативная память подорожают — Трамп анонсировал 25-% пошлину на все товары из Японии и Южной Кореи 2 ч.
Британская полиция выделит £75 млн на оцифровку своих архивов VHS-видеокассет 3 ч.
«Билайн» модернизировал транспортную сеть, добавив ВОЛС на 1,6 Тбит/с. 3 ч.
Китай впервые в истории дозаправил спутник на высоте 36 000 км — это не точно, но США обеспокоены 3 ч.
Beyerdynamic обновила наушники Aventho — автономность выросла втрое, а Bluetooth стал стабильнее 4 ч.
Российский суперкомпьютер «Говорун» получил два узла «РСК Экзастрим ИИ» с NVIDIA H100 и фирменной СЖО 5 ч.
Учёные нашли неожиданный способ втрое удешевить удаление CO₂ из воздуха — помогут терминалы СПГ и уголь 6 ч.
OnePlus выпустила уменьшенную версию часов Watch 3 за $299 и наушники Buds 4 за $129 6 ч.