Сегодня 30 мая 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft представила ИИ-инструмент для защиты ИИ от галлюцинаций и ошибок

Microsoft представила новую функцию Content Safety в облачной инфраструктуре Azure — она направлена на борьбу со сбоями в работе генеративного искусственного интеллекта. Функция автоматически обнаруживает и даже исправляет ошибки в ответах моделей ИИ.

 Источник изображения: youtube.com/@MicrosoftAzure

Источник изображения: youtube.com/@MicrosoftAzure

Content Safety доступна в предварительной версии в пакете Azure AI Studio — это набор средств безопасности, предназначенных для обнаружения уязвимостей, поиска «галлюцинаций» у систем ИИ, а также блокировки недопустимых запросов от пользователей. Content Safety сканирует ответы ИИ и выявляет в них неточности, сравнивая выходные данные с исходными материалами клиента.

Обнаружив ошибку, система выделяет её, сопровождает сведениями, почему предоставленная информация неверна, и переписывает проблемный контент — всё это происходит ещё «до того, как пользователь сможет увидеть» неточность. Впрочем, гарантии надёжности эта функция не даёт. На корпоративной платформе Google Vertex AI тоже есть функция «заземления» моделей ИИ посредством сверки ответов по поисковой машине Google, собственным данным компании и в перспективе сторонним наборам данных.

Система Microsoft Content Safety осуществляет согласование ответов с базовыми документами при помощи больших и малых языковых моделей, рассказал представитель компании, но и она не застрахована от ошибок. «Важно отметить, что обнаружение [ошибок при помощи функции] "заземления" не решает проблему "точности", но помогает согласовывать ответы генеративного ИИ с базовыми документами», — пояснили в Microsoft.

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Apple грозит штраф не менее 500 млн евро за нарушение законов ЕС 2 ч.
DeepSeek ужесточила цензуру в обновлённой ИИ-модели R1 2 ч.
Apple: разработчики приложений заработали $406 млрд через App Store в 2024 году 8 ч.
В Steam вышло демо Dispatch — комедийной игры про агентство супергероев от бывших разработчиков Tales from the Borderlands и The Wolf Among Us 9 ч.
Yandex B2B Tech запустила YTsaurus — платформу обработки данных любого объёма для бизнеса 11 ч.
CD Projekt подтвердила разработку двух секретных игр, о которых никто ничего не знает 12 ч.
Полный запрет майнинга скоро будет введён в Бурятии и Забайкалье 13 ч.
Миллионы людей открыли сотням веб-приложений полный доступ к своим файлам в Microsoft OneDrive 14 ч.
В Atomic Heart сыграло 10 миллионов человек, а Mundfish начнёт помогать амбициозным разработчикам 14 ч.
«Ростелеком» усилил требования по информационной безопасности к дочерним организациям и подрядчикам 14 ч.
Китайские техногиганты начали готовиться к жизни без ускорителей Nvidia 19 мин.
Учёные создали наклейку на лицо за $20, которая предупредит о «выгорании» 3 ч.
Dell удалось воодушевить инвесторов прогнозом увеличения выручки от ИИ-серверов в полтора раза 3 ч.
ASRock признала, что её материнские платы ломают процессоры Ryzen 9000 8 ч.
Lian Li представила СЖО HydroShift II LCD-C с радиатором 360 мм и тремя конфигурациями 8 ч.
Новая статья: Обзор LCD Full HD-проектора Digma DP-FHD800A: современный подход 8 ч.
NVIDIA значительно увеличила выручку и прибыль, несмотря на потери из-за санкций США 9 ч.
В Китае испытали многоразовую ракету для мгновенной доставки товаров с Aliexpress по всему миру 10 ч.
Гендир Intel Лип-Бу Тан начал борьбу с бюрократией и теперь нуждается в большом клиенте 13 ч.
Vivo представила смартфоны S30 и S30 Pro Mini с 50-Мп перископическими камерами и мощными чипами 13 ч.