Сегодня 09 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft представила ИИ-инструмент для защиты ИИ от галлюцинаций и ошибок

Microsoft представила новую функцию Content Safety в облачной инфраструктуре Azure — она направлена на борьбу со сбоями в работе генеративного искусственного интеллекта. Функция автоматически обнаруживает и даже исправляет ошибки в ответах моделей ИИ.

 Источник изображения: youtube.com/@MicrosoftAzure

Источник изображения: youtube.com/@MicrosoftAzure

Content Safety доступна в предварительной версии в пакете Azure AI Studio — это набор средств безопасности, предназначенных для обнаружения уязвимостей, поиска «галлюцинаций» у систем ИИ, а также блокировки недопустимых запросов от пользователей. Content Safety сканирует ответы ИИ и выявляет в них неточности, сравнивая выходные данные с исходными материалами клиента.

Обнаружив ошибку, система выделяет её, сопровождает сведениями, почему предоставленная информация неверна, и переписывает проблемный контент — всё это происходит ещё «до того, как пользователь сможет увидеть» неточность. Впрочем, гарантии надёжности эта функция не даёт. На корпоративной платформе Google Vertex AI тоже есть функция «заземления» моделей ИИ посредством сверки ответов по поисковой машине Google, собственным данным компании и в перспективе сторонним наборам данных.

Система Microsoft Content Safety осуществляет согласование ответов с базовыми документами при помощи больших и малых языковых моделей, рассказал представитель компании, но и она не застрахована от ошибок. «Важно отметить, что обнаружение [ошибок при помощи функции] "заземления" не решает проблему "точности", но помогает согласовывать ответы генеративного ИИ с базовыми документами», — пояснили в Microsoft.

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Научно-фантастический хоррор Routine вернулся из небытия второй раз за 13 лет и наконец взял курс на релиз 2 мин.
Госдума РФ не приняла закон о легализации «белых» хакеров 51 мин.
OpenAI удалось заполучить четырёх классных специалистов из Tesla, xAI и Meta 5 ч.
В США появится не только свой TikTok, но и CapCut 11 ч.
Microsoft наконец добавила в Teams цепочки обсуждений — треды 12 ч.
Microsoft устранила 137 уязвимостей, включая 14 критических и одну нулевого дня 12 ч.
Apple Lisa воссоздали в браузере до мельчайших деталей — дорогой компьютер 1983 года стал доступен всем 12 ч.
В Gmail добавят удобный способ отписаться от ненужных рассылок 12 ч.
«Проведите время с пользой, ведь мы все умрём»: экзистенциальная игра о скоротечности жизни Time Flies получила дату выхода и новый трейлер 13 ч.
С новым патчем в The Last of Us Part II Remastered появился хронологический режим — он позволит по-иному взглянуть на сюжет игры 14 ч.
Японская Mitsui OSK Lines построит плавучий ЦОД и запитает его от турецкого корабля-электростанции 27 мин.
Продажи Tesla упали даже в Китае, где до этого росли три квартала подряд 2 ч.
Поставки ПК во втором квартале выросли на 6,5 % под влиянием угрозы таможенных тарифов в США 3 ч.
В Apple сменился операционный директор, который может в будущем заменить Тима Кука 5 ч.
Новая статья: Обзор видеокарты GIGABYTE AORUS GeForce RTX 5060 Ti ELITE 16G: цена тишины 8 ч.
Новая статья: Обзор беспроводной колонки Tronsmart Bang Max: дачный певец 10 ч.
Первая национальная ракета Канады «Тайга» стартует в августе — через пару лет полетит «Тундра» 11 ч.
Tecno представила серию тонких и доступных смартфонов Spark 40 с ворохом ИИ-функций 13 ч.
Мощнейший Ryzen Threadripper Pro 9995WX показался в магазинах по цене $12 800 13 ч.
SSD и оперативная память подорожают — Трамп анонсировал 25-% пошлину на все товары из Японии и Южной Кореи 15 ч.