Сегодня 08 мая 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft представила ИИ-инструмент для защиты ИИ от галлюцинаций и ошибок

Microsoft представила новую функцию Content Safety в облачной инфраструктуре Azure — она направлена на борьбу со сбоями в работе генеративного искусственного интеллекта. Функция автоматически обнаруживает и даже исправляет ошибки в ответах моделей ИИ.

 Источник изображения: youtube.com/@MicrosoftAzure

Источник изображения: youtube.com/@MicrosoftAzure

Content Safety доступна в предварительной версии в пакете Azure AI Studio — это набор средств безопасности, предназначенных для обнаружения уязвимостей, поиска «галлюцинаций» у систем ИИ, а также блокировки недопустимых запросов от пользователей. Content Safety сканирует ответы ИИ и выявляет в них неточности, сравнивая выходные данные с исходными материалами клиента.

Обнаружив ошибку, система выделяет её, сопровождает сведениями, почему предоставленная информация неверна, и переписывает проблемный контент — всё это происходит ещё «до того, как пользователь сможет увидеть» неточность. Впрочем, гарантии надёжности эта функция не даёт. На корпоративной платформе Google Vertex AI тоже есть функция «заземления» моделей ИИ посредством сверки ответов по поисковой машине Google, собственным данным компании и в перспективе сторонним наборам данных.

Система Microsoft Content Safety осуществляет согласование ответов с базовыми документами при помощи больших и малых языковых моделей, рассказал представитель компании, но и она не застрахована от ошибок. «Важно отметить, что обнаружение [ошибок при помощи функции] "заземления" не решает проблему "точности", но помогает согласовывать ответы генеративного ИИ с базовыми документами», — пояснили в Microsoft.

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Nvidia оставила прессу без драйвера для GeForce RTX 5060 — так обзоры не испортят старт продаж 3 мин.
Суперкомпьютер Colossus Илона Маска запустили на полную мощность — он потребляет, как 300 000 домов 8 мин.
Поставки OLED-мониторов за год взлетели на 175 % — Asus наступает на пятки лидирующей Samsung 58 мин.
Core Ultra 200S уличили в замедлении флагманских SSD — в Intel проблему признали, но сделать ничего не могут 2 ч.
Arctic представила доступные башенные кулеры Freezer 8, заточенные под современные AMD Ryzen и Intel Core 2 ч.
OpenAI намерена развивать «демократический ИИ» за пределами США в рамках мегапроекта Stargate 3 ч.
Sony представила контроллер DualSense Death Stranding 2: On the Beach Limited Edition для PS5 3 ч.
Экс-сотрудника SK hynix обвинили в передаче Huawei технологии выпуска памяти HBM 4 ч.
Далёкое будущее оперативной памяти: NEO Semiconductor рассказала о своей сверхплотной и энергонезависимой 3D DRAM 5 ч.
Intel пообещала представить на Computex 2025 «несколько видеокарт» Arc Pro для работы и ИИ 6 ч.