Сегодня 16 февраля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Amazon представила предохранитель от галлюцинаций ИИ

Облачное подразделение Amazon Web Services (AWS) представило на мероприятии re:Invent 2024 систему Automated Reasoning. Эта система предназначена для борьбы с «галлюцинациями» — сбоями в моделях искусственного интеллекта, при которых они дают не соответствующие действительности ответы.

 Источник изображений: BoliviaInteligente / unsplash.com

Источник изображений: BoliviaInteligente / unsplash.com

Система проверок Automated Reasoning направлена на сокращение числа потенциально опасных ошибок, вызванных «галлюцинациями» — такие сбои угрожают безопасности служб ИИ и могут привести к финансовым потерям для компаний. Они могут возникать из-за ошибок в массивах данных, на которых обучались модели ИИ. AWS характеризует Automated Reasoning как «первую и единственную защиту генеративного ИИ, которая помогает предотвращать фактические ошибки из-за галлюцинаций модели». Система пытается решить проблему путём перекрёстной сверки генерируемых моделью ответов с предоставленной клиентом информацией. Если ей не удаётся определить, совпадает ли ответ в точности, он направляется обратно в ту же модель для проверки собственными силами.

Automated Reasoning входит в пакет инструментов Amazon Bedrock Guardrails — новая система проверки пытается отследить, каким образом модель пришла к данному ей ответу, и если в цепочке обнаруживается ошибка, его сверяют с предоставленным клиентом массивом данных. Система предлагает собственный ответ на запрос, позволяя клиенту увидеть возможный фактический разрыв и при необходимости провести дополнительную настройку модели. В качестве примера AWS привела поставщика медицинских услуг — он применяет инструмент, чтобы убедиться, что на запросы клиентов о политиках работы компании даются ответы, которые не вводят в заблуждение.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Новая статья: Orcs Must Die! Deathtrap — в ловушке дисбаланса. Рецензия 8 ч.
Новая статья: Gamesblender № 713: анонсы State of Play, «революция» Overwatch 2 и заморозка Crysis 4 9 ч.
VK купил 25-% долю в Р7 для усиления позиций VK Tech перед IPO 10 ч.
Perplexity запустила почти бесплатную альтернативу Deep Research от OpenAI и Google 21 ч.
Google отключила на Android оповещения о землетрясениях в Бразилии после ложной тревоги 15-02 07:19
Совет директоров OpenAI единогласно отверг предложение Маска о покупке стартапа за $97,4 млрд 15-02 05:43
Instagram начал тестировать скрытую реакцию «не нравится» для комментариев 15-02 05:10
Новая статья: Эмулируй меня полностью: состояние эмуляции игровых консолей в 2025 году 15-02 00:09
295 млн пользователей, проверенные хиты продаж и 7,7 млрд часов в играх: Epic Games Store подвёл итоги 2024 года и раскрыл планы по улучшению магазина 14-02 22:34
«Доверьтесь нам»: разработчики Okami 2 поделились первыми подробностями сиквела легендарной приключенческой игры 14-02 21:16
Broadcom интересуется покупкой той части Intel, которая останется после отделения предприятий 7 мин.
Техпроцесс Intel 18A позволяет создавать более быстрые чипы, но 2-нм технология TSMC имеет более высокую плотность транзисторов 29 мин.
HBF вместо HBM: SanDisk предлагает увеличить объём памяти ИИ-ускорителей в 16 раз, заменив DRAM на сверхбыструю флеш-память 8 ч.
Selectel: количество DDoS-атак во II полугодии 2024 года выросло в 2,6 раза 8 ч.
50 тыс. км под водой: Meta представила проект Waterworth по созданию самого протяжённого в мире интернет-кабеля 9 ч.
xAI может построить второй ЦОД и купить у Dell ИИ-серверы на $5 млрд 9 ч.
Представлен самый большой в мире OLED-дисплей размером с теннисный корт 10 ч.
Представлен смартфон ZTE Blade V70 Max с 6,9-дюймовым дисплеем и батареей на 6000 мА·ч 10 ч.
Intel участвует в переговорах с TSMC по поводу передачи в управление своих предприятий 11 ч.
Meta сформировала команду для разработки роботов-гуманоидов и направит на это значительные инвестиции 13 ч.