Сегодня 01 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Алгоритм распознавания речи OpenAI Whisper страдает от галлюцинаций

По данным исследователей, система распознавания речи Whisper от компании OpenAI иногда страдает галлюцинациями, т.е. занимается выдумкой фактов. Инженеры-программисты, разработчики и учёные выразили серьёзные опасения по поводу того, что эта особенность ИИ-алгоритма может нанести реальный вред, поскольку Whisper уже используется, в том числе, в медицинских учреждениях.

 Источник изображения: Growtika / unsplash.com

Источник изображения: Growtika / unsplash.com

Склонность генеративных нейросетей к выдумыванию фактов при ответах на вопросы пользователей обсуждается давно. Однако странно видеть эту особенность у алгоритма Whisper, который предназначен для распознавания речи. Исследователи установили, что алгоритм при распознавании речи может включать в генерируемый текст что угодно, начиная от расистских комментариев и заканчивая выдуманными медицинскими процедурами. Это может нанести реальный вред, поскольку Whisper начали использовать в больницах и других медицинских учреждениях.

Исследователь из Университета Мичигана, изучавший расшифровку публичных собраний, сгенерированных Wisper, обнаружил неточности при транскрибировании 8 из 10 аудиозаписей. Другой исследователь изучил более 100 часов, расшифрованных Whisper аудио, и выявил неточности более чем в половине из них. Ещё один инженер заявил, что выявил недостоверности почти во всех 26 тыс. расшифровок, которые он создал с помощью Wisper.

Представитель OpenAI сообщил, что компания постоянно работает над повышением качества работы своих нейросетей, в том числе над уменьшением количества галлюцинаций. Он также добавил, что политика компании запрещает использовать Whisper «в определённых контекстах принятия решений высокой важности». «Мы благодарим исследователей за то, что они поделились своими результатами», — добавил представитель OpenAI.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Rockstar вспомнила о Red Dead Online — для мультиплеерного боевика вышло первое за долгое время крупное обновление 2 мин.
GSC убрала из главного меню ремастеров трилогии S.T.A.L.K.E.R. назойливую рекламу S.T.A.L.K.E.R. 2, но никому об этом не сказала 2 ч.
Психологический хоррор Dead Take сотрёт границу между кино и играми — в главных ролях оказались звёзды Baldur’s Gate 3 и Clair Obscur: Expedition 33 3 ч.
Nvidia выпустила драйвер с поддержкой GeForce RTX 5050 4 ч.
System Shock 2: 25th Anniversary Remaster получила новую дату выхода на PlayStation, Xbox и Nintendo Switch 4 ч.
Разработчик конфиденциальных сервисов Proton решил засудить Apple за недобросовестную конкуренцию 5 ч.
Новый план Huawei по «захвату мира»: компания открыла исходный код своих ИИ-моделей 6 ч.
«Базальт СПО» приглашает на XXI конференцию разработчиков свободных программ 6 ч.
Чрезмерное регулирование тормозит инновации в Европе, заключили в Google 6 ч.
Обнаружено самое любимое число ИИ — и это не 42 7 ч.
Nothing представила накладные наушники Headphone (1) — аналоговое управление, звук KEF и автономность до 80 часов за €299 2 ч.
Marshall представила портативную колонку Middleton II с автономностью до 30 часов и LE Audio — она работает даже под водой 3 ч.
Смартфоны Realme P3 и P3 Ultra поступили в продажу в России по цене от 22 999 рублей 4 ч.
Поставки ПК в США подскочили в первом квартале на 15 %, но теперь рост замедлится 5 ч.
DDoS-пункция: StormWall предупредила о взрывном росте «зондирующих» атак 5 ч.
Palit представила видеокарты GeForce RTX 5050 Dual и более компактную RTX 5050 StormX 5 ч.
Inno3D рассказала о производительности GeForce RTX 5050 — где-то между RTX 4060 и RTX 3060 5 ч.
На складах Amazon теперь вкалывают более миллиона роботов 6 ч.
Даже акционеры Nintendo не могут достать Switch 2 — глава компании извинился за дефицит 6 ч.
Вселенная оказалась полна сложных органических молекул, образованных до звёзд и планет 6 ч.