По данным исследователей, система распознавания речи Whisper от компании OpenAI иногда страдает галлюцинациями, т.е. занимается выдумкой фактов. Инженеры-программисты, разработчики и учёные выразили серьёзные опасения по поводу того, что эта особенность ИИ-алгоритма может нанести реальный вред, поскольку Whisper уже используется, в том числе, в медицинских учреждениях.

Источник изображения: Growtika / unsplash.com

Склонность генеративных нейросетей к выдумыванию фактов при ответах на вопросы пользователей обсуждается давно. Однако странно видеть эту особенность у алгоритма Whisper, который предназначен для распознавания речи. Исследователи установили, что алгоритм при распознавании речи может включать в генерируемый текст что угодно, начиная от расистских комментариев и заканчивая выдуманными медицинскими процедурами. Это может нанести реальный вред, поскольку Whisper начали использовать в больницах и других медицинских учреждениях.

Исследователь из Университета Мичигана, изучавший расшифровку публичных собраний, сгенерированных Wisper, обнаружил неточности при транскрибировании 8 из 10 аудиозаписей. Другой исследователь изучил более 100 часов, расшифрованных Whisper аудио, и выявил неточности более чем в половине из них. Ещё один инженер заявил, что выявил недостоверности почти во всех 26 тыс. расшифровок, которые он создал с помощью Wisper.

Представитель OpenAI сообщил, что компания постоянно работает над повышением качества работы своих нейросетей, в том числе над уменьшением количества галлюцинаций. Он также добавил, что политика компании запрещает использовать Whisper «в определённых контекстах принятия решений высокой важности». «Мы благодарим исследователей за то, что они поделились своими результатами», — добавил представитель OpenAI.

Разработчик Venris, известный по глобальным модам SFO: Grimhammer для трилогии Total War: Warhammer, в составе польской студии Evil Gingerbread готовит к выходу собственную игру — Whispers of the Eyeless.

Источник изображений: Evil Gingerbread Studio

Whispers of the Eyeless представляет собой мрачную фэнтезийную ролевую стратегию, вдохновлённую Loop Hero и Darkest Dungeon, а также польским фольклором. В проекте смешались пошаговые сражения, строительство базы и психология.

Игрокам достанется роль последнего приверженца Старой веры и первого пророка Новой эры, которому предстоит встать во главе культа, чтобы воскресить Мёртвых богов и захватить город Арантор изнутри.

Для возвращения власти Мёртвым богам придётся вербовать последователей, участвовать в разветвлённой сетке событий районов Арантора (в каждом округе свои враги), расширять своё Святилище и скрываться от адептов новых богов.

Действия пользователя в роли первого пророка определят, как и когда каждый из Мёртвых богов — Гнев, Страсть и Безумие — будет набирать силу, а также решат судьбу Арантора.

Смотреть все изображения (10)

Смотреть все
изображения (10)

Обещают мрачный комиксовый стиль, глубокую систему персонализации, уникальную механику продвижения по квестам, сотни умений, способностей, предметов и локаций для изучения. Поддержка русского языка не заявлена.

Ранний доступ Whispers of the Eyeless стартует на ПК (Steam, GOG) в конце 2024 года или начале 2025-го. Летом игра успешно прошла через кампанию на Kickstarter, где на 400 % перевыполнила изначальную цель по сборам.