Сегодня 13 июля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ научили клонировать любые голоса для озвучки текста — в Сети тут же появились непристойные дипфейки с голосами знаменитостей

Несколько дней назад стартап ElevenLabs представил бета-версию платформы для создания синтетических голосов-клонов реальных людей для озвучивания текстов. Буквально через несколько дней в Сети появились дипфейки голосов знаменитостей, озвучивающих крайне сомнительные тексты. По словам компании, отмечено «увеличивающееся число случаев злоупотребления клонированием голосов» — компания уже работает над решением проблемы с помощью введения дополнительных мер защиты.

 Источник изображения: Kelly Sikkema/unsplash.com

Источник изображения: Kelly Sikkema/unsplash.com

Что имелось в виду под злоупотреблением, в компании не уточнили, но уже известно, что на интернет-форумах появились аудиозаписи с голосами знаменитостей, содержащие высказывания неприемлемого содержания.

Пока неизвестно, все ли материалы созданы с использованием технологии ElevenLabs, но значительная коллекция голосовых файлов содержит ссылку именно на платформу компании. Впрочем, ничего удивительно в этом нет, поскольку возникновение общедоступных систем машинного обучения привело к появлению многочисленных дипфейков различного рода.

Сейчас ElevenLabs собирает обратную связь для предотвращения злоупотреблений технологией. На данный момент компания не придумала ничего необычного кроме добавления дополнительных мер верификации аккаунтов для обеспечения доступа к клонированию голосов.

В числе идей: ввод платёжной информации или данных удостоверений личности. Дополнительно рассматривается верификация прав на использование голоса, который пользователи намерены клонировать, например, будет предложено загрузить образец с чтением предложенного текста. Наконец, компания рассматривает возможность полностью отказаться от инструмента Voice Lab и заставить проходить верификацию голосов в ручном режиме. Пока же пользователей призвали поделиться идеями с разработчиками сервиса.

Известно, что в первой половине января схожее решение представила Microsoft. Её инструмент VALL-E тоже позволяет преобразовать текст в речь, использовав в качестве образца всего 3 секунды записи голоса любого человека.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
Прежде чем оставить комментарий, пожалуйста, ознакомьтесь с правилами комментирования. Оставляя комментарий, вы подтверждаете ваше согласие с данными правилами и осознаете возможную ответственность за их нарушение.
Все комментарии премодерируются.
Комментарии загружаются...

window-new
Soft
Hard
Тренды 🔥
ЕС утвердил Закон об ИИ: в числе запретов извлечение изображений лиц из интернета 6 ч.
Еврокомиссия замахнулась на X Илона Маска: соцсеть обвинили в обмане из-за синей галочки 9 ч.
Новая статья: Zenless Zone Zero — игра о вреде телевизоров. Рецензия 11 ч.
Как и 37 лет назад: первый трейлер Double Dragon Revive не разочаровал фанатов серии 11 ч.
В VK Play Cloud появились The Legend of Zelda: Tears of the Kingdom и Animal Crossing: New Horizons, но ненадолго 12 ч.
Соцсеть X снова тестирует функцию дизлайков, но на этот раз для комментариев 13 ч.
МОК объявил, когда и где пройдут первые в истории киберспортивные Олимпийские игры — League of Legends, Street Fighter и не только 14 ч.
Battlestate Games добавила в Escape From Tarkov: Arena классический режим из Counter-Strike 15 ч.
Хакеры похитили «почти всю» базу абонентов AT&T — одного из крупнейших сотовых операторов в США 15 ч.
Олдскульный боевик The Karate Kid: Street Rumble позволит пережить историю классической трилогии фильмов «Парень-каратист» 16 ч.