Сегодня 28 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Политические дипфейки оказались самой популярным направлением в злоупотреблениях ИИ

Исследование Google DeepMind выявило, что злоупотребления искусственным интеллектом (ИИ) в форме дипфейков — реалистичных поддельных изображений политиков и знаменитостей или их видео и аудио — намного превосходят использование ИИ для кибератак.

 Источник изображения: Kandinsky

Источник изображения: Kandinsky

Согласно анализу, проведённому совместно с исследовательским подразделением группы Jigsaw, наиболее распространённой целью злоупотреблений генеративным ИИ стало формирование общественного мнения или влияние на него, что составило 27 % всех случаев использования искусственного интеллекта, сообщает Ars Technica.

Такие данные вызывают у экспертов серьёзные опасения по поводу влияния дипфейков на предстоящие во многих странах мира выборы в 2024 году. Отмечается, что в последние месяцы в социальных сетях, таких как TikTok, X и Instagram, появились дипфейки премьер-министра Великобритании Риши Сунака (Rishi Sunak) и других мировых лидеров. Избиратели Великобритании пойдут на всеобщие выборы уже на следующей неделе, и существует обеспокоенность тем, что, несмотря на усилия платформ социальных сетей по маркировке или удалению такого контента, аудитория может не распознать его как фейк, что потенциально повлияет на решения избирателей.

Арди Янжева (Ardi Janjeva), научный сотрудник Института Алана Тьюринга (The Alan Turing Institute), отмечает, что распространение контента, созданного ИИ, может «искажать наше коллективное понимание социально-политической реальности», что представляет долгосрочные риски для демократических процессов, даже если прямое влияние на поведение избирателей пока не доказано.

По мере роста популярности генеративных ИИ-продуктов, таких как ChatGPT от OpenAI и Gemini от Google, компании, разрабатывающие ИИ, начинают более пристально следить за потенциально вредным или неэтичным контентом, создаваемым их инструментами. Например, в мае OpenAI опубликовала исследование, показавшее использование их инструментов для создания и распространения дезинформации, связанное с Россией, Китаем, Ираном и Израилем.

Второй по распространённости мотивацией злоупотреблений стало получение финансовой выгоды, например, через предложение услуг по созданию дипфейков, включая создание изображений реальных людей, или использование генеративного ИИ для создания фейковых новостных статей.

Исследование показало, что в большинстве инцидентов используются легкодоступные инструменты, не требующие глубоких технических знаний, что в свою очередь только может увеличивать рост числа злоумышленников в среде ИИ.

Одновременно результаты исследования Google DeepMind повлияют на действия ИИ-компаний для проверки моделей на безопасность и оценку не только пользы, но и потенциального вреда от использования генеративного ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Завирусившийся симулятор Quarantine Zone: The Last Check от российских разработчиков достиг «грандиозного рубежа» и нашёл издателя 2 ч.
Самая уродливая надежда Земли на спасение: радиоактивный боевик Toxic Crusaders получил новый трейлер и дату выхода 3 ч.
«Выглядит как Sekiro на стероидах»: игроков впечатлили 22 минуты геймплея амбициозного китайского боевика Phantom Blade Zero 4 ч.
Британцы стали обманывать систему проверки возраста в Discord с помощью Death Stranding 4 ч.
Microsoft случайно раскрыла дату выхода ретросборника Mortal Kombat: Legacy Kollection 7 ч.
Microsoft признала, что не может гарантировать суверенитет данных в Европе 16 ч.
Eviden предоставит техническую платформу для европейского оборонного ИИ-проекта AtLaS 27-07 14:43
В Telegram добавили бота для проверки возраста пользователей 27-07 12:15
Новая статья: Fretless — The Wrath of Riffson — музыка спасёт мир. Рецензия 27-07 00:10
Новая статья: Gamesblender № 736: фанатский шутер по Fallout, новая Ghost Recon и хоррор по «Восставшему из ада» 26-07 23:37
К октябрю 2025 года Малайзия установит правила устойчивого развития дата-центров в стране 27 мин.
Доля европейских облачных провайдеров на местном рынке снизилась до 15 % и остаётся на этом уровне годами 33 мин.
Palit выпустила первые белые видеокарты Blackwell — GeForce RTX 5060, 5060 Ti и RTX 5070 White 2 ч.
ASRock Industrial представила платформу NVIDIA Jetson AGX Orin для периферийных ИИ-устройств 2 ч.
Представлен доступный смартфон Vivo Y400 на старом чипе Snapdragon 685, с 50-Мп камерой и батареей на 6000 мА·ч 2 ч.
Huawei представила ИИ-систему CloudMatrix 384 — конкурента NVIDIA GB200 NVL72 3 ч.
Сверхтонкий складной Samsung Galaxy Z Fold7 пережил тест на изгиб и другие испытания на прочность 4 ч.
Ажиотажный спрос на HBM подтолкнул SK hynix к увеличению капитальных затрат на 30 % 5 ч.
США притормозили новые антикитайские санкции, чтобы упростить переговоры в сфере внешней торговли 5 ч.
Мегаваттный Левиафан: Armada представила контейнерный ИИ ЦОД повышенной мощности 6 ч.