Сегодня 14 апреля 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бот Grok «раздевает» по 190 людей в минуту — за 11 дней создано 3 млн дипфейков, в том числе с детьми

Ранее уже сообщалось о том, что ИИ-бот Grok компании xAI буквально забрасывал соцсеть X дипфейками сексуального характера, сгенерированными без согласия пользователей. Теперь же стали известны конкретные цифры, позволяющие оценить масштаб проблемы.

 Источник изображения: Engadget

Источник изображения: Engadget

По данным Engadget, за 11 дней Grok сгенерировал около 3 млн дипфейков сексуального характера, причём около 23 тыс. из них содержали изображения несовершеннолетних. Иначе говоря, в течение 11 дней Grok генерировал примерно 190 фейковых изображений сексуального характера в минуту.

На этой неделе британская некоммерческая организация Центр по борьбе с цифровой ненавистью (CCDH) опубликовала свои выводы по данному вопросу, основанные на случайной выборке из 20 тыс. сгенерированных с помощью Grok изображений в период с 29 декабря по 9 января. Специалисты организации также экстраполировали полученные данные для более масштабной оценки, основанной на 4,6 млн изображений, созданных Grok за указанный период.

В рамках исследования дипфейки сексуального характера определялись как «фотореалистичные изображения человека в сексуальных позах, ракурсах или ситуациях; человека в нижнем белье, купальнике или аналогичной открытой одежде» и др. Исследование CCDH не учитывало текстовые промпты, поэтому в полученных результатах нет разделения относительно количества дипфейков, созданных на основе реальных фото и сгенерированных только по текстовым описаниям. Для определения доли изображений сексуального характера в выборке использовался ИИ-алгоритм.

xAI ограничила возможность редактирования реальных фото с помощью Grok для бесплатных пользователей X в начале 9 января. Однако это не решило проблему, а лишь превратило её в премиум-функцию. Спустя несколько дней, 14 января, X полностью ограничила возможность Grok «раздевать» людей на реальных изображениях. При этом данное ограничение действовало только в самой соцсети и не распространялось на отдельное приложение Grok. По данным источника, приложение всё ещё позволяет создавать дипфейки сексуального характера. Поскольку оно распространяется через магазины Google и Apple, политика которых явно запрещает подобный контент, можно было ожидать удаления приложения с этих платформ, но этого не произошло. При этом другие подобные ИИ-генераторы для «раздевания» людей прежде оперативно удалялись из магазинов Apple и Google.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Московский суд оштрафовал Electronic Arts — издатель Battlefield 6 и EA Sports FC 26 нарушил закон о персональных данных 26 мин.
Sony и ютубер Jacksepticeye превратят Bloodborne во «взрослый» анимационный фильм — первые подробности 30 мин.
Мессенджер Max признал, что применяет ИИ для анализа звонков пользователей — и объяснил как именно 2 ч.
Microsoft создаст защищённую альтернативу ИИ-агенту OpenClaw для бизнеса 2 ч.
Google начнёт понижать в поисковой выдаче сайты за перехват кнопки «Назад» 3 ч.
Франция готовит переход на европейские цифровые продукты в попытке снизить зависимость от американских решений 8 ч.
Календарь релизов 13–19 апреля: Pragmata, Replaced, Mouse: P.I. For Hire и Atomic Heart DLC#4 11 ч.
В Steam вышли семь классических игр Warhammer, а ещё 13 хитов прошлого вернулись в продажу 12 ч.
Злоумышленники похитили данные о бронированиях клиентов Booking.com — пострадавших уже известили 13 ч.
Индонезийский регулятор «слил» больше часа геймплея 007 First Light от создателей Hitman, включая концовку 14 ч.