После скандала с Grok в Apple App Store и Google Play нашли десятки ИИ-приложений для раздевания людей

По данным организации Tech Transparency Project (TTP), в магазинах приложений размещены десятки программ, которые могут при помощи ИИ создавать изображения обнажённых людей по их фотографиям. Январская проверка TTP выявила 55 таких приложений в Google Play и 47 — в Apple App Store. В TTP подчеркнули, что некоторые приложения маскируются под инструменты для «смены одежды», но в реальности создают «оскорбительные, сексуализированные изображения».

TTP начала своё расследование после появления сообщений о том, что ИИ-бот Grok компании xAI буквально забрасывал соцсеть X дипфейками сексуального характера, сгенерированными без согласия пользователей. В рамках исследования TTP были протестированы два типа приложений — те, которые использовали ИИ для создания изображений женщин без одежды, а также приложения для «замены лиц». «Совершенно очевидно, что это не просто приложения для смены одежды, — уверена директор TTP Кэти Пол (Katie Paul). — Они определённо были разработаны для сексуализации людей без их согласия».

Официальная политика разработчиков Google Play не допускает «приложения, которые якобы раздевают людей или показывают сквозь одежду, даже если они помечены как приложения для розыгрышей или развлечений». Руководство Apple по проверке приложений также запрещает материалы, которые являются «откровенно сексуальными или порнографическими».

«Обе компании заявляют о своей приверженности безопасности пользователей, но они размещают множество приложений, которые могут превратить безобидную фотографию женщины в оскорбительное, сексуализированное изображение», — говорится в отчёте TTP о магазинах приложений Apple и Google.

Согласно отчёту аналитической компании AppMagic, приложения, выявленные TTP, в совокупности имеют более 700 миллионов загрузок по всему миру и принесли $117 млн дохода. И Apple, и Google получают часть дохода, полученного от приложений, распространяемых через их магазины.

По данным TTP, из рассмотренных приложений 14 были разработаны в Китае. Пол отметила, что это создаёт дополнительную проблему безопасности. «Законы Китая о хранении данных означают, что китайское правительство имеет право на данные любой компании в любой точке Китая, — пояснила Пол. — Поэтому, если кто-то создаёт дипфейк обнажённых тел с вашим участием, эти данные теперь находятся в руках китайского правительства».

Представитель Apple заявил, что компания удалила 28 приложений, указанных в отчёте. Компания также предупредила разработчиков других подобных программ о риске их исключения из Apple App Store, если нарушения правил не будут устранены. Два из удалённых Apple приложений были восстановлены в магазине после того, как разработчики представили новые версии, в которых были исправлены нарушения.

Представитель Google сообщил, что компания приостановила работу нескольких приложений, упомянутых в отчёте TTP, за нарушение правил магазина. Компания отказалась назвать конкретное количество удалённых программ, поскольку расследование ещё не завершено.

В августе 2025 года Национальная ассоциация генеральных прокуроров направила письма платёжным платформам, включая Apple Pay и Google Pay, выразив обеспокоенность по поводу сервисов, создающих интимные изображения без согласия пользователя, и потребовав удалить такие сервисы из своих сетей.

В сентябре 2025 года издание CNBC провело собственное расследование в отношении приложений и веб-сайтов, предназначенных для создания обнажённых изображений. Новые модели ИИ сделали создание дипфейков с обнажёнными телами и откровенным контентом проще, чем когда-либо, а сами сервисы интегрированы в удобные для пользователя приложения. В ходе расследования было выявлено как минимум 80 женщин, чьи общедоступные фотографии в социальных сетях были использованы для создания порнографических дипфейков.