Сегодня 02 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

В популярных материалах для обучения нейросетей нашли изображения сексуального насилия над детьми

Исследователи из Стэнфорда обнаружили, что популярный набор данных LAION-5B, используемый для обучения моделей генеративного искусственного интеллекта, и применявшийся для Stable Diffusion и Google Imagen, включает в себя сотни ссылок на материалы сексуального насилия над детьми (Child Sexual Abuse Material — CSAM). Установлено, что LAION-5B включал по меньшей мере 1679 нелегальных изображений, взятых из постов в социальных сетях и популярных сайтов для взрослых.

 Источник изображения: LAION

Источник изображения: LAION

Исследователи начали изучение набора данных LAION в сентябре 2023 года, стремясь выяснить, используются ли там материалы с сексуальным насилием над детьми. С этой целью хеши или идентификаторы изображений отправлялись на платформы обнаружения CSAM, такие как PhotoDNA, и в Канадский центр защиты детей.

Исследователи из Стэнфорда отметили, что наличие CSAM в наборе данных для обучения ИИ не обязательно негативно повлияет на результаты обученных моделей. Тем не менее, всегда есть вероятность, что модель использует что-то из незаконных материалов при генерации изображений. «Наличие повторяющихся идентичных случаев CSAM также является проблематичным, особенно из-за увеличения вероятности получения изображений конкретных жертв», — говорится в отчёте.

LAION, некоммерческая организация, которая управляет набором данных, сообщила, что придерживается политики «нулевой терпимости» к вредоносному контенту и временно удалит наборы данных из Сети. Согласно сайту LAION, набор данных не является непосредственно репозиторием изображений. Он представляет собой результат индексирования ресурсов интернета и содержит ссылки на изображения и замещающий текст.

Stability AI сообщила, что внутренние правила компании запрещают неправомерное использование её платформ. Компания утверждает, что при обучении своих моделей на наборе данных LAION-5B, она использовала лишь часть материалов, которые отбирались в том числе и с учётом безопасности.

Эксперты полагают, что будет сложно полностью удалить проблемный контент из моделей ИИ, обученных на нём. Они рекомендуют подождать, чтобы модели, обученные на LAION-5B, такие как Stable Diffusion 1.5, «устарели, а распространение прекратилось там, где это возможно». Google выпустила новую версию Imagen, но не раскрыла, на каком наборе данных она обучалась.

Генеральные прокуроры США призвали Конгресс создать комитет для расследования влияния ИИ на эксплуатацию детей и запретить создание CSAM, генерируемого ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Затраты — выше, безопасность — ниже: Google снова посетовала на заградительное лицензирование Microsoft 6 мин.
YouTube тестирует новый интерфейс мобильного приложения — реакция пользователей ожидаемо негативная 2 ч.
Суд США разрешил прокуратуре взломать Telegram, но у неё не получилось 4 ч.
Павел Дуров открыл в Казахстане лабораторию ИИ и пообещал новые проекты 4 ч.
ГК Softline приобрела контрольную долю в BeringPro, чтобы усилить консалтинговое направление 4 ч.
Konami отобрала у покупателей Silent Hill f в Steam бонусы, которые случайно им подарила — фанаты требуют починить оптимизацию 4 ч.
Bethesda анонсировала самое крупное обновление для Fallout 76 с 2020 года — в Burning Springs появится звезда сериала «Фоллаут» 4 ч.
Instagram не подслушивает пользователей через смартфоны, заверил глава соцсети 6 ч.
«К сожалению, олдскульного Painkiller здесь нет»: игроки раскритиковали очередной трейлер кооперативного перезапуска культовой серии шутеров 6 ч.
«Выживательное» приключение The Last Caretaker о спасающем человечество роботе получило дату релиза в раннем доступе 8 ч.
Дата-центр радиотелескопа Square Kilometre Array (SKA) «засадили» сразу в две клетки Фарадея для защиты сверхчувствительных антенн от радиопомех 2 ч.
В Гарварде создали систему для «вечной» работы квантового компьютера 2 ч.
$1,5 млрд за неделю: Nscale получила ещё $443 млн инвестиций, едва закрыв прошлый раунд финансирования на $1,1 млрд 3 ч.
Meta приобрела Rivos, разработчика RISC-V-ускорителей Rivos, совместимых с CUDA 4 ч.
Dell представила сервер PowerEdge XR8720t для инфраструктур Cloud RAN 5 ч.
Китай ограничил использование оборудования Nokia и Ericsson в сетях связи 5 ч.
Anker скупает у пользователей камер Eufy видео краж и угонов — инсценировки тоже подходят 5 ч.
Илон Маск стал первым человеком с состоянием в $500 млрд — столько же стоит OpenAI 6 ч.
Google показала умную колонку Home со свежим дизайном и поддержкой Gemini AI по цене $99 6 ч.
Google столкнулась с рекордным ростом акций за 20 лет благодаря ИИ — плюс 38 % за квартал 6 ч.