Сегодня 14 ноября 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

В популярных материалах для обучения нейросетей нашли изображения сексуального насилия над детьми

Исследователи из Стэнфорда обнаружили, что популярный набор данных LAION-5B, используемый для обучения моделей генеративного искусственного интеллекта, и применявшийся для Stable Diffusion и Google Imagen, включает в себя сотни ссылок на материалы сексуального насилия над детьми (Child Sexual Abuse Material — CSAM). Установлено, что LAION-5B включал по меньшей мере 1679 нелегальных изображений, взятых из постов в социальных сетях и популярных сайтов для взрослых.

 Источник изображения: LAION

Источник изображения: LAION

Исследователи начали изучение набора данных LAION в сентябре 2023 года, стремясь выяснить, используются ли там материалы с сексуальным насилием над детьми. С этой целью хеши или идентификаторы изображений отправлялись на платформы обнаружения CSAM, такие как PhotoDNA, и в Канадский центр защиты детей.

Исследователи из Стэнфорда отметили, что наличие CSAM в наборе данных для обучения ИИ не обязательно негативно повлияет на результаты обученных моделей. Тем не менее, всегда есть вероятность, что модель использует что-то из незаконных материалов при генерации изображений. «Наличие повторяющихся идентичных случаев CSAM также является проблематичным, особенно из-за увеличения вероятности получения изображений конкретных жертв», — говорится в отчёте.

LAION, некоммерческая организация, которая управляет набором данных, сообщила, что придерживается политики «нулевой терпимости» к вредоносному контенту и временно удалит наборы данных из Сети. Согласно сайту LAION, набор данных не является непосредственно репозиторием изображений. Он представляет собой результат индексирования ресурсов интернета и содержит ссылки на изображения и замещающий текст.

Stability AI сообщила, что внутренние правила компании запрещают неправомерное использование её платформ. Компания утверждает, что при обучении своих моделей на наборе данных LAION-5B, она использовала лишь часть материалов, которые отбирались в том числе и с учётом безопасности.

Эксперты полагают, что будет сложно полностью удалить проблемный контент из моделей ИИ, обученных на нём. Они рекомендуют подождать, чтобы модели, обученные на LAION-5B, такие как Stable Diffusion 1.5, «устарели, а распространение прекратилось там, где это возможно». Google выпустила новую версию Imagen, но не раскрыла, на каком наборе данных она обучалась.

Генеральные прокуроры США призвали Конгресс создать комитет для расследования влияния ИИ на эксплуатацию детей и запретить создание CSAM, генерируемого ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Capcom раскрыла дату выхода ремейка Resident Evil 2 на iPhone 16 и iPhone 15 Pro 2 ч.
OpenAI призывает создать ИИ-альянс, который объединит США и союзников, включая страны Ближнего Востока 3 ч.
Google в рамках эксперимента удалит новости издателей ЕС из поисковых результатов 4 ч.
YouTube тестирует новый формат просмотра длинных видео как на Shorts 6 ч.
YouTube на Quest запускает функцию совместного просмотра — до 7 друзей в одном VR-кинозале 7 ч.
FTC потребовала от Meta продать Instagram и WhatsApp 11 ч.
Поработайте за нас: AWS предоставит учёным кластеры из 40 тыс. ИИ-ускорителей Trainium 13 ч.
Комедийный детектив Loco Motive в духе квестов 90-х выйдет на два года позже обещанного — дата релиза и новый трейлер 14 ч.
Warhammer 40,000, Armored Core и даже Concord: анимационный сериал Secret Level от авторов «Любовь, смерть и роботы» получил насыщенный трейлер 15 ч.
«RuStore на гаджетах Apple быть!» — Госдума приняла в I чтении законопроект об обязательной установке RuStore 16 ч.
На TSMC подали в суд за дискриминацию: на фабрику чипов в США тайванцу устроиться проще, чем американцу 45 мин.
XPeng показала сухопутный авианосец Land Aircraft Carrier — его пассажирский дрон выполнил первый полёт на публике 59 мин.
ЦОД Iron Mountain запитают от подводных «воздушных змеев» SeaQurrent 2 ч.
SoftBank построит в Японии первый в мире ИИ-суперкомпьютер на базе NVIDIA DGX B200 3 ч.
Xiaomi выпустила свой 100-тысячный электромобиль всего лишь через 230 дней с момента запуска производства 5 ч.
Представлен электроскутер на солнечных панелях Lightfoot — плюс 5 км пути за час на солнце 7 ч.
Новая статья: Обзор смартфона Infinix ZERO 40 4G: фотографируй как старший брат 10 ч.
Изменение климата не победить: выбросы растут, а Китай впереди всех по зелёной энергетике 11 ч.
Новая статья: Обзор игрового UWQHD-монитора MSI MPG 341CQPX QD-OLED: ожидаемое обновление 12 ч.
Биткоин снова обновил максимум: сколько это будет продолжаться и причём тут Трамп 12 ч.