Сегодня 02 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

В популярных материалах для обучения нейросетей нашли изображения сексуального насилия над детьми

Исследователи из Стэнфорда обнаружили, что популярный набор данных LAION-5B, используемый для обучения моделей генеративного искусственного интеллекта, и применявшийся для Stable Diffusion и Google Imagen, включает в себя сотни ссылок на материалы сексуального насилия над детьми (Child Sexual Abuse Material — CSAM). Установлено, что LAION-5B включал по меньшей мере 1679 нелегальных изображений, взятых из постов в социальных сетях и популярных сайтов для взрослых.

 Источник изображения: LAION

Источник изображения: LAION

Исследователи начали изучение набора данных LAION в сентябре 2023 года, стремясь выяснить, используются ли там материалы с сексуальным насилием над детьми. С этой целью хеши или идентификаторы изображений отправлялись на платформы обнаружения CSAM, такие как PhotoDNA, и в Канадский центр защиты детей.

Исследователи из Стэнфорда отметили, что наличие CSAM в наборе данных для обучения ИИ не обязательно негативно повлияет на результаты обученных моделей. Тем не менее, всегда есть вероятность, что модель использует что-то из незаконных материалов при генерации изображений. «Наличие повторяющихся идентичных случаев CSAM также является проблематичным, особенно из-за увеличения вероятности получения изображений конкретных жертв», — говорится в отчёте.

LAION, некоммерческая организация, которая управляет набором данных, сообщила, что придерживается политики «нулевой терпимости» к вредоносному контенту и временно удалит наборы данных из Сети. Согласно сайту LAION, набор данных не является непосредственно репозиторием изображений. Он представляет собой результат индексирования ресурсов интернета и содержит ссылки на изображения и замещающий текст.

Stability AI сообщила, что внутренние правила компании запрещают неправомерное использование её платформ. Компания утверждает, что при обучении своих моделей на наборе данных LAION-5B, она использовала лишь часть материалов, которые отбирались в том числе и с учётом безопасности.

Эксперты полагают, что будет сложно полностью удалить проблемный контент из моделей ИИ, обученных на нём. Они рекомендуют подождать, чтобы модели, обученные на LAION-5B, такие как Stable Diffusion 1.5, «устарели, а распространение прекратилось там, где это возможно». Google выпустила новую версию Imagen, но не раскрыла, на каком наборе данных она обучалась.

Генеральные прокуроры США призвали Конгресс создать комитет для расследования влияния ИИ на эксплуатацию детей и запретить создание CSAM, генерируемого ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«До мурашек»: официальный трейлер Summer Game Fest 2025 взбудоражил фанатов перед главным игровым событием лета 13 мин.
«Базис» и Татарстан создадут импортонезависимую облачную инфраструктуру для госсервисов и бизнеса республики 55 мин.
Надёжный инсайдер: Ubisoft дала зелёный свет The Crew 4 2 ч.
«Базис» и СберТех обеспечат бизнесу удобную и устойчивую инфраструктуру 2 ч.
Java отметила 30-летие — это по-прежнему один из популярнейших языков программирования 3 ч.
«Если будем распыляться, у нас ничего не выйдет»: CD Projekt останется верна большим RPG вроде The Witcher 4 и Cyberpunk 2, несмотря на соблазны 3 ч.
Выручка ИИ-стартапа Anthropic достигла $3 млрд в годовом выражении, но до OpenAI ещё далеко 4 ч.
Разработчик Bulletstorm и Gears of War: E-Day остановил производство двух секретных игр — в People Can Fly пройдут новые увольнения 5 ч.
Грядущая конференция Apple WWDC для разработчиков будет скудна на новости в сфере ИИ 9 ч.
Valorant получит долгожданный просмотр сыгранных матчей и переедет на Unreal Engine 5 до конца 2025 года 14 ч.
Fplus показала прототип российской игровой консоли с отечественными ОС и импортозамещёнными кнопками 20 мин.
«РТК-ЦОД» запустил в Нижнем Новгороде 5-МВт дата-центр на 401 стойку 28 мин.
Минцифры урезало госфинансирование отечественных базовых станций: из 46 млрд рублей осталось только 20 млрд 2 ч.
Вышла плата Banana Pi BPI-R4 Pro для маршрутизаторов с Wi-Fi 7, 2.5/10GbE-портами и пятью слотами M.2 2 ч.
Принадлежащая Alibaba турецкая Trendyol Group построит ЦОД на 48 МВт в Анкаре 2 ч.
С каждым нанометром — дороже: себестоимость 2-нм пластин вырастет на 50 % по сравнению с 3-нм 2 ч.
Blue Origin свозила на границу космоса ещё шесть туристов на ракете New Shepard 4 ч.
EnCharge AI представила аналоговые ИИ-ускорители EN100 5 ч.
Nintendo решила дать японским продавцам заработать на Switch 2 больше обычного 6 ч.
Новая статья: Сравнительный тест камер флагманских смартфонов (2025): Apple iPhone 16 Pro Max, HONOR Magic 7 Pro, HUAWEI Mate 70 Pro, Samsung Galaxy S25 Ultra, vivo X200 Pro, Xiaomi 15 Ultra 12 ч.