На xAI подали в суд за сгенерированные ИИ непристойные изображения несовершеннолетних

Трое подростков из американского Теннесси подали в суд на компанию Илона Маска (Elon Musk) xAI, обвинив её в том, что чат-бот Grok генерировал изображения деликатного характера с их участием, когда они были в несовершеннолетнем возрасте. Маска и других руководителей компании обвинили в том, что они знали о возможности создания изображений подобного рода ещё в прошлом году, когда в Grok появился режим Spicy.

Двое истцов являются несовершеннолетними сейчас, а третий был таковым на момент описанных в иске событий. Одна из жертв, чьё настоящее имя не разглашается, заявила, что в декабре минувшего года узнала о наличии созданных ИИ изображений с её участием и с участием ещё как минимум 18 других несовершеннолетних — данные материалы были опубликованы в Discord. «На по меньшей мере пяти файлах, одном видео и четырёх [статических] картинках изображены её реальные лицо и тело в знакомой ей обстановке, но были преобразованы в позы деликатного характера», — говорится в иске.

По подозрению в совершении этих действий было арестовано некое лицо — оно, предположительно, использовало созданные ИИ изображения пострадавшей «в качестве средства обмена в групповых чатах Telegram с сотнями других пользователей — файлы с её изображениями интимного характера обменивались на материалы деликатного характера с участием других несовершеннолетних». Преступник создавал изображения потерпевшей и двух других истцов с помощью Grok, говорится в заявлении. Компания xAI «не проверила разработанные ею функции на предмет безопасности», говорится в иске, а у Grok «есть недостатки в архитектуре».

В январе этого года разразился скандал с чат-ботом Grok, когда выяснилось, что он генерирует изображения интимного характера с участием реальных людей. Впоследствии компания заявила, что проблема решена, но ИИ продолжил создавать подобные изображения. Тогда администрация соцсети X, в которой также работает чат-бот, заявила, что «любой использующий Grok или побуждающий его к созданию незаконных материалов понесёт те же последствия, что и при загрузке незаконного контента». Истцы требуют присудить им компенсацию как пострадавшим от «незаконных изображений» Grok, а также вынести xAI запрет на создание и распространение созданных с помощью ИИ материалов деликатного характера с участием несовершеннолетних.