Суд в Нидерландах тоже запретил чат-боту Grok генерировать изображения реальных людей без одежды

Казалось бы, усилиями общественности и американской системы правосудия от стартапа xAI Илона Маска (Elon Musk) удалось добиться снижения активности по созданию чат-ботом Grok изображений реальных людей без одежды. Европейские регуляторы при этом проводили собственное расследование, и недавно суд в Нидерландах официально запретил xAI сохранять соответствующие возможности Grok.

Если xAI не подчинится решению суда, как отмечает CNBC, ей грозят $115 000 штрафа за каждый день просрочки в реализации запретительных мер. По решению Окружного суда Амстердама, компания xAI лишается права генерировать и распространять изображения реально существующих людей без их согласия, на которых они обнажены полностью или частично. Подобное решение суда в европейской юрисдикции вынесено впервые с момента появления в чат-боте Grok подобной функции. Под запрет также попадают сгенерированные ИИ материалы с вовлечением несовершеннолетних в интимное взаимодействие. За каждый день нарушения этого запрета Grok будет штрафоваться на 100 000 евро, а максимальный штраф может достичь 10 млн евро.

Истцом по делу выступала некоммерческая организация Offlimits из Нидерландов, которая защищает права несовершеннолетних при злоупотреблениях сексуального характера в онлайне. Суд также обязал xAI выплатить истцу компенсацию судебных издержек в размере 2,2 млн евро в течение 14 дней. Как отмечают представители Offlimits, технология не является лицензией на нарушение прав человека в режиме онлайн, а потому данная победа в суде важна для всей европейской общественности.

По некоторым оценкам, с помощью чат-бота Grok в период с 29 декабря прошлого года по 9 января текущего было сгенерировано более 3 млн изображений людей с сексуальным подтекстом, причём более 23 000 в них фигурировали несовершеннолетние. xAI начала блокировать подобные возможности в чат-боте с января текущего года, но правозащитники утверждают, что данные меры были не до конца эффективными. Компании пришлось столкнуться с множественными судебными исками. Илону Маску данная тенденция первоначально казалась забавной, поскольку он сам опубликовал сгенерированное Grok собственное изображение в стрингах. В США судебные иски к xAI были поданы в Балтиморе и штате Теннесси. Еврокомиссия запустила собственное расследование в этой сфере в январе, к ней присоединились и британские регуляторы. В Малайзии и Индонезии доступ к Grok был блокирован после отсутствия эффективных мер по запрету генерирования подобных изображений со стороны платформы.