Япония присоединилась к растущему списку стран, открывших расследование по поводу соответствия законодательству функционирования ИИ-чат-бота Grok, с помощью которого создаются и распространяются изображения сексуального характера без согласия пользователей.
Источник изображения: Mariia Shalabaieva/unsplash.com
Министр экономической безопасности Японии Кими Онода (Kimi Onoda) сообщила в пятницу, что кабмин обратился к X Corp с просьбой улучшить меры защиты с целью предотвращения подобных сценариев использования чат-бота и ограничить распространение Grok изображений сексуального характера. По ее словам, правительство также направило письменные запросы о мерах, принимаемых X для предотвращения создания дипфейков и других изображений, нарушающих право на неприкосновенность частной жизни, интеллектуальную собственность и право контролировать использование своего образа.
«Мы планируем незамедлительно рассмотреть все возможные варианты, включая юридические меры, если ситуация не улучшится», — заявила Онода, которая также является министром Японии по стратегии в области ИИ.
В настоящее время в Канаде, Калифорнии (США), ЕС и отдельных государствах — членах блока, таких как Франция, проходит расследование по поводу возможных нарушений прав человека сервисом Grok при создании изображений по запросу пользователей, в то время как Малайзия, Индонезия и Филиппины ограничили доступ к сервису внутри страны.
Ранее на этой неделе компания xAI, разработавшая Grok, заявила, что отключает возможность использования чат-бота для создания сексуализированных изображений реальных людей. Платформа X тоже сообщила о внесении изменений в возможности аккаунта Grok AI редактировать изображения реальных людей.
Онода заявила, что Япония может потребовать от создателя чат-бота принятия дальнейших мер, при этом добавив, что вины ИИ в этом нет, поскольку непристойные изображения создаются по запросам людей, и что правительству необходимо изучить различные способы решения реальных проблем. «Если, например, лежит нож, вы будете использовать его для приготовления пищи или для того, чтобы причинить кому-то боль?» — вопросила она.
В Японии пытаются найти баланс между необходимостью контроля над ИИ и стремлением догнать США и Китай в области, которую она считает важнейшей для национальной стратегии. Закон Японии об ИИ, вступивший в полную силу в сентябре прошлого года, не предусматривает никаких санкций, ограничивая вмешательство правительства в эту сферу проведением расследований и выпуском официальных инструкций в случае нарушений.