Сегодня 15 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → сексуальный контент

OpenAI отложила запуск эротических чатов в ChatGPT из-за опасений по поводу их безопасности

Многие отрасли в своё время получили развитие, в том числе, и благодаря природному интересу человека к материалам эротического содержания, а потому сфера искусственного интеллекта не является исключением. Компании борются с соблазном использовать эротику для продвижения своих платформ, пытаясь при этом остаться в каких-то законодательных и этических рамках. OpenAI пока не готова запустить эротические чаты.

 Источник изображения: Unsplash, Alexander Krivitskiy

Источник изображения: Unsplash, Alexander Krivitskiy

О возможности появления такого направления в работе ChatGPT ещё в середине прошлого года заявил генеральный директор OpenAI Сэм Альтман (Sam Altman). Сперва он вынашивал идею запуска функции эротических чатов к декабрю прошлого года, потом сроки перенесли на текущий квартал, но теперь становится понятно, что и этот график не будет выдержан. Как минимум, задержка с дебютом функции эротических чатов будет измеряться одним месяцем, сообщает The Wall Street Journal.

Эксперименты в использовании ИИ для создания текстового контента эротического содержания OpenAI предпринимала задолго до запуска ChatGPT. Ещё в 2021 году клиентам OpenAI предлагалась игра AI Dungeon с нелинейным сюжетом, направление развития которого могли задавать пользователи. Тогда специалисты OpenAI установили, что ИИ-платформа порой предлагает игрокам обсудить темы сексуальных взаимоотношений, даже если они никак не провоцировали подобный поворот сюжета. Если же пользователь сам предлагал умеренную степень эротизма, ИИ буквально «перегибал палку» в проявлениях откровенности соответствующих бесед. OpenAI уже тогда задумалась о привлекательности подобного применения чат-ботов, но при этом осознала и необходимость введения этических ограничений.

Руководство OpenAI в последнее время всё более благосклонно высказывалось в отношении идеи запуска эротических чатов, подчёркивая, что всё ограничится только текстовой информацией, без создания изображений и видео откровенного содержания. Конкуренты тоже не стоят на месте. В прошлый четверг Илон Маск (Elon Musk) заявил, что его чат-бот Grok в части генерирования видео скоро сможет создавать контент, относящийся к категории «18+». Meta✴✴ позволяет пользователям своего чат-бота вести романтические ролевые игры, но только при наличии уверенности в их совершеннолетии.

У самой OpenAI с механизмами подтверждения возраста пока имеются проблемы. Сейчас профильная система в 12 % случаев ошибочно принимает подростков за совершеннолетних. С учётом наличия примерно 100-миллионной аудитории несовершеннолетних пользователей ChatGPT, такой уровень погрешности позволил бы миллионам подростков на регулярной основе получать доступ к эротическим чатам. Созванная OpenAI в январе экспертная комиссия также выразила озабоченность угрозой появления запретного с точки зрения общественной морали и законодательства контента, который подразумевает насильственные действия сексуального характера, упоминание несовершеннолетних и другие специфические сценарии. Кроме того, увлечение подобным контентом может вызывать у людей психологическую зависимость и снижать их мотивацию поддерживать взаимоотношения с реальными партнёрами в офлайне. OpenAI хочет принудительно напоминать таким увлекающимся натурам, что им следует строить отношения с реальными людьми.

Это особенно важно с учётом наличия не совсем приятных инцидентов, возникших по мере распространения чат-ботов. Существуют примеры доведения людей до самоубийства в результате длительного общения с вымышленными персонажами в чат-боте, включая и подростковые суициды. Эксперты опасаются, что эротический уклон подобных бесед только спровоцирует рост количества таких случаев. В части механизмов проверки возраста пользователей у представителей OpenAI особых иллюзий нет — они, по их словам, никогда не смогут быть идеальными и в 100 % случаев рабочими. С 2021 года часть сотрудников OpenAI выражает сопротивление идее запуска эротических чатов на платформе из опасения окончательного сползания в эту сферу: «Мы не хотели быть просто компанией, распространяющей эротику».

На данный момент руководство OpenAI считает целесообразным запуск эротических чатов, руководствуясь следующими принципами: «Мы всё ещё верим, что со взрослыми надо обращаться как со взрослыми, но формирование правильного опыта потребует большего времени».

Великобритания запустила расследование по поводу «отвратительных» порнографических дипфейков от Grok в соцсети X

Сегодня британское Управление связи (Office of Communications, Ofcom) начало расследование с целью определить, нарушают ли созданные в соцсети X с помощью чат-бота Grok AI дипфейки сексуального характера законы Великобритании. На прошлой неделе премьер-министр страны Кир Стармер (Keir Starmer) назвал изображения, созданные Grok, «отвратительными» и «незаконными».

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

«Поступили сообщения о том, что аккаунт чат-бота Grok AI на платформе X используется для создания и распространения изображений людей без одежды — что может быть расценено как злоупотребление интимными изображениями или порнография — и изображений детей сексуального характера, которые могут быть расценены как материалы, содержащие сцены сексуального насилия над детьми», — говорится в заявлении Ofcom.

На вопрос о возможности запрета X в Великобритании, министр по делам бизнеса Питер Кайл (Peter Kyle) ответил: «Да, конечно», уточнив, что такие действия входят в компетенцию Ofcom. Другие британские официальные лица приветствуют официальное расследование Ofcom и ожидают его быстрого завершения.

Создание или распространение интимных изображений или материалов, содержащих сексуальное насилие над детьми, без согласия пользователя, включая изображения сексуального характера, созданные с помощью ИИ, является незаконным в Великобритании. Кроме того, технологические платформы должны предотвращать доступ британских пользователей к незаконному контенту и удалять его, как только им станет известно о нем.

В официальном заявлении Ofcom сказано, что в наиболее серьёзных случаях несоблюдения законов Великобритании Управление связи может обратиться в суд с требованием обязать «платёжных провайдеров или рекламодателей отозвать свои услуги с платформы» или обязать интернет-провайдеров заблокировать доступ к сервису.

Представитель соцсети X ранее заявил, что платформа принимает меры против незаконного контента, включая материалы, содержащие сцены сексуального насилия над детьми, путём его удаления, постоянной блокировки аккаунтов и сотрудничества с местными органами власти и правоохранительными органами по мере необходимости.

«Любой, кто использует Grok или побуждает его к созданию незаконного контента, столкнётся с теми же последствиями, что и при загрузке незаконного контента», — говорится в заявлении компании. Кроме того, X заявила, что запросы на изображения с раздеванием людей доступны только для платных пользователей.

Соцсеть X подверглась осуждению и в других странах из-за возможности создания сексуального контента. Французские чиновники обратились в прокуратуру и регулирующие органы, назвав контент «явно незаконным», а индийские власти потребовали официальных объяснений от руководства компании.

Pornhub потерял 80 % трафика и потребовал изменить подход к проверке возраста в интернете

Aylo, материнская компания Pornhub, Brazzers, Redtube и YouPorn, настоятельно рекомендует Apple, Google и Microsoft использовать альтернативный способ для ограничения доступа несовершеннолетних к просмотру взрослого контента на основе проверки на устройствах пользователей. Aylo утверждает, что законы США и Великобритании о проверке возраста привели к резкому падению трафика у легальных поставщиков контента для взрослых, что на руку пиратам и киберпреступникам.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

Aylo настоятельно рекомендовала технологическим гигантам внедрить проверку возраста на основе устройств в своих магазинах приложений и во всех операционных системах. «Мы решительно поддерживаем инициативу по защите несовершеннолетних в интернете, — говорится в письме главного юридического директора компании Энтони Пенхейла (Anthony Penhale). — Однако мы обнаружили, что подходы к проверке возраста на основе сайтов в корне ошибочны и контрпродуктивны».

Пенхейл утверждает, что методы проверки возраста на основе сайтов «не достигли своей главной цели: защитить несовершеннолетних от доступа к материалам, не соответствующим их возрасту». По его словам, аутентификация на основе устройств — лучшее решение этой проблемы, поскольку после определения возраста зрителя с помощью телефона или планшета информация о его возрасте может быть передана через API сайтам для взрослых.

 Источник изображения: pornhub.com

Источник изображения: pornhub.com

В США и Великобритании последовательно принимаются законы о проверке возраста, которые требуют от пользователей перед просмотром сексуально откровенного контента подтвердить свой возраст при помощи удостоверения личности или других документов. В настоящее время 25 штатов США ввели ту или иную форму проверки личности, в каждом из которых действуют свои правила.

Выполняя требования этих законов Pornhub столкнулся с резким (на 80 %) падением трафика. По утверждению компании, пользователи из-за угрозы их конфиденциальности начинают искать контент для взрослых на платформах, не соблюдающих законы. Вице-президент по бренду и сообществу Pornhub Алекс Кекеси (Alex Kekesi) утверждает, что компания «наблюдает экспоненциальный рост числа поисков альтернативных сайтов для взрослых без возрастных ограничений и каких-либо стандартов безопасности».

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

Представитель Google Карл Райан (Karl Ryan) прокомментировал обращение Pornhub следующим образом: «Google стремится защищать детей в интернете, в том числе разрабатывая и внедряя новые инструменты контроля возраста, такие как наш API Credential Manager […]. Мы не допускаем приложения для взрослых развлечений в Google Play и хотели бы подчеркнуть, что некоторым высокорискованным сервисам, таким как Aylo, всегда необходимо инвестировать в специальные инструменты для выполнения своих юридических и административных обязательств».

Microsoft от комментариев отказалась, сославшись на свою недавнюю публикацию с рекомендациями по политике, в которой говорится, что «контроль возраста должен применяться на уровне сервиса, учитывать конкретные функции дизайна, представляющие повышенный риск, и обеспечивать индивидуальный подход для детей».

Apple также не стала комментировать обращение Pornhub. По правилам Apple, дети младше 13 лет должны иметь детскую учётную запись, «которая изначально включает в себя такие средства защиты, как фильтры веб-контента и ограничения приложений», а подростки в возрасте от 13 до 17 лет обязаны использовать аналогичные меры защиты, соответствующие возрасту.

Недавние исследования Нью-Йоркского университета и некоммерческой организации государственной политики Phoenix Center показывают, что существующие законы о проверке возраста не работают, поскольку люди находят способы их обойти, в том числе используя VPN и обращаясь к сайтам, которые не регулируют свой контент.

«Проверка на платформах похожа на сухой закон, — утверждает директор по государственной политике «Коалиции за свободу слова» Майк Стабайл (Mike Stabile). — Мы наблюдаем, как поведение потребителей перенаправляется с легальных, соответствующих требованиям сайтов на иностранные сайты, которые не соблюдают никаких правил или законов». Он утверждает, что эти законы «удобны для преступников и ужасны для индустрии легального контента для взрослых».

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

С введением проверки возраста и общей деанонимизацией интернета эти проблемы становятся актуальными практически для всех. Нынешний всплеск законов о защите детей по всему миру приводит к значительным изменениям в том, как люди взаимодействуют с интернетом, и также влияет на индустрии, не связанные с порнографией, включая игры и социальные сети. Например, с 10 декабря в Австралии, в соответствии с правительственным запретом на социальные сети, дети младше 16 лет будут удалены из Facebook✴✴, Instagram✴✴ и Threads.

По словам Стабайла, в США «сторонники этих законопроектов в основном разделились на две группы: религиозные организации, которые не считают, что контент для взрослых должен быть легальным, и поставщики услуг по проверке возраста, которые хотят получить прибыль от ограничений в интернете». По его мнению, цель религиозных организаций — дестабилизировать индустрию для взрослых и отговорить взрослых от её использования, в то время как последние стремятся максимально расширить свой рынок, «даже если это означает сговор с правыми цензорами».

Он считает, что проблема в том, что законодатели с благими намерениями часто плохо разбираются в интернете: «Гораздо проще нападать на политическую грушу вроде Pornhub, чем на Apple или Google. Но если вы не учитываете реалии интернета, если ваше законодательство противоречит поведению потребителей, вы в конечном итоге создадите только неэффективные системы».


window-new
Soft
Hard
Тренды 🔥
«Даже не верится, что мы почти дождались»: третий трейлер Grand Theft Auto VI напомнил игрокам, что до релиза осталось недолго 37 мин.
Представлен Microsoft Defender для настольного Linux 42 мин.
YouTube начнёт помечать музыку, созданную с помощью ИИ 3 ч.
Jefferies: китайский ИИ грозит устроить «перезагрузку» отрасли с триллионными оборотами 3 ч.
Fortnite выйдет на Linux, когда Epic Games переработает Easy Anti-Cheat 3 ч.
«Bayonetta на автомобилях»: анонс аркадной гонки JDM: Ph4ntom Driver о сражениях с демонами из японского фольклора воодушевил игроков 4 ч.
Выключать и перезагружать ПК на Windows теперь можно со смартфона — но iPhone не подойдёт 4 ч.
Gemini будет пересылать SMS со смартфонов в облако для выявления мошенников — усиленную защиту можно отключить 4 ч.
Microsoft задумалась сделать Fallout, The Elder Scrolls, Doom, Diablo и Minecraft эксклюзивами Xbox и ищет одобрения пользователей 4 ч.
«Яндекс» восстановил значительную часть функций «Алисы AI», умных устройств и облачных сервисов 5 ч.
Microsoft научила ИИ предсказывать погоду на шесть недель вперёд — и для этого хватит обычного CPU 18 мин.
AMD поможет Fermi построить колоссальный ИИ-кампус Project Matador в Техасе 47 мин.
Лучше меньше да лучше: Intel верит, что развитие агентного ИИ вернёт CPU значимость в инфраструктуре ЦОД 2 ч.
На израильской фабрике Intel произошёл взрыв: двое погибших, а влияние на выпуск чипов пока неизвестно 3 ч.
Цена суверенитета: американские техногиганты предупредили Европу, что отказ от их услуг обойдётся в €115 млрд 3 ч.
Построить две новые фабрики по выпуску чипов в штате Нью-Йорк компании GlobalFoundries помогут деньги Японии 3 ч.
Gartner: 80 % неооблаков могут испариться к 2030 году, не окупив затраты на ИИ-инфраструктуру 3 ч.
До 160 ускорителей PCIe: Astera Labs представила ИИ-стойки Orion 4 ч.
Модули безопасности Axiado войдут в состав серверной платформы Arm AGI 4 ч.
TSMC готова помочь Маску с Terafab — но договориться о главном пока не удалось 5 ч.