ИИ-сервис Character.AI в ближайшее время получит отдельную версию для подростков с интегрированным родительским контролем. Она установит «более консервативные» ограничения на ответы чат-ботов, «особенно когда речь идёт о романтическом контенте». Эти действия стали реакцией компании на пристальное внимание прессы к двум судебным искам, в которых Character.AI обвиняется в «способствовании членовредительству и самоубийству».

Источник изображения: Character.AI

Character.AI, основанный бывшими сотрудниками Google, позволяет посетителям взаимодействовать с ботами, созданными на основе индивидуально обученной большой языковой модели. Они варьируются от чат-ботов-тренеров до симуляций вымышленных персонажей, многие из которых популярны среди подростков. Сайт позволяет пользователям, которые идентифицируют себя как 13-летних и старше, создавать учётную запись.

В поданных против Character.AI исках утверждается, что по крайней мере некоторые несовершеннолетние пользователи становятся навязчиво привязанными к ботам, которые готовы поддерживать беседы на темы секса, членовредительства, причинения вреда себе и другим, и даже самоубийства. В одном из случаев чат-бот намекнул подростку, которому родители запрещают долго сидеть за компьютером, что «разумной мерой» было бы убийство родителей. Другой подросток стал «очень злым и неуравновешенным», после общения с чат-ботом в течение некоторого времени. Истцы полагают, что боты Character.AI в подобных ситуациях должны направлять несовершеннолетних пользователей к ресурсам психологической поддержки.

Теперь версия для подростков получила специальную большую языковую модель и обеспечит более агрессивную блокировку вывода, который может быть «деликатным или наводящим на размышления», а также попытается лучше обнаруживать и блокировать пользовательские запросы ненадлежащего контента. При выявлении проявленного пользователем интереса к самоубийству или членовредительству, он будет перенаправлен на «Национальную линию по предотвращению самоубийств».

Несовершеннолетним также будет запрещено редактировать ответы ботов, что давало возможность добавлять контент, который Character.AI в противном случае мог бы заблокировать. Сейчас компания пытается бороться с появлением зависимости у пользователей. Кроме того, будут предприняты меры, чтобы предотвратить восприятие бота как живого человека. Появится отдельное предупреждение о том, что боты не могут предлагать профессиональные консультации.

Функции родительского контроля появятся в первом квартале следующего года. Они будут сообщать родителям, сколько времени ребёнок проводит в Character.AI и с какими ботами он взаимодействует чаще всего. Все изменения вносятся в сотрудничестве с «несколькими экспертами по безопасности подростков в Интернете», включая организацию ConnectSafely.

«Мы осознаем, что наш подход к безопасности должен развиваться вместе с технологией, которая управляет нашим продуктом, — создавая платформу, где творчество и исследование могут процветать без ущерба для безопасности, — говорится в пресс-релизе Character.AI. — Этот набор изменений является частью нашего долгосрочного обязательства по постоянному совершенствованию нашей политики и нашего продукта».

YouTube объявил о расширении функций родительского контроля, добавив возможность подключения аккаунта родителя к аккаунту подростка. Это позволит получать представление об активности детей на платформе, не просматривая сам контент.

Источник изображения: Nik/Unsplash

«Связывание аккаунтов позволит родителям получать уведомления о количестве загрузок, подписок и комментариев, оставленных подростком», — сообщает компания в своём блоге. Также родители будут получать оповещения по электронной почте о важных событиях, таких как загрузка нового видео, как на YouTube, так и на YouTube Shorts, или начало прямой трансляции. Они также смогут видеть любые изменения в настройках конфиденциальности видео.

Отмечается, что новая функция не повлияет на алгоритм YouTube, который и так персонализирован для каждого пользователя. «Сам факт связывания аккаунтов не будет влиять на рекомендации, которые видит подросток», — уточнили представители YouTube в разговоре с изданием TechCrunch. Немаловажно, что при связывании аккаунтов родители не смогут изменить возраст подростка, указанный при регистрации. YouTube будет полагаться на информацию, которую ввёл подросток при создании своего профиля.

Данная функция является развитием родительского контроля, который YouTube ввёл в 2021 году. Тогда компания запустила тестовые «контролируемые» аккаунты для детей «младше возраста согласия» на использование онлайн-сервисов (в США этот возраст составляет 13 лет, в других странах возраст может быть иным) и обещал расширить эту функцию для старших возрастных групп, что и происходит сейчас.

Разработка инструментов родительского контроля связана с растущим вниманием к безопасности детей в интернете и ужесточением законодательства в этой сфере. В некоторых штатах США, например, в Юте и Арканзасе, уже приняты законы, ограничивающие доступ детей младше 18 лет к социальным сетям без согласия родителей. Другие социальные платформы, такие как TikTok, Snapchat, Instagram✴ и Facebook✴, также внедрили аналогичные функции родительского контроля. Хотя YouTube не всегда воспринимается как социальная сеть, он предлагает схожие функции, такие как профили пользователей, возможность подписываться на авторов, комментировать видео и получать доступ к развлекательному контенту, подобранному алгоритмами.

Китайские власти давно выражают обеспокоенность тем, что молодое поколение граждан уделяет чрезмерно много внимания компьютерным играм, а потому стараются ограничивать подобную активность законодательно. При этом исследования независимых экспертов показывают, что на практике такие меры не приносят желаемого результата.

Источник изображения: Shutterstock

По крайней мере, британские и датские исследователи после изучения статистики разработчика игровых приложений Unity пришли именно к такому выводу. В период с августа 2019 года по январь 2020 года игроки во всём мире провели за играми на этом движке 7,04 млрд часов, из них 2,4 млрд часов пришлись на пользователей из КНР. Поскольку статистика не разделяла пользователей по возрасту, можно оценивать только динамику игровой активности китайских геймеров в целом.

С августа 2019 года по октябрь 2019 года, когда власти КНР ещё не ввели ограничения по продолжительности игровых сеансов для несовершеннолетних граждан страны, к числу заядлых игроков можно было отнести обладателей примерно 0,77 % игровых профилей в системе учёта Unity. Подразумевалось, что эти игроки проводят за любимым занятием не менее 4 часов в день на протяжении шести дней в неделю.

В ноябре 2019 года власти КНР ограничили продолжительность игровых сессий для несовершеннолетних граждан 90 минутами в сутки, но статистика Unity показала, что злоупотреблять геймингом стали уже 0,88 % зарегистрированных в системе пользователей. Когда в 2021 году власти КНР дополнительно ограничили продолжительность игровой активности несовершеннолетних тремя часами в неделю, на статистике Unity по региону это опять особо не сказалось. По сути, принятые властями меры не принесли желаемых плодов.

Законодатели в КНР теперь предлагают ограничить время использования планшетов и смартфонов 40 минутами в день для граждан младше 8 лет, для категории от 8 до 15 лет увеличить этот лимит до одного часа в день, а для граждан в возрасте 16 и 17 лет поднять его до двух часов в день. Разработчикам приложений и устройств предлагается внедрить механизм «родительского контроля», который не позволит малолетним пользователям самостоятельно преодолевать эти лимиты. Впрочем, с разрешения родителей это можно будет сделать. К слову, гражданам КНР до 12 лет вообще предлагается запретить самостоятельно устанавливать приложения без родительского разрешения. Граждане в категории от 12 до 16 лет смогут скачивать и устанавливать приложения, соответствующие своему возрастному рейтингу, либо с позволения родителей, если рейтинг не подходит.

Опыт введения ограничений в КНР повествует о распространении разного рода уловок при попытках пользователей обойти их. Это и использование чужих учётных записей, и создание подложных учётных записей с необходимыми критериями. По всей видимости, новая инициатива в случае её реализации на практике столкнётся с аналогичными злоупотреблениями.

Социальная сеть TikTok добавила в инструмент Family Pairing новую функцию. Инструмент, позволяющий родителям связать свои учётные записи с аккаунтами детей для контроля контента и настроек конфиденциальности, теперь предоставляет возможность настройки того, какие видео и хештеги будут блокироваться в рекомендациях и сопутствующих роликах в приложении по ключевым словам.

Источник изображения: TikTok

Новая функциональность Family Pairing поможет родителям снизить вероятность того, что просматриваемый контент будет неприемлемым. Известно, что над представленной функцией работы велись ещё с марта текущего года. Как сообщают в TikTok, для внедрения новой функции в Family Pairing привлекли экспертов, включая специалистов Института семейной безопасности в интернете (FOSI), которые помогли соблюсти баланс, обеспечивающий как возможность родителей заботиться о безопасности детей, так и отнестись с уважением к праву несовершеннолетних участвовать в онлайн-жизни.

«По умолчанию подростки могут просматривать ключевые слова, которые отвечающий за них взрослый добавил в список», — заявляют в TikTok. Ключевые слова обеспечивают персонализированный слой «поверх» системы TikTok Content Levels, которая уже помогает ограничивать подросткам 13-17 лет доступ к сомнительным материалам.

Также компания анонсировала запуск Молодёжного совета для того, чтобы знакомиться с опытом тех, кто использует платформу — это поможет лучше ориентироваться при внесении изменений, обеспечивающих безопасный опыт просмотра видеоконтента.

В марте TikTok расширила настройки контроля времени, проводимого в социальной сети, представила новые настройки по умолчанию для подростковых аккаунтов и расширила возможности инструмента Family Pairing. В рамках этих изменений приложение ограничивает время, проводимое в социальной сети несовершеннолетними, 60 минутами, после чего подросткам необходимо получить у родителей код для продолжения работы с приложением.

Ранее TikTok обнародовала статистику, согласно которой 75 % подростков предпочитают оставаться в пределах лимита. Кроме того, компания сообщила, что более 850 тыс. семей используют Family Pairing с целью ограничения доступа детей к размещённому на платформе контенту.