ИИ-сервис Character.AI в ближайшее время получит отдельную версию для подростков с интегрированным родительским контролем. Она установит «более консервативные» ограничения на ответы чат-ботов, «особенно когда речь идёт о романтическом контенте». Эти действия стали реакцией компании на пристальное внимание прессы к двум судебным искам, в которых Character.AI обвиняется в «способствовании членовредительству и самоубийству».

HUAWEI Pura 80 Ultra глазами фотографа

Обзор рейтингового режима Warface: просто освоиться, сложно оторваться

Обзор смартфона HUAWEI Pura 80 Ultra: зум, которому нет равных

Обзор ноутбука Acer Swift Go 14 (SFG14-63-R7T4) с процессором Ryzen 9 8945HS и OLED-экраном

Обзор смартфона HONOR 400: реаниматор

Пять причин полюбить HONOR 400

Источник изображения: Character.AI

Character.AI, основанный бывшими сотрудниками Google, позволяет посетителям взаимодействовать с ботами, созданными на основе индивидуально обученной большой языковой модели. Они варьируются от чат-ботов-тренеров до симуляций вымышленных персонажей, многие из которых популярны среди подростков. Сайт позволяет пользователям, которые идентифицируют себя как 13-летних и старше, создавать учётную запись.

В поданных против Character.AI исках утверждается, что по крайней мере некоторые несовершеннолетние пользователи становятся навязчиво привязанными к ботам, которые готовы поддерживать беседы на темы секса, членовредительства, причинения вреда себе и другим, и даже самоубийства. В одном из случаев чат-бот намекнул подростку, которому родители запрещают долго сидеть за компьютером, что «разумной мерой» было бы убийство родителей. Другой подросток стал «очень злым и неуравновешенным», после общения с чат-ботом в течение некоторого времени. Истцы полагают, что боты Character.AI в подобных ситуациях должны направлять несовершеннолетних пользователей к ресурсам психологической поддержки.

Теперь версия для подростков получила специальную большую языковую модель и обеспечит более агрессивную блокировку вывода, который может быть «деликатным или наводящим на размышления», а также попытается лучше обнаруживать и блокировать пользовательские запросы ненадлежащего контента. При выявлении проявленного пользователем интереса к самоубийству или членовредительству, он будет перенаправлен на «Национальную линию по предотвращению самоубийств».

Несовершеннолетним также будет запрещено редактировать ответы ботов, что давало возможность добавлять контент, который Character.AI в противном случае мог бы заблокировать. Сейчас компания пытается бороться с появлением зависимости у пользователей. Кроме того, будут предприняты меры, чтобы предотвратить восприятие бота как живого человека. Появится отдельное предупреждение о том, что боты не могут предлагать профессиональные консультации.

Функции родительского контроля появятся в первом квартале следующего года. Они будут сообщать родителям, сколько времени ребёнок проводит в Character.AI и с какими ботами он взаимодействует чаще всего. Все изменения вносятся в сотрудничестве с «несколькими экспертами по безопасности подростков в Интернете», включая организацию ConnectSafely.

«Мы осознаем, что наш подход к безопасности должен развиваться вместе с технологией, которая управляет нашим продуктом, — создавая платформу, где творчество и исследование могут процветать без ущерба для безопасности, — говорится в пресс-релизе Character.AI. — Этот набор изменений является частью нашего долгосрочного обязательства по постоянному совершенствованию нашей политики и нашего продукта».

YouTube объявил о расширении функций родительского контроля, добавив возможность подключения аккаунта родителя к аккаунту подростка. Это позволит получать представление об активности детей на платформе, не просматривая сам контент.

Пять причин полюбить HONOR 400

Обзор ноутбука Acer Swift Go 14 (SFG14-63-R7T4) с процессором Ryzen 9 8945HS и OLED-экраном

Обзор смартфона HONOR 400: реаниматор

Обзор смартфона HUAWEI Pura 80 Ultra: зум, которому нет равных

Обзор рейтингового режима Warface: просто освоиться, сложно оторваться

HUAWEI Pura 80 Ultra глазами фотографа

Источник изображения: Nik/Unsplash

«Связывание аккаунтов позволит родителям получать уведомления о количестве загрузок, подписок и комментариев, оставленных подростком», — сообщает компания в своём блоге. Также родители будут получать оповещения по электронной почте о важных событиях, таких как загрузка нового видео, как на YouTube, так и на YouTube Shorts, или начало прямой трансляции. Они также смогут видеть любые изменения в настройках конфиденциальности видео.

Отмечается, что новая функция не повлияет на алгоритм YouTube, который и так персонализирован для каждого пользователя. «Сам факт связывания аккаунтов не будет влиять на рекомендации, которые видит подросток», — уточнили представители YouTube в разговоре с изданием TechCrunch. Немаловажно, что при связывании аккаунтов родители не смогут изменить возраст подростка, указанный при регистрации. YouTube будет полагаться на информацию, которую ввёл подросток при создании своего профиля.

Данная функция является развитием родительского контроля, который YouTube ввёл в 2021 году. Тогда компания запустила тестовые «контролируемые» аккаунты для детей «младше возраста согласия» на использование онлайн-сервисов (в США этот возраст составляет 13 лет, в других странах возраст может быть иным) и обещал расширить эту функцию для старших возрастных групп, что и происходит сейчас.

Разработка инструментов родительского контроля связана с растущим вниманием к безопасности детей в интернете и ужесточением законодательства в этой сфере. В некоторых штатах США, например, в Юте и Арканзасе, уже приняты законы, ограничивающие доступ детей младше 18 лет к социальным сетям без согласия родителей. Другие социальные платформы, такие как TikTok, Snapchat, Instagram✴ и Facebook✴, также внедрили аналогичные функции родительского контроля. Хотя YouTube не всегда воспринимается как социальная сеть, он предлагает схожие функции, такие как профили пользователей, возможность подписываться на авторов, комментировать видео и получать доступ к развлекательному контенту, подобранному алгоритмами.