ИИ-сервис Character.AI в ближайшее время получит отдельную версию для подростков с интегрированным родительским контролем. Она установит «более консервативные» ограничения на ответы чат-ботов, «особенно когда речь идёт о романтическом контенте». Эти действия стали реакцией компании на пристальное внимание прессы к двум судебным искам, в которых Character.AI обвиняется в «способствовании членовредительству и самоубийству».

Источник изображения: Character.AI

Character.AI, основанный бывшими сотрудниками Google, позволяет посетителям взаимодействовать с ботами, созданными на основе индивидуально обученной большой языковой модели. Они варьируются от чат-ботов-тренеров до симуляций вымышленных персонажей, многие из которых популярны среди подростков. Сайт позволяет пользователям, которые идентифицируют себя как 13-летних и старше, создавать учётную запись.

В поданных против Character.AI исках утверждается, что по крайней мере некоторые несовершеннолетние пользователи становятся навязчиво привязанными к ботам, которые готовы поддерживать беседы на темы секса, членовредительства, причинения вреда себе и другим, и даже самоубийства. В одном из случаев чат-бот намекнул подростку, которому родители запрещают долго сидеть за компьютером, что «разумной мерой» было бы убийство родителей. Другой подросток стал «очень злым и неуравновешенным», после общения с чат-ботом в течение некоторого времени. Истцы полагают, что боты Character.AI в подобных ситуациях должны направлять несовершеннолетних пользователей к ресурсам психологической поддержки.

Теперь версия для подростков получила специальную большую языковую модель и обеспечит более агрессивную блокировку вывода, который может быть «деликатным или наводящим на размышления», а также попытается лучше обнаруживать и блокировать пользовательские запросы ненадлежащего контента. При выявлении проявленного пользователем интереса к самоубийству или членовредительству, он будет перенаправлен на «Национальную линию по предотвращению самоубийств».

Несовершеннолетним также будет запрещено редактировать ответы ботов, что давало возможность добавлять контент, который Character.AI в противном случае мог бы заблокировать. Сейчас компания пытается бороться с появлением зависимости у пользователей. Кроме того, будут предприняты меры, чтобы предотвратить восприятие бота как живого человека. Появится отдельное предупреждение о том, что боты не могут предлагать профессиональные консультации.

Функции родительского контроля появятся в первом квартале следующего года. Они будут сообщать родителям, сколько времени ребёнок проводит в Character.AI и с какими ботами он взаимодействует чаще всего. Все изменения вносятся в сотрудничестве с «несколькими экспертами по безопасности подростков в Интернете», включая организацию ConnectSafely.

«Мы осознаем, что наш подход к безопасности должен развиваться вместе с технологией, которая управляет нашим продуктом, — создавая платформу, где творчество и исследование могут процветать без ущерба для безопасности, — говорится в пресс-релизе Character.AI. — Этот набор изменений является частью нашего долгосрочного обязательства по постоянному совершенствованию нашей политики и нашего продукта».

Instagram✴ запустил новую функцию Teen Accounts с усиленной защитой и родительским контролем за подростками. Теперь родители могут контролировать активность своих детей в социальной сети, защищать их от нежелательного контента и ограничивать взаимодействие с незнакомыми лицами.

Источник изображения: Instagram✴

«Подростковые аккаунты» (Teen Accounts) автоматически активируются для всех пользователей младше 16 лет. В рамках таких аккаунтов будут действовать ограничения на взаимодействие с другими пользователями, доступ к контенту и время, проведённое в приложении. Компания планирует перевести все существующие и новые аккаунты подростков на этот режим в течение ближайших месяцев, начиная с США, Великобритании, Канады и Австралии.

Как сообщает издание TechCrunch, будет предусмотрен ряд встроенных защитных механизмов. Подростки смогут принимать сообщения только от людей, на которых они подписаны или с которыми уже общались ранее, например, через Facebook✴ Messenger. Будет ограничена возможность отмечать подростков на фотографиях и в комментариях, применён автоматический фильтр на публикацию нецензурных выражений в личных сообщениях и комментариях. Кроме того, доступ к определённому контенту, например, с драками и косметическими процедурами в разделах «Рекомендации» и Reels также будет ограничен.

Для борьбы с чрезмерным использованием платформы Instagram✴ реализовала функцию «Ночной режим» (Sleep Mode), которая автоматически отключает уведомления с 22:00 до 7:00. А ещё приложение напоминает подросткам о необходимости сделать перерыв после одного часа. При этом родители смогут устанавливать собственные ограничения на время, проведённое ребёнком в Instagram✴, и даже полностью блокировать доступ к приложению в определённые часы. «Ранее Instagram✴ лишь ненавязчиво предлагал подросткам закрыть приложение, если они пользовались им ночью», — отмечает TechCrunch.

Как следствие, родители получат больше возможностей для контроля за активностью своих детей в Instagram✴. С помощью обновлённой функции родительского контроля они могут видеть, с кем подросток общался в течение последней недели, хотя и не могут читать сами сообщения. Также они могут узнать, на какие темы подросток подписался в разделе «Рекомендации», чтобы получать больше соответствующего контента. При этом алгоритмы всё ещё могут предлагать пользователям Instagram✴ темы, отличные от тех, которые они выбрали, если приложение обнаружит, что именно это пользователю кажется более интересным.

Отметим, что изменения в Instagram✴ происходят на фоне критики со стороны законодателей и общественности, которые обвиняют социальные сети в недостаточной защите детей и подростков. Ранее даже было предложено вообще запретить подросткам пользоваться социальными сетями без согласия родителей. Что же касается Instagram✴, то новые правила не смогут решить проблему, если при регистрации будет указан ложный возраст. В будущем компания планирует внедрить «Подростковые аккаунты» и на других платформах Meta✴.

Instagram✴ представил новую функцию, направленную на формирование осознанного потребления контента у подростков. Засидевшемуся допоздна юному пользователю, который более десяти минут просматривает короткие видео в разделе Reels или переписывается в разделе личных сообщений, Instagram✴ предложит закрыть приложение и лечь спать.

Источник изображения: Kirill Averianov / pixabay.com

Эти «ночные намёки» (Nighttime Nudges) автоматически появятся в учётных записях подростков, и отключить их не получится. В Instagram✴ не уточнили, коснётся ли нововведение всех подростков или только детей до 18 лет. Идея нововведения в том, чтобы побудить подростков, которые не пользуются штатными функциями контроля времени, проведённого в соцсетях, закрывать приложения на ночь. «Хотим, чтобы подростки закрывали Instagram✴ с чувством, что проводимое в приложении время значимо и расходуется целенаправленно, и мы знаем, что для молодых людей сон особенно важен», — заявили в администрации соцсети.

Instagram✴ предлагает подросткам и их родителям целый набор средств для управления временем, проводимым в приложении. Помимо функций родительского контроля, есть также «Тихий режим» (Quiet Mode), при запуске которого в приложении отключаются уведомления, а на личные сообщения друзей и подписчиков отправляются автоматические ответы, что пользователь недоступен и занят чем-то другим, например, учится или спит.

С сегодняшнего дня Google начинает открывать подросткам доступ к чат-боту Bard. Некоторые возможности инструмента будут ограничены, чтобы оградить юных пользователей от неподходящего контента. На начальном этапе аудитория службы будет ограничена англоязычными пользователями.

Источник изображения: blog.google

Google Bard будет доступен подросткам в «большинстве стран мира» при условии, что они достигли минимального возраста, предусмотренного местным законодательством — обычно это 13 лет. Компания предусмотрела несколько мер безопасности, которые помогут юным пользователям понять основные принципы работы генеративного искусственного интеллекта и оградят их от опасного контента.

• Для адаптации к работе с Bard платформа покажет обучающее видео с разъяснениями особенностей генеративного ИИ и некоторым его недостатками, включая галлюцинации.
• Когда подросток впервые задаёт вопрос, касающийся фактов, платформа дважды сверит ответ Bard с поисковой выдачей Google.
• Компания обучила Bard «распознавать неподходящие области для молодых пользователей» и «внедрила функции безопасности и ограничения, которые помогут предотвратить появление в ответах опасного контента, такого как запрещённые или ограниченные по возрасту вещества».

Google добавила в Bard некоторые новые функции, которые могут оказаться особенно полезными подросткам, но воспользоваться ими смогут все желающие. При вводе или загрузке снимка математического уравнения ИИ объяснит, как его решить. Кроме того, он поможет построить диаграмму на основе таблицы или данных, которые вводятся в командную строку. Сегодня Google Bard, созданный как альтернатива Microsoft Bing Chat (Copilot) и OpenAI ChatGPT, доступен уже в 230 странах мира.

Видеоплатформа YouTube со 2 ноября вводит ограничения на работу рекомендательных алгоритмов для подростков — они, в частности, коснутся таких деликатных тем, как видео о человеческом теле и социальной агрессии. Об этом администрация платформы подробно рассказала в своём блоге.

Источник изображения: Sara Kurfeß / unsplash.com

Новые меры защиты подростков реализуются в рамках партнёрского проекта с Консультативным советом по делам молодёжи и семьи — в эту организацию входят психологи, исследователи и прочие эксперты в области развития детей. Комитет уже несколько лет консультирует YouTube по вопросам угроз для психического здоровья подростков, которые может представлять онлайн-контент.

Источник изображения: blog.youtube

Организация помогла администрации платформы определить категории видео, которые могут оказаться проблематичными при повторном просмотре. Это, в частности, относится к контенту, в котором «сравниваются физические характеристики [людей] и идеализируется один тип по сравнению с другими, идеализируется определённый тип физической подготовки или вес тела либо демонстрируется социальная агрессия в форме бесконтактных драк или запугивания».

Источник изображения: blog.youtube

YouTube обновил часть своих продуктов, сделав акцент на благополучии лиц подросткового возраста: теперь чаще будут показываться сообщения с призывом сделать «перерыв», появятся напоминания о необходимости отправляться спать. Стала более заметной панель кризисных ресурсов, которая выводится при поиске по потенциально проблематичным запросам, например, относящимся к расстройствам пищевого поведения — связаться с соответствующими горячими линиями станет проще.

Администрация платформы также сотрудничает со Всемирной организацией здравоохранения и организацией Common Sense Networks: планируется разработка образовательных ресурсов для родителей и подростков — им объяснят, как безопасно создавать ролики для публикации в Интернете, как отвечать на комментарии и многое другое. Ограничения на работу рекомендательных алгоритмов на YouTube в США начинают действовать со 2 ноября; в будущем году нововведение распространится и на другие страны.