Социальная сеть Instagram✴, ссылаясь на необходимость защиты несовершеннолетних пользователей от вредоносного контента, вводит новые ограничения для подростковых аккаунтов. Пользователи младше 18 лет теперь по умолчанию будут видеть только контент, соответствующий рейтингу PG-13. Такие темы, как экстремальное насилие, сексуальная нагота и сцены употребления наркотиков, будут им недоступны. Они не смогут изменить эту настройку без явного разрешения родителей или опекунов.

Пять причин полюбить HONOR Magic7 Pro

Пять причин полюбить HONOR Pad V9

Обзор умных часов HUAWEI WATCH 5: часы юбилейные

Hollow Knight: Silksong — песнь страданий и радостей. Рецензия

Почему ИИ никак не сесть на безматричную диету

Пять причин полюбить HONOR X8c

Фитнес-браслет HUAWEI Band 10: настоящий металл

HUAWEI FreeArc: вероятно, самые удобные TWS-наушники

Источник изображения: unsplash.com

Instagram✴ вводит более строгий фильтр контента под названием «Ограниченный контент», который не позволит подросткам просматривать и комментировать публикации с этой настройкой. Компания со следующего года будет вводить дополнительные ограничения для подростков на чаты с ИИ-ботами, у которых включён фильтр «Ограниченный контент». Новые настройки с рейтингом PG-13 уже применяются к разговорам с использованием искусственного интеллекта.

Этот шаг был предпринят в ответ на судебные иски против создателей чат-ботов, таких как OpenAI и Character.AI, за якобы причинение вреда пользователям. В прошлом месяце OpenAI ввела новые ограничения для пользователей ChatGPT младше 18 лет и заявила, что обучает чат-бота воздерживаться от «флиртующих разговоров». Ранее в этом году Character.AI также добавила новые ограничения и функции родительского контроля.

Instagram✴ разрабатывает инструменты для обеспечения безопасности подростков в аккаунтах, личных сообщениях, поиске и контенте. Компания последовательно расширяет контроль и ограничения в различных областях для несовершеннолетних пользователей. Социальная сеть не позволит подросткам подписываться на аккаунты, публикующие контент, не соответствующий возрасту. Если они подпишутся на такие аккаунты, они не смогут видеть их публикации или взаимодействовать с ними. Компания также удаляет подобные аккаунты из рекомендаций, что затрудняет их поиск.

Instagram✴ блокирует подросткам просмотр неподходящего контента в личных сообщениях. Компания уже сейчас запрещает несовершеннолетним находить контент, связанный с расстройствами пищевого поведения и самоповреждением. В контенте для тинейджеров блокируются такие слова, как «алкоголь» или «кровавый». Кроме того, подобный контент нельзя найти, используя искажённое написание слов или преднамеренные орфографические ошибки.

В настоящее время Instagram✴ тестирует новые инструменты контроля, позволяющие родителям отмечать контент, который не следует рекомендовать подросткам. Помеченные публикации будут отправляться в соответствующий отдел для проверки.

Все описанные изменения вступают в силу в США, Великобритании, Австралии и Канаде с сегодняшнего дня, а в следующем году — по всему миру.

Устройство Messenger от лондонской компании Karri призвано помочь детям в возрасте от 5 до 13 лет стать более самостоятельными, обеспечивая при этом спокойствие их родителям. Главная функция новинки — запись, отправка и приём голосовых сообщений. Messenger использует SIM-карту, предназначенную только для передачи данных, и не имеет номера телефона. Устройство отличается минималистичным интерфейсом и интуитивно понятным управлением.

Обзор умных часов HUAWEI WATCH 5: часы юбилейные

Пять причин полюбить HONOR Pad V9

Пять причин полюбить HONOR X8c

Фитнес-браслет HUAWEI Band 10: настоящий металл

Почему ИИ никак не сесть на безматричную диету

Пять причин полюбить HONOR Magic7 Pro

HUAWEI FreeArc: вероятно, самые удобные TWS-наушники

Hollow Knight: Silksong — песнь страданий и радостей. Рецензия

Источник изображений: Karri

Это уже второе поколение подобных устройств — первое было выпущено в 2023 году. Messenger оснащён матричным дисплеем, динамиком, а его основной элемент управления — крупный физический слайдер в центре. Чтобы прослушать голосовое сообщение нужно сдвинуть его вниз, для записи сообщения — сдвинуть вверх и удерживать, для отправки — просто сдвинуть вверх.

В октябре 2024 года компания Karri привлекла несколько миллионов фунтов стерлингов на разработку новой модели, в которой принимало участие известное дизайнерское агентство Pentagram. Нескольких итераций прототипов дорабатывались в процессе тестирования с участниками из разных возрастных групп.

Messenger работает только с сопряжённым мобильным приложением на телефоне родителей, а это значит, что посторонние не смогут связаться с ребёнком. Приложение для iOS и Android позволяет безопасно отправлять зашифрованные голосовые сообщения, проверять уровень заряда батареи Messenger и определять местоположение ребёнка на карте с помощью встроенного GPS-модуля. Родители также могут устанавливать геозоны и получать уведомления, если ребёнок выходит за их пределы. Доступно создание семейных групп для отправки сообщений.

Другие кнопки на устройстве позволяют управлять громкостью и переключаться между различными чатами. Предусмотрена блокировка устройства для предотвращения случайных нажатий, кнопка отключения звука и вибросигнала, фонарик и отверстие для шнурка. Имеется возможность отправлять сообщения между мессенджерами и подавать сигналы SOS.

Дополнительные чехлы позволят осуществлять бесконтактные платежи через NFC, а в ближайшем будущем появится голосовое управление, навигация и другие функции. Устройство с защитой от воды IPX67 весит чуть более 120 г и может работать до четырёх дней без подзарядки.

Стоимость Messenger второго поколения составляет £90 (≈9700 ₽), поставки устройства запланированы на конец этого года. По предварительному заказу Messenger можно приобрести за £50 (≈5400 ₽), а цена месячной подписки начинается от £1,79 (≈200 ₽) при заключении двухлетнего контракта, но только в Великобритании. Более дорогие тарифы открывают доступ к сервису по всему миру, большему количеству каналов чата и обмену сообщениями между устройствами.

ИИ-сервис Character.AI в ближайшее время получит отдельную версию для подростков с интегрированным родительским контролем. Она установит «более консервативные» ограничения на ответы чат-ботов, «особенно когда речь идёт о романтическом контенте». Эти действия стали реакцией компании на пристальное внимание прессы к двум судебным искам, в которых Character.AI обвиняется в «способствовании членовредительству и самоубийству».

Фитнес-браслет HUAWEI Band 10: настоящий металл

Пять причин полюбить HONOR Pad V9

Hollow Knight: Silksong — песнь страданий и радостей. Рецензия

Обзор умных часов HUAWEI WATCH 5: часы юбилейные

Пять причин полюбить HONOR X8c

HUAWEI FreeArc: вероятно, самые удобные TWS-наушники

Пять причин полюбить HONOR Magic7 Pro

Почему ИИ никак не сесть на безматричную диету

Источник изображения: Character.AI

Character.AI, основанный бывшими сотрудниками Google, позволяет посетителям взаимодействовать с ботами, созданными на основе индивидуально обученной большой языковой модели. Они варьируются от чат-ботов-тренеров до симуляций вымышленных персонажей, многие из которых популярны среди подростков. Сайт позволяет пользователям, которые идентифицируют себя как 13-летних и старше, создавать учётную запись.

В поданных против Character.AI исках утверждается, что по крайней мере некоторые несовершеннолетние пользователи становятся навязчиво привязанными к ботам, которые готовы поддерживать беседы на темы секса, членовредительства, причинения вреда себе и другим, и даже самоубийства. В одном из случаев чат-бот намекнул подростку, которому родители запрещают долго сидеть за компьютером, что «разумной мерой» было бы убийство родителей. Другой подросток стал «очень злым и неуравновешенным», после общения с чат-ботом в течение некоторого времени. Истцы полагают, что боты Character.AI в подобных ситуациях должны направлять несовершеннолетних пользователей к ресурсам психологической поддержки.

Теперь версия для подростков получила специальную большую языковую модель и обеспечит более агрессивную блокировку вывода, который может быть «деликатным или наводящим на размышления», а также попытается лучше обнаруживать и блокировать пользовательские запросы ненадлежащего контента. При выявлении проявленного пользователем интереса к самоубийству или членовредительству, он будет перенаправлен на «Национальную линию по предотвращению самоубийств».

Несовершеннолетним также будет запрещено редактировать ответы ботов, что давало возможность добавлять контент, который Character.AI в противном случае мог бы заблокировать. Сейчас компания пытается бороться с появлением зависимости у пользователей. Кроме того, будут предприняты меры, чтобы предотвратить восприятие бота как живого человека. Появится отдельное предупреждение о том, что боты не могут предлагать профессиональные консультации.

Функции родительского контроля появятся в первом квартале следующего года. Они будут сообщать родителям, сколько времени ребёнок проводит в Character.AI и с какими ботами он взаимодействует чаще всего. Все изменения вносятся в сотрудничестве с «несколькими экспертами по безопасности подростков в Интернете», включая организацию ConnectSafely.

«Мы осознаем, что наш подход к безопасности должен развиваться вместе с технологией, которая управляет нашим продуктом, — создавая платформу, где творчество и исследование могут процветать без ущерба для безопасности, — говорится в пресс-релизе Character.AI. — Этот набор изменений является частью нашего долгосрочного обязательства по постоянному совершенствованию нашей политики и нашего продукта».

YouTube объявил о расширении функций родительского контроля, добавив возможность подключения аккаунта родителя к аккаунту подростка. Это позволит получать представление об активности детей на платформе, не просматривая сам контент.

Пять причин полюбить HONOR X8c

Обзор умных часов HUAWEI WATCH 5: часы юбилейные

Пять причин полюбить HONOR Pad V9

Почему ИИ никак не сесть на безматричную диету

Пять причин полюбить HONOR Magic7 Pro

HUAWEI FreeArc: вероятно, самые удобные TWS-наушники

Фитнес-браслет HUAWEI Band 10: настоящий металл

Hollow Knight: Silksong — песнь страданий и радостей. Рецензия

Источник изображения: Nik/Unsplash

«Связывание аккаунтов позволит родителям получать уведомления о количестве загрузок, подписок и комментариев, оставленных подростком», — сообщает компания в своём блоге. Также родители будут получать оповещения по электронной почте о важных событиях, таких как загрузка нового видео, как на YouTube, так и на YouTube Shorts, или начало прямой трансляции. Они также смогут видеть любые изменения в настройках конфиденциальности видео.

Отмечается, что новая функция не повлияет на алгоритм YouTube, который и так персонализирован для каждого пользователя. «Сам факт связывания аккаунтов не будет влиять на рекомендации, которые видит подросток», — уточнили представители YouTube в разговоре с изданием TechCrunch. Немаловажно, что при связывании аккаунтов родители не смогут изменить возраст подростка, указанный при регистрации. YouTube будет полагаться на информацию, которую ввёл подросток при создании своего профиля.

Данная функция является развитием родительского контроля, который YouTube ввёл в 2021 году. Тогда компания запустила тестовые «контролируемые» аккаунты для детей «младше возраста согласия» на использование онлайн-сервисов (в США этот возраст составляет 13 лет, в других странах возраст может быть иным) и обещал расширить эту функцию для старших возрастных групп, что и происходит сейчас.

Разработка инструментов родительского контроля связана с растущим вниманием к безопасности детей в интернете и ужесточением законодательства в этой сфере. В некоторых штатах США, например, в Юте и Арканзасе, уже приняты законы, ограничивающие доступ детей младше 18 лет к социальным сетям без согласия родителей. Другие социальные платформы, такие как TikTok, Snapchat, Instagram✴ и Facebook✴, также внедрили аналогичные функции родительского контроля. Хотя YouTube не всегда воспринимается как социальная сеть, он предлагает схожие функции, такие как профили пользователей, возможность подписываться на авторов, комментировать видео и получать доступ к развлекательному контенту, подобранному алгоритмами.