ИИ-сервис Character.AI в ближайшее время получит отдельную версию для подростков с интегрированным родительским контролем. Она установит «более консервативные» ограничения на ответы чат-ботов, «особенно когда речь идёт о романтическом контенте». Эти действия стали реакцией компании на пристальное внимание прессы к двум судебным искам, в которых Character.AI обвиняется в «способствовании членовредительству и самоубийству».

Источник изображения: Character.AI

Character.AI, основанный бывшими сотрудниками Google, позволяет посетителям взаимодействовать с ботами, созданными на основе индивидуально обученной большой языковой модели. Они варьируются от чат-ботов-тренеров до симуляций вымышленных персонажей, многие из которых популярны среди подростков. Сайт позволяет пользователям, которые идентифицируют себя как 13-летних и старше, создавать учётную запись.

В поданных против Character.AI исках утверждается, что по крайней мере некоторые несовершеннолетние пользователи становятся навязчиво привязанными к ботам, которые готовы поддерживать беседы на темы секса, членовредительства, причинения вреда себе и другим, и даже самоубийства. В одном из случаев чат-бот намекнул подростку, которому родители запрещают долго сидеть за компьютером, что «разумной мерой» было бы убийство родителей. Другой подросток стал «очень злым и неуравновешенным», после общения с чат-ботом в течение некоторого времени. Истцы полагают, что боты Character.AI в подобных ситуациях должны направлять несовершеннолетних пользователей к ресурсам психологической поддержки.

Теперь версия для подростков получила специальную большую языковую модель и обеспечит более агрессивную блокировку вывода, который может быть «деликатным или наводящим на размышления», а также попытается лучше обнаруживать и блокировать пользовательские запросы ненадлежащего контента. При выявлении проявленного пользователем интереса к самоубийству или членовредительству, он будет перенаправлен на «Национальную линию по предотвращению самоубийств».

Несовершеннолетним также будет запрещено редактировать ответы ботов, что давало возможность добавлять контент, который Character.AI в противном случае мог бы заблокировать. Сейчас компания пытается бороться с появлением зависимости у пользователей. Кроме того, будут предприняты меры, чтобы предотвратить восприятие бота как живого человека. Появится отдельное предупреждение о том, что боты не могут предлагать профессиональные консультации.

Функции родительского контроля появятся в первом квартале следующего года. Они будут сообщать родителям, сколько времени ребёнок проводит в Character.AI и с какими ботами он взаимодействует чаще всего. Все изменения вносятся в сотрудничестве с «несколькими экспертами по безопасности подростков в Интернете», включая организацию ConnectSafely.

«Мы осознаем, что наш подход к безопасности должен развиваться вместе с технологией, которая управляет нашим продуктом, — создавая платформу, где творчество и исследование могут процветать без ущерба для безопасности, — говорится в пресс-релизе Character.AI. — Этот набор изменений является частью нашего долгосрочного обязательства по постоянному совершенствованию нашей политики и нашего продукта».

YouTube объявил о расширении функций родительского контроля, добавив возможность подключения аккаунта родителя к аккаунту подростка. Это позволит получать представление об активности детей на платформе, не просматривая сам контент.

Источник изображения: Nik/Unsplash

«Связывание аккаунтов позволит родителям получать уведомления о количестве загрузок, подписок и комментариев, оставленных подростком», — сообщает компания в своём блоге. Также родители будут получать оповещения по электронной почте о важных событиях, таких как загрузка нового видео, как на YouTube, так и на YouTube Shorts, или начало прямой трансляции. Они также смогут видеть любые изменения в настройках конфиденциальности видео.

Отмечается, что новая функция не повлияет на алгоритм YouTube, который и так персонализирован для каждого пользователя. «Сам факт связывания аккаунтов не будет влиять на рекомендации, которые видит подросток», — уточнили представители YouTube в разговоре с изданием TechCrunch. Немаловажно, что при связывании аккаунтов родители не смогут изменить возраст подростка, указанный при регистрации. YouTube будет полагаться на информацию, которую ввёл подросток при создании своего профиля.

Данная функция является развитием родительского контроля, который YouTube ввёл в 2021 году. Тогда компания запустила тестовые «контролируемые» аккаунты для детей «младше возраста согласия» на использование онлайн-сервисов (в США этот возраст составляет 13 лет, в других странах возраст может быть иным) и обещал расширить эту функцию для старших возрастных групп, что и происходит сейчас.

Разработка инструментов родительского контроля связана с растущим вниманием к безопасности детей в интернете и ужесточением законодательства в этой сфере. В некоторых штатах США, например, в Юте и Арканзасе, уже приняты законы, ограничивающие доступ детей младше 18 лет к социальным сетям без согласия родителей. Другие социальные платформы, такие как TikTok, Snapchat, Instagram✴ и Facebook✴, также внедрили аналогичные функции родительского контроля. Хотя YouTube не всегда воспринимается как социальная сеть, он предлагает схожие функции, такие как профили пользователей, возможность подписываться на авторов, комментировать видео и получать доступ к развлекательному контенту, подобранному алгоритмами.

Администрация Байдена подготовила указ об ИИ, который станет самой значительной попыткой США регулировать развивающиеся технологии, вызвавшие страх и ажиотаж во всём мире. Этот документ усилит роль правительства США как ведущего заказчика технологий. Передовые модели ИИ будут проходить оценку, прежде чем они смогут быть использованы федеральными служащими. Указ также снимет иммиграционные барьеры для высококвалифицированных специалистов.

Источник изображения: Pixabay

Белый дом впервые объявил о планах принятия указа в июле, а Байден рассказал о нём в сентябре на встрече с Советом президентских экспертов по науке и технологиям в Сан-Франциско. «Этой осенью я собираюсь принять исполнительные меры, и моя администрация будет продолжать работать с двухпартийным законодательством, чтобы Америка проложила путь к ответственным инновациям в области искусственного интеллекта», — заявил Байден.

Указ будет обнародован в понедельник на мероприятии «Безопасный, надёжный и заслуживающий доверия ИИ», организованном администрацией президента США. Он будет основан на ряде добровольных обязательств в отношении ИИ, подписанных 15 компаниями, включая OpenAI, Google, Adobe и NVIDIA при посредничестве Белого дома в сентябре. Одним из важнейших пунктов является обязательство предоставлять данные о безопасности ИИ правительству и учёным.

Ожидается, что экспертная оценка больших языковых моделей будет проводиться Национальным институтом стандартов и технологий (NIST). В этом году NIST выпустил систему управления рисками, связанными с ИИ, и регулярно сотрудничает с другими государственными учреждениями в области ИИ. Федеральные правительственные агентства, в том числе Министерство обороны, Министерство энергетики и разведывательные службы, оценят возможность использования ИИ в своей работе, уделяя особое внимание укреплению национальной киберзащиты.

Установление контроля над ИИ представляет собой ключевое испытание для администрации Байдена, в свете предвыборных обещаний ограничить злоупотребления в Кремниевой долине. Три года спустя администрация добилась некоторого прогресса в снижении вреда от социальных сетей, нарушений конфиденциальности и воздействия технологий на детей. Антимонопольные органы США выиграли несколько громких исков об ограничении конкуренции против некоторых самых влиятельных компаний в технологическом секторе, включая Amazon, но также потерпели и жестокие поражения в судах.

Недавние быстрые достижения в области ИИ повысили ставки. Политики во всём мире все больше обеспокоены тем, что внедрение ИИ может значительно усилить влияние технологий на рабочие места, надзор и демократию, особенно в преддверии выборов. Ранее правительство уже предпринимало меры, чтобы добиться усиления цифрового контроля. Указ по кибербезопасности от 2021 года поручил Министерству торговли разработать стандарты для компаний, продающих услуги программного обеспечения.

Ожидается, что правительство пойдёт навстречу предложениям технологических компаний по снижению барьеров для инженеров и других высококвалифицированных рабочих на фоне жёсткой конкуренции за технические таланты. Источники утверждают, что эта работа уже ведётся. Предполагается внести изменения в программу H-1B получения виз для высококвалифицированных специалистов. Госдепартамент также запустит новую программу, ориентированную на таланты в области ИИ.

Опубликование указа произойдёт накануне международного саммита в Великобритании, посвящённого рискам, которые ИИ представляет для общества. В саммите планируют принять участие лидеры правительств, высшие руководители Кремниевой долины и представители гражданского общества. ЕС к концу года должен окончательно одобрить «Закон об искусственном интеллекте» — широкомасштабный пакет мер, направленный на защиту потребителей от потенциально опасных применений ИИ. Законодатели США все ещё находятся на ранних стадиях разработки подобного документа.

Информация о том, что американские власти готовят к годовщине введения экспортных ограничений против китайской полупроводниковой отрасли дополнительные санкции, нашла подтверждение на сайте одного из правительственных ведомств США. Единственное, что удерживает чиновников от их введения — это желание синхронизировать их с дополнительными мерами на другом направлении.

Агентство Reuters поясняет, что дополненные правила экспортного контроля в отношении поставок в Китай оборудования для производства чипов, использующего технологии американского происхождения, находятся на последних этапах согласования заинтересованными ведомствами США. По замыслу властей, изменения в существующих правилах должны будут прикрыть те «лазейки», которые до сих пор позволяли китайской стороне получать необходимое оборудование.

На сайте Административно-бюджетного управления США, как отмечает источник, на этой неделе уже появился документ «Экспортный контроль оборудования для выпуска полупроводниковых компонентов, изменения к списку организаций». Агентству Reuters удалось подтвердить у информированного источника, что речь в документе идёт как раз о новых ограничениях на поставку оборудования для производства чипов в Китай. По словам бывших чиновников, документы с описанием экспортных ограничений обычно не публикуются на сайте указанного ведомства до того, как их содержание не пройдёт согласование с министерствами обороны, торговли и энергетики, а также Госдепартаментом США.

Сейчас власти выжидают момента, пока подобное согласование пройдёт документ, описывающий дополнительные ограничения на поставку в Китай ускорителей вычислений для систем искусственного интеллекта. Год назад соответствующие ограничения «первой волны» ограничили компании типа NVIDIA и AMD в способности поставлять в КНР свои популярные ускорители вычислений, и первая довольно быстро выпустила модифицированные с учётом требований США ускорители A800 и H800. Руководство AMD тоже выразило готовность в случае необходимости предложить китайским клиентам адаптированные к требованиям американских властей решения.

Как отмечает правительственный источник в комментариях Reuters, власти США собираются синхронно обнародовать новые ограничения как в сфере поставки технологического оборудования в Китай, так и в сфере поставки ускорителей вычислений. Представители Министерства торговли США, которое обычно курирует подобную деятельность, от комментариев на эту тему отказались.

В последние годы нам чаще приходилось слышать о введении более строгих правил в отношении взаимодействия международного бизнеса с властями КНР, но свежая публикация на страницах ресурса South China Morning Post выбивается из этой тенденции. В рамках новой инициативы правительство Китая хочет ослабить контроль за трансграничной передачей информации о гражданах страны.

Источник изображения: Shutterstock

Речь, в первую очередь, идёт о персональных данных, которые могут требоваться при совершении трансграничных платежей, покупок или оформлении разного рода документов в онлайн-форме. Год назад китайские регуляторы усугубили контроль в этой сфере, при этом оставив в действующем законодательстве довольно размытое определение «важной информации», за оборотом которой должны были следить сами операторы, работающие с этими данными.

Сейчас ведётся обсуждение новой версии правил, которое должно завершиться 15 октября. Изменения в законодательстве позволят иностранному бизнесу освободиться от избыточного контроля со стороны китайских властей при передаче персональных данных граждан Китая за пределы страны. Делать покупки, бронировать билеты, оформлять страховки и осуществлять переводы средств за границу для граждан Китая станет проще, если речь идёт о взаимодействии с иностранными компаниями. Они же смогут без дополнительных сложностей обрабатывать резюме китайских соискателей при поиске работы. Информация о состоянии здоровья граждан КНР тоже сможет передаваться за пределы страны без дополнительных процедур контроля.

В целом, принятой в прошлом году цензуре не будет подвергаться информация, содержащая персональные данные, если они относятся к менее чем 10 000 граждан КНР в год. Операторы данных освобождаются от проведения экспертизы передаваемых данных силами китайских регуляторов и уведомления их о таких транзакциях. Уведомление предусмотрено только при передаче информации, касающейся вплоть до 1 млн человек в год, но проверка этих данных не требуется. Наконец, только при обработке персональных данных для более чем 1 млн человек в год сохраняется требование к проведению экспертизы и контроля со стороны китайских регуляторов.

Подобные требования будут действовать в масштабах всего Китая, но муниципальные власти особых зон свободной торговли получат право вводить дополнительные послабления в этой сфере. Участники экономической деятельности в этих зонах получат ещё более широкие возможности по экспорту персональных данных граждан КНР без уведомления регуляторов. Принято считать, что такие послабления должны способствовать оживлению экономики Китая за счёт привлечения иностранных компаний, которых отпугивало чрезмерное регулирование в области работы с персональными данными.

Китайские власти давно выражают обеспокоенность тем, что молодое поколение граждан уделяет чрезмерно много внимания компьютерным играм, а потому стараются ограничивать подобную активность законодательно. При этом исследования независимых экспертов показывают, что на практике такие меры не приносят желаемого результата.

Источник изображения: Shutterstock

По крайней мере, британские и датские исследователи после изучения статистики разработчика игровых приложений Unity пришли именно к такому выводу. В период с августа 2019 года по январь 2020 года игроки во всём мире провели за играми на этом движке 7,04 млрд часов, из них 2,4 млрд часов пришлись на пользователей из КНР. Поскольку статистика не разделяла пользователей по возрасту, можно оценивать только динамику игровой активности китайских геймеров в целом.

С августа 2019 года по октябрь 2019 года, когда власти КНР ещё не ввели ограничения по продолжительности игровых сеансов для несовершеннолетних граждан страны, к числу заядлых игроков можно было отнести обладателей примерно 0,77 % игровых профилей в системе учёта Unity. Подразумевалось, что эти игроки проводят за любимым занятием не менее 4 часов в день на протяжении шести дней в неделю.

В ноябре 2019 года власти КНР ограничили продолжительность игровых сессий для несовершеннолетних граждан 90 минутами в сутки, но статистика Unity показала, что злоупотреблять геймингом стали уже 0,88 % зарегистрированных в системе пользователей. Когда в 2021 году власти КНР дополнительно ограничили продолжительность игровой активности несовершеннолетних тремя часами в неделю, на статистике Unity по региону это опять особо не сказалось. По сути, принятые властями меры не принесли желаемых плодов.

Законодатели в КНР теперь предлагают ограничить время использования планшетов и смартфонов 40 минутами в день для граждан младше 8 лет, для категории от 8 до 15 лет увеличить этот лимит до одного часа в день, а для граждан в возрасте 16 и 17 лет поднять его до двух часов в день. Разработчикам приложений и устройств предлагается внедрить механизм «родительского контроля», который не позволит малолетним пользователям самостоятельно преодолевать эти лимиты. Впрочем, с разрешения родителей это можно будет сделать. К слову, гражданам КНР до 12 лет вообще предлагается запретить самостоятельно устанавливать приложения без родительского разрешения. Граждане в категории от 12 до 16 лет смогут скачивать и устанавливать приложения, соответствующие своему возрастному рейтингу, либо с позволения родителей, если рейтинг не подходит.

Опыт введения ограничений в КНР повествует о распространении разного рода уловок при попытках пользователей обойти их. Это и использование чужих учётных записей, и создание подложных учётных записей с необходимыми критериями. По всей видимости, новая инициатива в случае её реализации на практике столкнётся с аналогичными злоупотреблениями.

Google предложит новый стандарт веба под названием Web Integrity API, который может стать цифровым стражем для всего интернета. Этот проект, находящийся на стадии прототипирования в веб-браузере Chrome, направлен на усиление безопасности и контроля над веб-средой, но вызывает опасения относительно возможного ограничения свободы пользователей.

Источник изображения: ooceey / Pixabay

Google представила предложение по созданию нового стандарта веба, называемого Web Integrity API. Этот проект разрабатывается командой Chrome и вдохновлён существующими системами, такими как App Attest компании Apple и Play Integrity API в Android. Web Integrity API нацелен на изучение информации о пользователе, чтобы убедиться, что он не является ботом, и что его браузер не был несанкционированно изменён. Полученная информация сможет обеспечить большую безопасность пользователей в Интернете, а также может быть полезна рекламодателям, эффективна для борьбы с ботами в социальных сетях, защиты прав интеллектуальной собственности и обеспечения безопасности финансовых операций.

По замыслу Google, во время транзакции веб-страницы веб-сервер может потребовать от пользователя пройти тест проверки его веб-среды, прежде чем ему будут предоставлены какие-либо данные. В этот момент браузер пользователя связывается со сторонним сервером, проводящим такую проверку, и пользователю предлагается пройти некий тест. Если пользователь успешно проходит этот тест, то он получает подписанный IntegrityToken, который подтверждает, что его веб-среда не модифицирована, и указывает на содержимое, которое пользователь хотел разблокировать. Затем пользователь передаёт этот токен обратно на веб-сервер, и если сервер доверяет компании, проводившей проверку, то содержимое разблокируется и, наконец, пользователь получает ответ с запрашиваемой им веб-страницей.

Реакция интернет-сообщества на это предложение была смешанной. Некоторые пользователи выразили своё негодование, называя идею абсолютно неэтичной. Однако стоит отметить, что Google владеет самым популярным веб-браузером в мире и может продвигать свои проекты, несмотря на критику.

Предложение Google по созданию Web Integrity API открывает новые возможности для безопасности в интернете. Однако оно также порождает опасения относительно потенциального ограничения свободы пользователей и возможности злоупотребления этой технологией в будущем. Вопрос о том, станет ли предложение американского техногиганта частью будущего интернета, остаётся открытым, но уже сейчас он вызывает жаркие споры.

Социальная сеть TikTok добавила в инструмент Family Pairing новую функцию. Инструмент, позволяющий родителям связать свои учётные записи с аккаунтами детей для контроля контента и настроек конфиденциальности, теперь предоставляет возможность настройки того, какие видео и хештеги будут блокироваться в рекомендациях и сопутствующих роликах в приложении по ключевым словам.

Источник изображения: TikTok

Новая функциональность Family Pairing поможет родителям снизить вероятность того, что просматриваемый контент будет неприемлемым. Известно, что над представленной функцией работы велись ещё с марта текущего года. Как сообщают в TikTok, для внедрения новой функции в Family Pairing привлекли экспертов, включая специалистов Института семейной безопасности в интернете (FOSI), которые помогли соблюсти баланс, обеспечивающий как возможность родителей заботиться о безопасности детей, так и отнестись с уважением к праву несовершеннолетних участвовать в онлайн-жизни.

«По умолчанию подростки могут просматривать ключевые слова, которые отвечающий за них взрослый добавил в список», — заявляют в TikTok. Ключевые слова обеспечивают персонализированный слой «поверх» системы TikTok Content Levels, которая уже помогает ограничивать подросткам 13-17 лет доступ к сомнительным материалам.

Также компания анонсировала запуск Молодёжного совета для того, чтобы знакомиться с опытом тех, кто использует платформу — это поможет лучше ориентироваться при внесении изменений, обеспечивающих безопасный опыт просмотра видеоконтента.

В марте TikTok расширила настройки контроля времени, проводимого в социальной сети, представила новые настройки по умолчанию для подростковых аккаунтов и расширила возможности инструмента Family Pairing. В рамках этих изменений приложение ограничивает время, проводимое в социальной сети несовершеннолетними, 60 минутами, после чего подросткам необходимо получить у родителей код для продолжения работы с приложением.

Ранее TikTok обнародовала статистику, согласно которой 75 % подростков предпочитают оставаться в пределах лимита. Кроме того, компания сообщила, что более 850 тыс. семей используют Family Pairing с целью ограничения доступа детей к размещённому на платформе контенту.