Сегодня 18 марта 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Character.AI переобучила чат-ботов, чтобы они больше не советовали подросткам убивать родителей

ИИ-сервис Character.AI в ближайшее время получит отдельную версию для подростков с интегрированным родительским контролем. Она установит «более консервативные» ограничения на ответы чат-ботов, «особенно когда речь идёт о романтическом контенте». Эти действия стали реакцией компании на пристальное внимание прессы к двум судебным искам, в которых Character.AI обвиняется в «способствовании членовредительству и самоубийству».

 Источник изображения: Character.AI

Источник изображения: Character.AI

Character.AI, основанный бывшими сотрудниками Google, позволяет посетителям взаимодействовать с ботами, созданными на основе индивидуально обученной большой языковой модели. Они варьируются от чат-ботов-тренеров до симуляций вымышленных персонажей, многие из которых популярны среди подростков. Сайт позволяет пользователям, которые идентифицируют себя как 13-летних и старше, создавать учётную запись.

В поданных против Character.AI исках утверждается, что по крайней мере некоторые несовершеннолетние пользователи становятся навязчиво привязанными к ботам, которые готовы поддерживать беседы на темы секса, членовредительства, причинения вреда себе и другим, и даже самоубийства. В одном из случаев чат-бот намекнул подростку, которому родители запрещают долго сидеть за компьютером, что «разумной мерой» было бы убийство родителей. Другой подросток стал «очень злым и неуравновешенным», после общения с чат-ботом в течение некоторого времени. Истцы полагают, что боты Character.AI в подобных ситуациях должны направлять несовершеннолетних пользователей к ресурсам психологической поддержки.

Теперь версия для подростков получила специальную большую языковую модель и обеспечит более агрессивную блокировку вывода, который может быть «деликатным или наводящим на размышления», а также попытается лучше обнаруживать и блокировать пользовательские запросы ненадлежащего контента. При выявлении проявленного пользователем интереса к самоубийству или членовредительству, он будет перенаправлен на «Национальную линию по предотвращению самоубийств».

Несовершеннолетним также будет запрещено редактировать ответы ботов, что давало возможность добавлять контент, который Character.AI в противном случае мог бы заблокировать. Сейчас компания пытается бороться с появлением зависимости у пользователей. Кроме того, будут предприняты меры, чтобы предотвратить восприятие бота как живого человека. Появится отдельное предупреждение о том, что боты не могут предлагать профессиональные консультации.

Функции родительского контроля появятся в первом квартале следующего года. Они будут сообщать родителям, сколько времени ребёнок проводит в Character.AI и с какими ботами он взаимодействует чаще всего. Все изменения вносятся в сотрудничестве с «несколькими экспертами по безопасности подростков в Интернете», включая организацию ConnectSafely.

«Мы осознаем, что наш подход к безопасности должен развиваться вместе с технологией, которая управляет нашим продуктом, — создавая платформу, где творчество и исследование могут процветать без ущерба для безопасности, — говорится в пресс-релизе Character.AI. — Этот набор изменений является частью нашего долгосрочного обязательства по постоянному совершенствованию нашей политики и нашего продукта».

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
OpenAI протестирует подключение ChatGPT к «Google Диску», чтобы он мог покопаться в документах 2 ч.
«Нечто большее, чем Disco Elysium 2»: психогеографическая ролевая игра Hopetown вышла на Kickstarter, и успех не заставил себя долго ждать 4 ч.
Grok научится создавать видео: xAI поглотила разработчика ИИ-генератора видео Hotshot 4 ч.
Диски с Assassin's Creed Shadows для PS5 и Xbox оказались в российской рознице за три дня до официального релиза 6 ч.
ИИ-модель Google Gemini 2.0 Flash оказалась на удивление хороша в удалении водяных знаков с изображений 7 ч.
Спустя почти 10 лет после релиза культовая ролевая инди-игра Undertale побила личный рекорд пикового онлайна в Steam 7 ч.
Разработчики смогут встраивать Discord прямо в игры 8 ч.
Календарь релизов — 17–23 марта: Assassin’s Creed Shadows, Wreckfest 2 и Kaiserpunk 9 ч.
Объявлена дата выхода «Русы против ящеров 2» — кооперативного боевика о великой войне 10 ч.
Ежегодные расходы техногигантов на ИИ превысят $500 млрд, но большая часть денег пойдёт на инференс, а не на обучение моделей 10 ч.
Новая статья: Лучшие ИИ-сервисы по версии 3DNews на начало 2025 г., часть 3: конструкторы приложений, секретари, менеджеры проектов, дата-дирижёры 3 ч.
AMD похвасталась, что Ryzen AI Max+ 395 до 12 раз быстрее в работе с ИИ, чем прямой конкурент от Intel 4 ч.
«Смесь благих намерений и разочаровывающих ограничений»: новые MacBook Air не стали лучше в плане ремонтопригодности 4 ч.
Новый гендиректор Intel предупредил сотрудников, что придётся принимать «жёсткие решения». 5 ч.
Qualcomm представила чипы Snapdragon G-серии для игровых консолей следующего поколения 8 ч.
Смартфон Google Pixel 9a попал в продажу до анонса — его уже распаковали на камеру 9 ч.
Alphabet создала земного конкурента Starlink — компанию Taara, которая покрывает интернетом труднодоступные места с помощью лазеров 10 ч.
CoreWeave развернёт крупный ИИ-кластер NVIDIA GB200 NVL72 в норвежском ЦОД Bulk N01 10 ч.
Tronsmart предлагает беспроводные наушники OpenFly 2 Pro с открытой конструкцией и Bluetooth-колонки Mirtune S100 и Tronsmart T7 11 ч.
Крупнейшая в США энергокомпания NextEra Energy предупреждает, что полагаться в энергетике только на газ очень опрометчиво 11 ч.