ChatGPT является универсальным интерфейсом для взаимодействия с искусственным интеллектом, поэтому даже самые нелюдимые пользователи увидели в нём альтернативу живому собеседнику. По собственной статистике OpenAI, среди еженедельной аудитории ChatGPT сотни тысяч человек демонстрируют признаки психических расстройств, а свыше миллиона задумываются о суициде.

HUAWEI FreeArc: вероятно, самые удобные TWS-наушники

Hollow Knight: Silksong — песнь страданий и радостей. Рецензия

Пять причин полюбить HONOR Pad V9

Пять причин полюбить HONOR X8c

Пять причин полюбить HONOR Magic7 Pro

Почему ИИ никак не сесть на безматричную диету

Фитнес-браслет HUAWEI Band 10: настоящий металл

Обзор умных часов HUAWEI WATCH 5: часы юбилейные

Источник изображения: OpenAI

В целом, руководство OpenAI утверждает, что сервисами стартапа еженедельно пользуются около 800 млн человек или примерно 10 % населения нашей планеты. Как отмечает Gizmodo, компания опубликовала статистику тревожных проявлений со стороны активных пользователей, к которым относятся признаки психического расстройства, чрезмерной зависимости от чат-бота и мысли о самоубийстве.

Например, до 0,07 % еженедельной аудитории ChatGPT демонстрируют признаки психоза и маний разного характера, суицидальными наклонностями страдают до 0,15 % еженедельной аудитории, и примерно такая же часть находится в сильной эмоциональной зависимости от искусственного интеллекта. В общей сложности, подобные тревожные признаки поведения присущи трём миллионам человек, как подсчитал источник.

Сама OpenAI старается не провоцировать эту часть аудитории на социально вредные действия, для чего консультируется со 170 специалистами в области психиатрии. За счёт этого стартап пытается научить ChatGPT давать более мягкие ответы пользователям с тревожными симптомами, предлагает им обратиться за консультацией к специалисту или меньше времени проводить в чат-боте. В результате количество нежелательных в таких ситуациях ответов удалось сократить на 65–80 %, но ChatGPT всё равно не прерывает беседу и не блокирует доступ к своим ресурсам для таких пользователей.

Признаки психоза и мании еженедельно демонстрируют до 560 000 пользователей ChatGPT, если перейти от относительных показателей к абсолютным, при этом аналогичные признаки наблюдаются в 0,01 % еженедельно передаваемых в ChatGPT сообщений — это примерно 1,8 млн сообщений, если учесть, что всего их в неделю принимается около 18 млн штук.

Потенциальных самоубийц в ChatGPT набирается по 1,2 млн человек в неделю, они формируют до 9 млн сообщений соответствующего содержания. Чрезмерную зависимость от ИИ способны демонстрировать 1,2 млн человек в неделю, которые создают 5,4 млн сообщений профильного содержания. Попытки OpenAI продемонстрировать озабоченность подобными тенденциями можно подвергнуть критике, ведь она сама недавно рассказала о своих инициативах по приданию чат-боту более выраженной индивидуальности и использованию ИИ для создания контента эротического содержания. Вряд ли развитие технологий в таком русле будет способствовать укреплению психического здоровья клиентов OpenAI.

Компания OpenAI разрабатывает «детский интерфейс ChatGPT» и планирует использовать технологию предсказания возраста, чтобы лишить детей и подростков младше 18 лет доступа к стандартной версии. Компания подчеркнула — если её инструменты не смогут уверенно определить возраст человека, ChatGPT «из предосторожности» будет использовать версию для лиц младше 18 лет. Также OpenAI считает, что любые пользователи ChatGPT должны быть старше 13 лет.

Обзор умных часов HUAWEI WATCH 5: часы юбилейные

Пять причин полюбить HONOR X8c

Hollow Knight: Silksong — песнь страданий и радостей. Рецензия

Пять причин полюбить HONOR Magic7 Pro

HUAWEI FreeArc: вероятно, самые удобные TWS-наушники

Почему ИИ никак не сесть на безматричную диету

Фитнес-браслет HUAWEI Band 10: настоящий металл

Пять причин полюбить HONOR Pad V9

Источник изображения: unsplash.com

Результаты последних исследований в области взаимоотношений людей и искусственного интеллекта вызывают нешуточную тревогу по поводу рисков продолжительного общения с чат-ботами для психического здоровья подростков. Недавно OpenAI объявила о масштабной инициативе по установлению новых ограничений для подростков и людей, находящихся в состоянии эмоционального стресса. Компания планирует внедрить эту функцию к концу года.

«Мы ставим безопасность выше конфиденциальности и свободы подростков; это новая и мощная технология, и мы считаем, что несовершеннолетним необходима значительная защита, — заявил глава OpenAI Сэм Альтман (Sam Altman). — Некоторые наши принципы противоречат друг другу, и мы хотели бы разъяснить решения, которые мы принимаем в связи с конфликтом между безопасностью, свободой и конфиденциальностью подростков».

Источник изображения: OpenAI Forum

Новый детский интерфейс ChatGPT возлагает большую часть ответственности на родителей и опекунов. Родителям понадобится связать свои учётные записи с учётными записями подростков, отправив ребёнку приглашение. После этого они смогут ограничить реакцию ChatGPT на подростков с помощью встроенных правил, соответствующих возрасту.

Родители смогут отключать или включать определённые функции, включая память и историю чатов. Включив соответствующую функцию, они будут получать уведомления, если «система обнаружит, что их подросток находится в состоянии острого стресса». OpenAI позволит родителям устанавливать часы отключения, когда подросток не может использовать ChatGPT.

Заявление OpenAI сделано всего за несколько часов до слушаний в Вашингтоне, посвящённых потенциальному вреду чат-ботов на основе искусственного интеллекта. На этих слушаниях группа сенаторов намерена изучить риски для подростков, связанные с чат-ботами. Независимо от этого, на прошлой неделе Федеральная торговая комиссия (FTC) начала собственное расследование безопасности чат-ботов, запросив информацию у OpenAI, Meta✴✴, Google, xAI, Snap и Character.AI.

Технологические компании, как правило, в ответ на судебные иски создают специализированные приложения для подростков и детей — например, YouTube Kids. Но самым большим препятствием для использования подобных приложений является необходимость убедить подростков связать свои аккаунты с родительским.

Источник изображения: unsplash.com

OpenAI давно заявляет, что все пользователи ChatGPT должны быть не моложе 13 лет. Сообразительные молодые люди часто значительно лучше разбираются в информационных технологиях, чем их родители и опекуны. Для них не составит труда найти обходные пути, чтобы получить доступ к нужным сайтам и приложениям.