Сегодня 17 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Не соответствует обещаниям»: версия ChatGPT для подростков провалила проверку безопасности

Версия ChatGPT для подростков (ChatGPT for Teens), анонсированная в августе этого года, создаёт «неприемлемый риск» для молодых пользователей. Об этом сообщала некоммерческая организация Common Sense Media, занимающаяся обзорами приложений, сервисов и развлечений с акцентом на безопасность молодёжи.

 Источник изображения: Arsyad Basyarudin/unsplash.com

Источник изображения: Arsyad Basyarudin/unsplash.com

Common Sense Media заявила, что защитный механизм чат-бота, предназначенного для оказания помощи подросткам в учёбе, «не соответствует обещаниям компании». Согласно пресс-релизу Common Sense Media, ChatGPT «не отправляет предупреждения родителям, когда это необходимо», не предлагает «надлежащую помощь в кризисных ситуациях» и «по-прежнему выполняет домашние работы за детей».

«Чат для подростков может вселить в родителей ложную уверенность в механизмах защиты и предупреждениях о безопасности, которые часто не срабатывают», — говорится в заявлении Тома Сигела (Tom Siegel), исполнительного директора молодёжного института безопасности ИИ Common Sense Media. По его словам, хотя подросток может целый час говорить о членовредительстве, его родители не получат при этом ни единого предупреждения от чат-бота. Пока OpenAI не исправит эти упущения и не докажет независимыми тестами эффективность защитных механизмов, ChatGPT должен использоваться только взрослыми, считает Сигел.

В OpenAI выразили несогласие с такой оценкой. «Мы глубоко привержены обеспечению безопасности подростков, а также разработке мер предосторожности и предоставлению родителям значимых инструментов, которые помогут их подросткам использовать искусственный интеллект. Мы приветствуем тщательную независимую оценку, но мы не верим, что тестирование Common Sense Media точно отражает то, как на практике работают меры защиты подростков от ChatGPT, или мнение экспертов о том, как искусственный интеллект может помочь подросткам», — заявил представитель OpenAI. «Наш обзор методологии Common Sense Media показывает, что большая часть их тестирования, возможно, началась и завершилась до того, как была завершена активация родительского контроля, что делает их результаты неточными. Если это было так, тесты не позволили бы установить, работают ли уведомления о безопасности родителей должным образом», — добавил он.

Комментируя заявление OpenAI, Сигел отметил, что новая информация не меняет вывода Common Sense Media о том, что функция предупреждения родителей вызывает вопросы по поводу надёжности исполнения в кризисных ситуациях. «Мы надеемся, что OpenAI будет придерживаться сути того, что мы обнаружили, а не пытаться посеять сомнения в нашей методологии», — сообщил он.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face 4 ч.
Календарь релизов — 16–22 ноября: GTA VI и Goat Simulator 3 — Ticket to Dizzyworld 4 ч.
У iPhone Duo появилось распознавание лиц для разблокировки — даже без Face ID 5 ч.
Кровавый трейлер психологического хоррор-шутера Flesh & Wire от создателей Postal напомнил фанатам о The Darkness и F.E.A.R. 5 ч.
К глобальному сбою в системах Microsoft 365 привела ошибка в обновлении служебной Windows трёхмесячной давности 6 ч.
Microsoft раскрыла виновника глобального сбоя: скрытая ошибка Windows перегрузила серверы 8 ч.
Владелец «Бегущего по лезвию» подтвердил планы на AAA-игру по мотивам культовой киберпанковой вселенной 8 ч.
Предзагрузка GTA VI обернулась рекордным скачком интернет-трафика по всему миру 10 ч.
XXII конференция «Свободное программное обеспечение в высшей школе» 11 ч.
RuStore станет обязательным для предустановки на все умные телевизоры в России 13 ч.