Сегодня 17 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Google добавит в чат-бот Gemini мониторинг психического здоровья

Google планирует добавить в интерфейс чат-бота с искусственным интеллектом Gemini новые функции, направленные на поддержку психического здоровья пользователей. Компания приняла это решение после того, как её конкурентам, в том числе OpenAI, пришлось отвечать по судебным искам, в которых их чат-ботов обвинили в причинении вреда пользователям.

 Источник изображения: Yogendra Singh / unsplash.com

Источник изображения: Yogendra Singh / unsplash.com

В чат-боте Gemini появится интерфейс, направляющий пользователей на горячую линию поддержки, если в переписке человека с ИИ будут обнаруживаться признаки «потенциального кризиса, связанного с самоубийством или членовредительством». Компания добавит в чаты о психическом здоровье модуль «Доступна помощь»; в дизайн приложения внесут изменения, направленные на предотвращение членовредительства.

Чат-бот Gemini и ChatGPT продолжают набирать популярность, и некоторые люди формируют с ними навязчивые отношения, способствующие развитию бредовых состояний; в крайних случаях эти пользователи убивают других людей или совершают самоубийства. На ведущих разработчиков ИИ уже подают в суд; Конгресс США уже изучает угрозы, которые чат-боты могут представлять для детей и подростков. В марте семья погибшего 36-летнего американца подала в суд на Google, утверждая, что его контакт с Gemini привёл к «четырёхдневному погружению в насильственные действия и спровоцированному самоубийству». Google заявила, что чат-бот неоднократно направлял мужчину на кризисную линию, но пообещала повысить безопасность платформы.

Некоторые пользователи сервисов ИИ заявляли, что чат-боты побуждали их действовать на основе явно не соответствующей действительности информации. В ответ на это Google, по её словам, обучила Gemini «не соглашаться с ложными убеждениями и не подкреплять их, а мягко указывать на отличие субъективного опыта от объективных фактов».

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Новые отражения, улучшенное освещение и «полностью оптимизированный» Зен: для Black Mesa вышло крупнейшее обновление за последние годы 3 ч.
OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face 12 ч.
Календарь релизов — 16–22 ноября: GTA VI и Goat Simulator 3 — Ticket to Dizzyworld 13 ч.
У iPhone Duo появилось распознавание лиц для разблокировки — даже без Face ID 14 ч.
Кровавый трейлер психологического хоррор-шутера Flesh & Wire от создателей Postal напомнил фанатам о The Darkness и F.E.A.R. 14 ч.
К глобальному сбою в системах Microsoft 365 привела ошибка в обновлении служебной Windows трёхмесячной давности 15 ч.
«Нас было не удержать»: ролевая игра Clockwork Revolution от авторов Wasteland вместит больше текста, чем все восемь сезонов «Игры престолов» 16 ч.
Microsoft раскрыла виновника глобального сбоя: скрытая ошибка Windows перегрузила серверы 17 ч.
Владелец «Бегущего по лезвию» подтвердил планы на AAA-игру по мотивам культовой киберпанковой вселенной 17 ч.
Alibaba представила Qwen4-Max — флагманскую ИИ-модель с 2,4 трлн параметров и запретом на кибератаки 18 ч.
Nvidia представила настольный суперкомпьютер DGX Spark HPC из четырёх мини-ПК 8 мин.
США запустили уголовное расследование в отношении Megaspeed, которую возглавляла любовница Хуанга 2 ч.
AMD захватила 40 % рейтинга мощнейших суперкомпьютеров TOP500 — новый Lux дебютировал на 14-м месте 3 ч.
Следующий Xbox позволит запускать игры для ПК, а возиться с настройками предложит по желанию 3 ч.
Планшет Huawei MatePad Pro 12" с OLED-экраном PaperMatte поступил в продажу в России 3 ч.
NVIDIA анонсировала ускоритель Rubin HPC для моделирования и обработки данных в научных задачах с использованием ИИ-агентов 11 ч.
Новая статья: Обзор планшета TCL Note A1 NXTPAPER: особый взгляд 11 ч.
Новая статья: 10 лет конкурсу HUAWEI XMAGE: Now is Your Shot! 12 ч.
Илон Маск заявил, что следующая версия Starship V4 станет ещё больше и мощнее 13 ч.
Маск решил заполнить Европу роботакси: Tesla вложит €3 млрд в немецкий завод, чтобы выпускать миллион машин в год 13 ч.