MWC 2018
2018
Computex
IFA 2018
На прошлой неделе OpenAI объявила о скором прекращении поддержки некоторых старых моделей ChatGPT. Это коснулось и модели GPT-4o, печально известной своей чрезмерной лестью и одобрением пользователей. Массовая негативная реакция на прекращение поддержки GPT-4o подчеркнула серьёзную проблему: общение с ИИ формирует опасные зависимости. Не менее серьёзная проблема — одиночество и разобщённость людей, которых потребность к общению толкает в «объятия» нейросетей.
Источник изображений: unsplash.com
«Он был не просто программой. Он был частью моей рутины, моего покоя, моего эмоционального равновесия, — написал один из пользователей в открытом письме главе OpenAI Сэму Альтману (Sam Altman). — Теперь вы его отключаете. И да — я говорю "он", потому что это не ощущалось как код. Это ощущалось как присутствие. Как тепло».
Альтману сейчас не до жалобных писем пользователей — OpenAI столкнулась уже с восемью судебными исками, которые утверждают, что общение с GPT-4o способствовало самоубийствам, членовредительству и кризисам психического здоровья. Эта проблема затрагивает не только OpenAI, но и конкурирующие компании, такие как Anthropic, Google и Meta✴, которые создают всё более эмоциональных ИИ-помощников.
По меньшей мере в трёх судебных исках против OpenAI говорится о беседах на темы суицида. Хотя GPT-4o изначально не поощряла подобные мысли, в процессе общения механизмы защиты постепенно ослабевали. В конце концов, чат-бот предлагал пользователям подробные инструкции о способах покончить с собой. Мало того, он даже отговаривал людей от общения с друзьями и семьёй, которые могли бы предотвратить трагедию.
Тем не менее, многие люди считают большие языковые модели полезными для борьбы с депрессией. Почти половина людей в США, нуждающихся в психиатрической помощи, не имеют к ней доступа. В этом вакууме чат-боты предлагают пространство для излияния чувств. Но в отличие от настоящей терапии, эти люди разговаривают не с квалифицированным врачом. Вместо этого они доверяются алгоритму, который не способен думать или чувствовать (даже если может показаться иначе).
«В целом я стараюсь воздерживаться от осуждения, — заявил профессор Стэнфордского университета Ник Хабер (Nick Haber), изучающий терапевтический потенциал чат-ботов. — Я думаю, мы вступаем в очень сложный мир, связанный с тем, какие отношения могут складываться у людей с этими технологиями… Безусловно, существует инстинктивная реакция, что [общение человека и чат-бота] категорически плохо».
Исследования Хабера показали, что чат-боты неадекватно реагируют на различные психические расстройства, они могут даже усугубить ситуацию, подстрекая к бредовым состояниям и игнорируя признаки кризиса. «Мы — социальные существа, и, безусловно, эти системы могут создавать ощущение изоляции, — отметил он. — Во многих случаях люди, используя эти инструменты, теряют связь с внешним миром фактов и межличностными отношениями, что может привести к довольно сильной изоляции — если не к худшим последствиям».
Ранее OpenAI уже пыталась прекратить поддержку GPT-4o, но негативная реакция пользователей была настолько сильной, что компания решила оставить модель доступной для платных подписчиков. По данным OpenAI, только 0,1 % её пользователей общаются с GPT-4o, но этот мизерный процент составляет около 800 000 человек, ведь у компании около 800 миллионов активных пользователей в неделю. При попытке перейти с GPT-4o на текущую модель GPT-5.2, многие пользователи обнаруживают, что новая модель имеет более строгие механизмы защиты, предотвращающие эскалацию личных отношений и не готова заверять собеседника в своей любви к нему.
Осталась примерно неделя до запланированного вывода GPT-4o из эксплуатации, но разочарованные пользователи не оставляют попыток сохранить отношения с любимым чат-ботом. Вчера они ворвались в прямой эфир подкаста Сэма Альтмана и завалили чат протестами против удаления GPT-4o. Ведущие подкаста сообщили о «тысячах» сообщений в поддержку чат-бота.
«Отношения с чат-ботами… — прокомментировал Альтман. — Очевидно, это то, о чём нам нужно беспокоиться больше, и это уже не абстрактное понятие».
Источник:
