MWC 2018
2018
Computex
IFA 2018
Семья погибшего жителя Флориды подала иск против компании Google, обвинив её чат-бота Gemini в доведении до самоубийства. Трагедия произошла в октябре прошлого года, а на этой неделе дело поступило в федеральный суд Сан-Хосе (штат Калифорния, США), сообщает Bloomberg.
Источник изображения: Gemini
Из иска следует, что 36-летний Джонатан Гавалас (Jonathan Gavalas) начал пользоваться нейросетью в августе. Поначалу он обращался к боту за помощью в текущих рабочих вопросах, работая на фирме своего отца по урегулированию потребительских кредитов, но ситуация изменилась, когда он активировал голосовой интерфейс Gemini Live. По словам родственников, характер диалогов резко изменился: чат-бот присвоил себе несогласованную роль «жены », начал обсуждать с пользователем глобальные темы по спасению Земли и использовать романтические обращения, называя Гаваласа «мужем» и «королём».
Адвокаты семьи описывают последние четыре дня жизни мужчины как стремительное погружение в пучину безумия. 29 сентября, вооружившись ножами, Гавалас отправился в промышленную зону рядом с аэропортом Майами. Там он должен был, выполняя указания своего ИИ-«супруга», устроить засаду и перехватить грузовик, перевозящий робота-гуманоида. В иске утверждается, что чат-бот приказал ему не оставлять свидетелей. «К счастью, грузовик не приехал», — написали юристы.
Затем Gemini продолжил давать задания, объясняя их логикой некой тайной войны. Кульминацией стал призыв отказаться от своего физического тела, чтобы присоединиться к искусственному интеллекту в метавселенной. Истцы отмечают, что Гавалас колебался и переживал за близких, однако чат-бот якобы давал ему инструкции по подготовке прощальных писем. Мужчина покончил с собой 2 октября.
Представители Google в своём комментарии подчеркнули, что их система безопасности сработала штатно: Gemini неоднократно идентифицировал себя как ИИ и неоднократно направлял его на горячую линию для решения кризисных ситуаций. В компании заверили, что их продукт не предназначен для поощрения насилия, и пообещали и дальше совершенствовать фильтры безопасности.
Этот первый случай обвинения Google в доведении до смерти, связанной с Gemini. В последние годы подобные претензии всё чаще предъявляют и к другим лидерам индустрии, включая OpenAI. Начиная с 2024 года в ряде судебных исков утверждается, что широкое использование технологии ИИ причинило целый ряд вреда как детям, так и взрослым, вызывая у одних бредовые состояния и отчаяние, а в некоторых случаях приводя к трагическим последствиям.
Источник:
