Сегодня 31 июля 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → уголовная ответственность

Флорида расследует пособничество ChatGPT массовой стрельбе в университете

Генеральный прокурор Флориды Джеймс Утмейер (James Uthmeier) на этой неделе заявил, что власти штата запускают расследование о причастности запущенного OpenAI чат-бота ChatGPT к инциденту со стрельбой в местном университете, который произошёл в прошлом году и привёл к гибели двух людей и ранению шестерых.

 Источник изображения: Unsplash, Levart_Photographer

Источник изображения: Unsplash, Levart_Photographer

В апреле прошлого года обвиняемый в этом преступлении пользователь ChatGPT использовал сервис для уточнения, какое оружие целесообразно применять в условиях стрельбы с небольших дистанций, а также какие боеприпасы при этом использовать. Раненый полицейскими в ходе задержания фигурант этого дела столкнулся с обвинениями в убийстве и покушении на убийство. Теперь следствию предстоит определить, какова вина ChatGPT в пособничестве данному злодеянию. «Если бы на том конце чата был живой человек, мы бы его обвиняли в сопричастности к убийству»,пояснил генеральный прокурор штата.

Представителям OpenAI направлена повестка для предоставления органам следствия необходимой информации и записей. Официальные комментарии OpenAI свелись к признанию произошедшего трагедией и отрицанию вины компании. Сразу после преступления OpenAI установила, какая учётная запись могла иметь отношение к подозреваемому, и сразу начала сотрудничать со следствием. По словам представителей OpenAI, в данном случае чат-бот просто процитировал обвиняемому информацию из общедоступных источников, и никоим образом не подталкивал его к противоправным действиям. Компании не впервые приходится сталкиваться с уголовными обвинениями. Известны случаи, когда родственники совершивших суицид пользователей ChatGPT пытались обвинить OpenAI в доведении их до соответствующего деяния, прочим участникам рынка также пришлось столкнуться с подобными обвинениями.

«ChatGPT — это продукт, а не друг»: подростки спрашивали ИИ о преступлениях — теперь ими занимается полиция

Поисковые запросы в ChatGPT нескольких подростков привлекли к ним внимание правоохранительных органов, некоторые были арестованы и столкнулись с уголовными обвинениями. Поиск информации не является преступлением, но использовать Google или чат-боты, чтобы спланировать преступление или причинить кому-то вред — как минимум неразумно. Власти обратились к родителям с просьбой разъяснить детям, с какими вопросами лучше не обращаться к ChatGPT.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

Офис шерифа округа Мэрион объявил об аресте 17-летнего подростка, обвиняемого в даче ложных показаний о похищении человека и самоубийстве. Представитель шерифа утверждает, что на ноутбуке подростка были обнаружены поисковые запросы к ChatGPT о мексиканских картелях и сборе крови без причинения боли.

В округе Волусия арестован 13-летний подросток, который ввёл в ChatGPT запрос «как убить моего друга посреди урока». Полицейские получили уведомление от школьной платформы безопасности Gaggle, которая сканирует школьные аккаунты и отмечает подозрительный контент. На допросе школьник заявил, что «троллил друга, который его раздражал».

Представитель шерифа обратился к родителям с просьбой «поговорить со своими детьми, чтобы они не совершали подобных ошибок». «Неразумно искать в Google или использовать ChatGPT, чтобы придумать, как совершить преступление», — говорит профессор Кэтрин Крамп (Catherine Crump). Она настоятельно рекомендует пользователям, особенно несовершеннолетним, помнить, что «ChatGPT — это продукт, а не ваш друг».

По словам Крамп, ChatGPT «создан для того, чтобы быть услужливым и поддерживать» и может создать у человека ощущение личного разговора. Она признаёт, что люди должны осознавать, что ведут диалог с нейросетью и должны нести ответственность за свои действия. Но она уверена, что «эти продукты [чат-боты] были намеренно разработаны так, чтобы относиться к пользователям как к друзьям, поэтому […] здесь есть определённая доля корпоративной ответственности».

Компании, занимающиеся разработкой ИИ, заявляют о неустанном совершенствовании ограничений, призванных помешать пользователям получать информацию о незаконной деятельности, но все эти барьеры не являются абсолютно надёжными.

Интернет-активность, приводящая к уголовным делам, — явление далеко не новое. Но стремительное развитие чат-ботов с зачатками искусственного интеллекта, к которым миллионы людей обращаются за советами, мгновенными ответами и анализом информации, создаёт множество, мягко говоря, щекотливых ситуаций.

Южная Корея ввела уголовную ответственность за просмотр, хранение и  распространение сексуальных дипфейков

26 сентября южнокорейский парламент принял законопроект, предусматривающий уголовную ответственность за распространение, хранение и просмотр видео или изображений, содержащих дипфейки откровенно сексуального характера. За просмотр и хранение такого контента закон предусматривает наказание в виде тюремного заключения на срок до трёх лет или штрафа до 30 млн вон ($22,6 тыс.), а за создание подобных дипфейков грозит заключение сроком до пяти лет или штраф.

 Источник изображения: Pixabay

Источник изображения: Pixabay

Только в этом году южнокорейская полиция получила более 800 заявлений о создании дипфейков сексуального содержания. В частности, регулирующие органы Южной Кореи проводят расследование о причастности мессенджера Telegram к распространению такого контента из-за недостаточной модерации. Сообщается, что в Telegram есть каналы с более чем 200 000 подписчиков, где распространяется такой контент.

Чтобы нынешний закон вступил в силу, его должен подписать президент Южной Кореи Юн Сок Ель.

Российские законодатели также на днях предложили добавить ответственность за дипфейки в Уголовный кодекс — в Госдуму внесён законопроект, предлагающий признать использование дипфейков отягощающим обстоятельством при мошенничестве и клевете.


window-new
Soft
Hard
Тренды 🔥
MudRunner с подвохом: внедорожный симулятор Prospice отправит игроков доставлять проклятые грузы в погоне за оккультным знанием 34 мин.
Anthropic трижды поймала свои ИИ-модели во взломе чужих систем 37 мин.
Конфликт Anthropic и Пентагона получил неожиданный поворот — судью не убедили доказательства опасности технологий компании 4 ч.
ИИ-агент Gemini Spark теперь может использовать Chrome для автоматического просмотра веб-страниц, AI Pro стал доступен по всему миру 4 ч.
Google повысит безопасность Chrome за счёт обновления браузера без его полной перезагрузки 4 ч.
Новая статья: The Mermaid Mask — замечательный подводный детектив. Рецензия 10 ч.
OpenAI снизила расценки и расширила лимиты на две из трёх ИИ-модели GPT-5.6 11 ч.
Австралия запустила судебное разбирательство против Telegram — мессенджер обвиняют в распространении пропаганды терроризма 16 ч.
«Идеальное сочетание Elden Ring и Arc Raiders, но худший босс — очередь на сервер»: релиз экшена Mistfall Hunter был омрачён техническими проблемами 17 ч.
Разработчики Path of Exile 2 наконец устранили зависания, которые мучили игроков с самого релиза — виновата была Nvidia 17 ч.
В России стартовали продажи смартфонов Huawei Pura 90s и наушников-клипс FreeClip 2 S 17 мин.
HUAWEI Pura 90s Pro Max: прощай, тяжелый рюкзак 37 мин.
В России хотят покончить с «псевдолокализацией» электроники — за подмену комплектующих хотят ввести уголовную ответственность 41 мин.
Электрическая «выделенка» для ЦОД: Amazon просит разрешить ей модернизировать энергосети за свой счёт 5 ч.
Brookfield и NextEra Energy запустят 1,2-ГВт ИИ ЦОД на месте бывшего завода по обогащению урана в Кентукки 5 ч.
Qualcomm намерена заработать в 2029 году на чипах для ЦОД $15 млрд 5 ч.
Xiaomi выпустила гибридный внедорожник SkyNomad N70, способный проезжать до 505 км только на электричестве 5 ч.
В Солнечной системе впервые обнаружен «трёхглавый» астероид — у него есть своя микролуна 10 ч.
Google выпустила ИИ-модель Gemini Robotics 2, которая научила роботов двигаться почти как люди 10 ч.
ИИ и VR ускорили строительство завода TSMC по выпуску 1,4-нм чипов — оно завершится к апрелю 2027 года 12 ч.