Сегодня 01 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → правоохранители

ИИ сдал пользовательницу полиции — она рассказала Claude о планах устроить стрельбу

Жительница Флориды арестована по обвинению в «письменной или электронной угрозе массовой стрельбы / террористического акта». Информация об этой угрозе была получена правоохранительными органами от компании Anthropic. Женщина неоднократно сообщала о намерении устроить стрельбу в офисе шерифа округа при общении с чат-ботом Claude. Сообщается, что это как минимум третий подобный случай за последние два месяца.

 Источник изображений: unsplash.com

Источник изображений: unsplash.com

Как выяснилось, Anthropic отслеживает чаты на предмет ключевых фраз и контента, которые могут быть расценены как угроза. В зависимости от степени серьёзности такие сообщения могут быть переданы на проверку сотрудникам-людям. В данном случае команда компании приняла решение сообщить о выявленной угрозе правоохранительным органам. Проверка судебных реестров подтверждает наличие обвинения в тяжком преступлении, выдвинутого 30 сентября на основании статьи 836.10 законодательства Флориды.

Разговор с чат-ботом может подпадать под действие закона как угроза, отправленная, опубликованная или переданная «любым способом, позволяющим другому лицу ознакомиться с ней». Сообщения, выявленные в ходе проверки сотрудниками Anthropic, включая упоминание огнестрельного оружия, вероятно, послужили основанием для ареста и предъявления обвинения.

Anthropic пока не предоставила комментариев по этому делу. В опубликованной политике конфиденциальности Anthropic, действующей с 10 сентября, указано, что раскрытие информации возможно для предотвращения серьёзного вреда здоровью людей или имуществу. В отчёте о запросах государственных органов за вторую половину 2025 года для экстренного раскрытия информации применяется более строгий критерий — угроза смерти или серьёзных телесных повреждений. За этот период запросов от правоохранительных органов не поступало, однако в статистику не включены случаи, когда Anthropic сама инициировала передачу информации.

 Источник изображений: unsplash.com

Этот инцидент стал одним из ряда недавних случаев, связанных с использованием чат-ботов от компаний Anthropic и OpenAI. 11 августа Anthropic сообщила ФБР о запросах, касающиеся стрельбы в расположенной неподалёку начальной школе. На основании этой информации был арестован мужчина, которому было предъявлено обвинение в террористической угрозе. 14 августа пользователь в чате с Claude пригрозил главе Anthropic огнестрельным оружием. Компания уведомила полицию, однако ареста или предъявления обвинений не последовало.

С похожей ситуацией столкнулась компания OpenAI: в марте пользователь в переписке с чат-ботом ChatGPT заявил о намерении убить свою бывшую девушку. Компания сообщила об этом в ФБР. В августе пользователь признал вину по обвинениям, включавшим письменные угрозы убийством, и был приговорён к восьми годам условного заключения.

В июне генеральный прокурор Флориды подал иск против OpenAI, обвинив компанию в сокрытии информации о стрельбе в Университете штата Флорида. В сентябре власти Британской Колумбии обвинили компанию в том, что она не предупредила полицию о стрелке из Тамблер-Риджа, чью учётную запись в ChatGPT компания идентифицировала за восемь месяцев до нападения.

Эти случаи демонстрируют противоречивую ситуацию: от компаний, разрабатывающих ИИ, ожидают соблюдения конфиденциальности, но в то же время возлагают на них ответственность, если они не сообщают правоохранительным органам об угрозах. Повышенное внимание к вопросам конфиденциальности и безопасности, связанным с ИИ-продуктами, заставляет экспертов призывать к осторожности.

Для пользователей это служит напоминанием о том, что информация, которой они делятся со своим ИИ-собеседником, никогда не бывает по-настоящему анонимной. Пользователям при общении с чат-ботами следует быть предельно внимательными и не допускать высказываний, которые могут трактоваться как угрозы или призывы к насилию.

Российские силовики столкнулись с дефицитом инструментов для взлома iPhone и других смартфонов

Российские правоохранительные органы столкнулись с нехваткой спецоборудования для взлома смартфонов, сообщил ресурс РБК со ссылкой на информированные источники. По словам источников, проблема усугубилась после введения санкций в 2022 году и последовавшего за этим ухода с рынка зарубежных производителей. После прекращения поставок зарубежного оборудования силовые ведомства пока так и не нашли ему качественную замену.

Руководитель департамента информационно-аналитических исследований компании T.Hunter Игорь Бедеров подтвердил РБК, что после ухода таких компаний, как израильская Cellebrite, швейцарская MSAB и американская Magnet, на отечественном рынке остались лишь российское решение «Мобильный криминалист» (разработчик — компания «МКО-Системы»), китайское Forensic MagiCube и ряд продуктов российской компании Elcomsoft.

Разработчик решений для взлома iPhone и Android-смартфонов Cellebrite прекратил сотрудничество с российскими силовыми ведомствами ещё в 2021 году, а решения MSAB подпадают под ограничения ЕС как продукты двойного назначения. Также в 2022 году из России ушла компания BelkaSoft, разработчик ПО для проведения цифровой криминалистики.

Гендиректор Elcomsoft Владимир Каталов сообщил РБК, что ПО для извлечения данных из электронных устройств используется различными правоохранительными органами, в том числе МВД, Следственным комитетом, ФСБ и прокуратурой, в рамках расследования уголовных дел. И хотя полученные данные, такие как геолокация, переписки в мессенджерах, обмен данными и интернет-активность, не являются стопроцентным доказательством, они могут подкреплять информацию, поступившую из других источников.

По словам Бедерова, дефицит криминалистического оборудования ведёт к задержке расследований информационно-коммуникационных преступлений и росту числа «висяков», особенно в случаях, когда данные смартфона являются единственным доказательством.

Руководитель консалтингового агентства BeholderIsHere Consulting Дмитрий Борощук отметил, что в России не развит рынок оборудования для криминалистических исследований смартфонов и отсутствуют целостные комплексы, предназначенные для конкретных задач с учётом работы криминалистов «в поле».

Проблему также представляет постоянное повышение защищённости смартфонов на стандартных ОС — Android и iOS, говорит Бедеров, добавляя, что рынок мал и сильно зависит от бюджетного финансирования, что снижает его привлекательность для частных инвесторов. По его словам, лидером рынка является компания «МКО-Системы», но её продукты пока уступают зарубежным по возможностям, включая поддержку последних версий iOS.

Владимир Каталов назвал среди проблем, связанных с расследованием преступлений с помощью специализированного софта, недостаток квалифицированных специалистов, бюрократические и организационные препятствия при закупках, а также постоянное усиление защиты цифровых устройств и ПО. По мнению эксперта, на рынке лишь решения американских компаний GrayShift и Cellebrite обладают достаточной функциональностью в области взлома мобильных устройств и извлечения данных, однако они используются правоохранительными органами в ограниченном числе стран и в Россию никогда не поставлялись.


window-new
Soft
Hard
Тренды 🔥
Новая статья: Clive Barker’s Hellraiser: Revival — игра, вызывающая приятную боль. Рецензия 7 ч.
Квартальный объём мирового рынка облачных инфраструктур вырос в полтора раза 8 ч.
GamesVoice озвучила последний трейлер GTA VI и намекнула, что русский дубляж игры может появиться «когда-нибудь потом» 11 ч.
Apple Intelligence на следующей неделе доберётся до Китая — с Qwen от Alibaba, но без новой Siri 21 ч.
Новая статья: Gears of War: E-Day — как заводилась бензопила. Рецензия 31-10 00:08
Глава Anthropic призывал замедлить развитие ИИ, но сам не собирается сбавлять обороты 30-10 22:37
Симулятор кошачьего завода «Мурзавод» от создателей «Русы против ящеров» готовится к первой смене — новый трейлер и дата выхода 30-10 22:25
Anthropic запретила клонировать игры в Claude Code — это может ударить даже по легальным проектам 30-10 20:00
В официальный Claude Code подсадили троян — под угрозой компьютеры вайб-кодеров на Windows, Linux и macOS 30-10 19:45
Звёздные войны: авторитетный инсайдер объяснил, почему на самом деле Electronic Arts закрыла BioWare и отменила Mass Effect 5 30-10 18:52
Meta тайно создала прототип человекоподобного робота для дома — помогли китайцы 8 ч.
Прогноз Kioxia разочаровал инвесторов — компания отметила снижение темпов роста стоимости флеш-памяти 8 ч.
Орбитальный ЦОД Google Suncatcher вышел на связь и написал хайку 8 ч.
Подорожают и камеры: Canon готовится переложить рост затрат на покупателей 18 ч.
Инвесторы отрезали OpenAI от денег — компания не собрала и половины от $30 млрд, на которые рассчитывала 21 ч.
GeForce RTX 5080 исчезла из интернет-магазина Nvidia — в рознице за неё просят уже больше $2000 21 ч.
Поставки процессоров для смартфонов рухнули на 21 % — но Apple и Samsung это на руку 22 ч.
Паника на ИИ-рынке не пощадила Nvidia — Apple снова стала самой дорогой компанией мира 22 ч.
Альтман: наличие оперативной памяти в ПК «довольно ужасно» — в ИИ ЦОД она была бы полезнее 31-10 01:22
Neuralink подключила Grok к мозгу человека — искусственный разум помог живому вернуть общение с людьми 30-10 23:25