Сегодня 11 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → правоохранители

ИИ сдал пользовательницу полиции — она рассказала Claude о планах устроить стрельбу

Жительница Флориды арестована по обвинению в «письменной или электронной угрозе массовой стрельбы / террористического акта». Информация об этой угрозе была получена правоохранительными органами от компании Anthropic. Женщина неоднократно сообщала о намерении устроить стрельбу в офисе шерифа округа при общении с чат-ботом Claude. Сообщается, что это как минимум третий подобный случай за последние два месяца.

 Источник изображений: unsplash.com

Источник изображений: unsplash.com

Как выяснилось, Anthropic отслеживает чаты на предмет ключевых фраз и контента, которые могут быть расценены как угроза. В зависимости от степени серьёзности такие сообщения могут быть переданы на проверку сотрудникам-людям. В данном случае команда компании приняла решение сообщить о выявленной угрозе правоохранительным органам. Проверка судебных реестров подтверждает наличие обвинения в тяжком преступлении, выдвинутого 30 сентября на основании статьи 836.10 законодательства Флориды.

Разговор с чат-ботом может подпадать под действие закона как угроза, отправленная, опубликованная или переданная «любым способом, позволяющим другому лицу ознакомиться с ней». Сообщения, выявленные в ходе проверки сотрудниками Anthropic, включая упоминание огнестрельного оружия, вероятно, послужили основанием для ареста и предъявления обвинения.

Anthropic пока не предоставила комментариев по этому делу. В опубликованной политике конфиденциальности Anthropic, действующей с 10 сентября, указано, что раскрытие информации возможно для предотвращения серьёзного вреда здоровью людей или имуществу. В отчёте о запросах государственных органов за вторую половину 2025 года для экстренного раскрытия информации применяется более строгий критерий — угроза смерти или серьёзных телесных повреждений. За этот период запросов от правоохранительных органов не поступало, однако в статистику не включены случаи, когда Anthropic сама инициировала передачу информации.

 Источник изображений: unsplash.com

Этот инцидент стал одним из ряда недавних случаев, связанных с использованием чат-ботов от компаний Anthropic и OpenAI. 11 августа Anthropic сообщила ФБР о запросах, касающиеся стрельбы в расположенной неподалёку начальной школе. На основании этой информации был арестован мужчина, которому было предъявлено обвинение в террористической угрозе. 14 августа пользователь в чате с Claude пригрозил главе Anthropic огнестрельным оружием. Компания уведомила полицию, однако ареста или предъявления обвинений не последовало.

С похожей ситуацией столкнулась компания OpenAI: в марте пользователь в переписке с чат-ботом ChatGPT заявил о намерении убить свою бывшую девушку. Компания сообщила об этом в ФБР. В августе пользователь признал вину по обвинениям, включавшим письменные угрозы убийством, и был приговорён к восьми годам условного заключения.

В июне генеральный прокурор Флориды подал иск против OpenAI, обвинив компанию в сокрытии информации о стрельбе в Университете штата Флорида. В сентябре власти Британской Колумбии обвинили компанию в том, что она не предупредила полицию о стрелке из Тамблер-Риджа, чью учётную запись в ChatGPT компания идентифицировала за восемь месяцев до нападения.

Эти случаи демонстрируют противоречивую ситуацию: от компаний, разрабатывающих ИИ, ожидают соблюдения конфиденциальности, но в то же время возлагают на них ответственность, если они не сообщают правоохранительным органам об угрозах. Повышенное внимание к вопросам конфиденциальности и безопасности, связанным с ИИ-продуктами, заставляет экспертов призывать к осторожности.

Для пользователей это служит напоминанием о том, что информация, которой они делятся со своим ИИ-собеседником, никогда не бывает по-настоящему анонимной. Пользователям при общении с чат-ботами следует быть предельно внимательными и не допускать высказываний, которые могут трактоваться как угрозы или призывы к насилию.

Российские силовики столкнулись с дефицитом инструментов для взлома iPhone и других смартфонов

Российские правоохранительные органы столкнулись с нехваткой спецоборудования для взлома смартфонов, сообщил ресурс РБК со ссылкой на информированные источники. По словам источников, проблема усугубилась после введения санкций в 2022 году и последовавшего за этим ухода с рынка зарубежных производителей. После прекращения поставок зарубежного оборудования силовые ведомства пока так и не нашли ему качественную замену.

Руководитель департамента информационно-аналитических исследований компании T.Hunter Игорь Бедеров подтвердил РБК, что после ухода таких компаний, как израильская Cellebrite, швейцарская MSAB и американская Magnet, на отечественном рынке остались лишь российское решение «Мобильный криминалист» (разработчик — компания «МКО-Системы»), китайское Forensic MagiCube и ряд продуктов российской компании Elcomsoft.

Разработчик решений для взлома iPhone и Android-смартфонов Cellebrite прекратил сотрудничество с российскими силовыми ведомствами ещё в 2021 году, а решения MSAB подпадают под ограничения ЕС как продукты двойного назначения. Также в 2022 году из России ушла компания BelkaSoft, разработчик ПО для проведения цифровой криминалистики.

Гендиректор Elcomsoft Владимир Каталов сообщил РБК, что ПО для извлечения данных из электронных устройств используется различными правоохранительными органами, в том числе МВД, Следственным комитетом, ФСБ и прокуратурой, в рамках расследования уголовных дел. И хотя полученные данные, такие как геолокация, переписки в мессенджерах, обмен данными и интернет-активность, не являются стопроцентным доказательством, они могут подкреплять информацию, поступившую из других источников.

По словам Бедерова, дефицит криминалистического оборудования ведёт к задержке расследований информационно-коммуникационных преступлений и росту числа «висяков», особенно в случаях, когда данные смартфона являются единственным доказательством.

Руководитель консалтингового агентства BeholderIsHere Consulting Дмитрий Борощук отметил, что в России не развит рынок оборудования для криминалистических исследований смартфонов и отсутствуют целостные комплексы, предназначенные для конкретных задач с учётом работы криминалистов «в поле».

Проблему также представляет постоянное повышение защищённости смартфонов на стандартных ОС — Android и iOS, говорит Бедеров, добавляя, что рынок мал и сильно зависит от бюджетного финансирования, что снижает его привлекательность для частных инвесторов. По его словам, лидером рынка является компания «МКО-Системы», но её продукты пока уступают зарубежным по возможностям, включая поддержку последних версий iOS.

Владимир Каталов назвал среди проблем, связанных с расследованием преступлений с помощью специализированного софта, недостаток квалифицированных специалистов, бюрократические и организационные препятствия при закупках, а также постоянное усиление защиты цифровых устройств и ПО. По мнению эксперта, на рынке лишь решения американских компаний GrayShift и Cellebrite обладают достаточной функциональностью в области взлома мобильных устройств и извлечения данных, однако они используются правоохранительными органами в ограниченном числе стран и в Россию никогда не поставлялись.


window-new
Soft
Hard
Тренды 🔥
Новая статья: Ace Combat 8: Wings of Theve — одна из лучших игр серии. Рецензия 6 ч.
Трамп обещал отделить американский TikTok от Китая, но связи с ByteDance сохранились 14 ч.
Стартап из 14 человек подтолкнул Цукерберга к запуску Muse, несмотря на проблемы с безопасностью 14 ч.
Гонка ИИ превратилась в ценовую войну — OpenAI догоняет Anthropic 17 ч.
Anthropic и OpenAI готовятся к первой крупной катастрофе по вине ИИ 20 ч.
Официально: продажи тактической стратегии Star Wars Zero Company от ветеранов XCOM превысили миллион копий 20 ч.
Белый дом отныне будет требовать от разработчиков ИИ обязательного предоставления отчётов об инцидентах с моделями 23 ч.
Президент Трамп объявил врагами всех, кто не готов использовать термин «сверхинтеллект» 23 ч.
Новая статья: RetroSpace — осторожно, уборщик галактику спасает. Рецензия 10-10 00:07
Девять из десяти клиентов VMware задумались об уходе из-за высоких цен 09-10 23:52
Let's Encrypt с февраля 2027 года перейдёт на 64-дневные сертификаты 5 ч.
ASML повысила цены на весь ассортимент комплектующих для литографического оборудования 13 ч.
С аппаратных криптокошельков Ledger укарали криптовалюту на $86 млн — и пока непонятно, как 13 ч.
«Настоящая золотая лихорадка» — ИИ-бум перерос в ожесточённую борьбу за вычислительные мощности 15 ч.
Американская Synopsys хочет привлечь китайский ИИ к проектированию китайских чипов — чтобы соблюсти санкции 15 ч.
Аналитики ожидают обрушения спроса на ноутбуки в 2027 году из-за роста цен 15 ч.
Стоимость современных серверов с поставкой в Россию удвоилась за год 15 ч.
Рекордные цены отпугнули покупателей Xbox и PlayStation — рынку консолей угрожает кризис, как в 80-х 16 ч.
HPE анонсировала серверы ProLiant Gen13 на платформе AMD EPYC Venice 9006 17 ч.
До 22 ядер Arm Neoverse N2 и два канала DDR5-5200: Xsight Labs представила DPU серии E1L 17 ч.