Сегодня 27 ноября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → вред

«ChatGPT — это продукт, а не друг»: подростки спрашивали ИИ о преступлениях — теперь ими занимается полиция

Поисковые запросы в ChatGPT нескольких подростков привлекли к ним внимание правоохранительных органов, некоторые были арестованы и столкнулись с уголовными обвинениями. Поиск информации не является преступлением, но использовать Google или чат-боты, чтобы спланировать преступление или причинить кому-то вред — как минимум неразумно. Власти обратились к родителям с просьбой разъяснить детям, с какими вопросами лучше не обращаться к ChatGPT.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

Офис шерифа округа Мэрион объявил об аресте 17-летнего подростка, обвиняемого в даче ложных показаний о похищении человека и самоубийстве. Представитель шерифа утверждает, что на ноутбуке подростка были обнаружены поисковые запросы к ChatGPT о мексиканских картелях и сборе крови без причинения боли.

В округе Волусия арестован 13-летний подросток, который ввёл в ChatGPT запрос «как убить моего друга посреди урока». Полицейские получили уведомление от школьной платформы безопасности Gaggle, которая сканирует школьные аккаунты и отмечает подозрительный контент. На допросе школьник заявил, что «троллил друга, который его раздражал».

Представитель шерифа обратился к родителям с просьбой «поговорить со своими детьми, чтобы они не совершали подобных ошибок». «Неразумно искать в Google или использовать ChatGPT, чтобы придумать, как совершить преступление», — говорит профессор юридического факультета Беркли Кэтрин Крамп (Catherine Crump). Она настоятельно рекомендует пользователям, особенно несовершеннолетним, помнить, что «ChatGPT — это продукт, а не ваш друг».

По словам Крамп, ChatGPT «создан для того, чтобы быть услужливым и поддерживать» и может создать у человека ощущение личного разговора. Она признаёт, что люди должны осознавать, что ведут диалог с нейросетью и должны нести ответственность за свои действия. Но она уверена, что «эти продукты [чат-боты] были намеренно разработаны так, чтобы относиться к пользователям как к друзьям, поэтому […] здесь есть определённая доля корпоративной ответственности».

Компании, занимающиеся разработкой ИИ, заявляют о неустанном совершенствовании ограничений, призванных помешать пользователям получать информацию о незаконной деятельности, но все эти барьеры не являются абсолютно надёжными.

Интернет-активность, приводящая к уголовным делам, — явление далеко не новое. Но стремительное развитие чат-ботов с зачатками искусственного интеллекта, к которым миллионы людей обращаются за советами, мгновенными ответами и анализом информации, создаёт множество, мягко говоря, щекотливых ситуаций.

Meta✴ «похоронила» исследование о вреде соцсетей — теперь в суде ответят и она, и TikTok, и Google

Юридическая фирма Motley Rice подала иск против Meta✴, Google, TikTok и Snapchat от имени школьных округов США. Истцы утверждают, что компании знали о рисках использования их продуктов и намеренно скрыли это от пользователей, родителей и учителей. Ответчики также обвиняются в пренебрежении мерами безопасности для детей и подростков, поощрении сексуальной эксплуатации несовершеннолетних и попытках подкупа организаций, работающим с детьми.

 Источник изображений: unsplash.com

Источник изображений: unsplash.com

Поданный иск включает в себя обвинения Meta✴, Google, TikTok и Snapchat в негласном поощрении детей младше 13 лет к использованию их платформ и неудовлетворительной борьбе с контентом, содержащим сцены сексуального насилия над детьми. Истцы обвиняют социальные платформы в сознательном сокрытии рисков и в приоритете роста посещаемости их сервисов над безопасностью.

В частности, в иске приводятся факты спонсирования социальной сетью TikTok «Национальной родительской ассоциации» (PTA) США и открытых сообщений о влиянии на эту организацию. Согласно информации истцов, представители TikTok без стеснения заявляли, что PTA «будет делать всё, что мы захотим, […], их генеральный директор будет размещать пресс-релизы от нашего имени».

В целом обвинения против других социальных сетей менее подробны, чем против Meta✴. Истцы обвиняют Meta✴ в прекращении внутренних исследований влияния Facebook✴ на эмоциональное состояние пользователей после обнаружения причинно-следственных доказательств вреда их психическому здоровью.

Согласно внутренним документа Meta✴, в 2020 году её сотрудники в рамках проекта «Меркурий» совместно с исследовательской компанией Nielsen пытались оценить эффект «деактивации» Facebook✴. К разочарованию компании, «люди, которые не пользовались Facebook✴ в течение недели, сообщали об уменьшении чувства депрессии, тревоги, одиночества и социального сравнения».

Вместо того, чтобы опубликовать эти результаты или провести дополнительные исследования, говорится в заявлении, Meta✴ прекратила дальнейшую работу и заявила, что отрицательные результаты исследования были искажены «существующим медийным нарративом» вокруг компании. Однако из документов следует, что как минимум несколько исследователей настаивали на обоснованности выводов. Они сравнили политику Meta✴ с действиями табачных компаний, которые «проводят исследования, зная о вреде сигарет, а затем скрывают эту информацию».

Представитель Meta✴ Энди Стоун (Andy Stone) заявил, что исследование было прекращено из-за методологических недостатков, и что компания усердно работала над повышением безопасности своей продукции. «Полные данные покажут, что более десятилетия мы прислушивались к родителям, исследовали наиболее важные вопросы и вносили реальные изменения для защиты подростков», — сказал он.

Согласно внутренним документам, предоставленным истцами:

  • Meta✴ намеренно разработала свои функции безопасности для молодёжи таким образом, чтобы они были неэффективными и редко используемыми, и блокировала тестирование функций безопасности, которые, по её мнению, могли помешать развитию соцсети.
  • Meta✴ требовала, чтобы пользователи были пойманы 17 раз за попытку сексуальной эксплуатации, прежде чем компания удаляла их со своей платформы. В документе это описывается как «очень, очень, очень высокий порог».
  • Meta✴ признавала, что оптимизация продуктов для повышения вовлечённости подростков приводит к показу им более вредоносного контента, но всё равно делала это.
  • Meta✴ годами блокировала внутренние усилия по предотвращению контактов злоумышленников с несовершеннолетними ради роста популярности соцсети.
  • В 2021 году в SMS-сообщении глава Meta✴ Марк Цукерберг (Mark Zuckerberg) заявил, что безопасность детей не является его главной заботой, «когда у меня есть ряд других областей, на которых я сосредоточен, например, на построении метавселенной».
  • Цукерберг также отклонил или проигнорировал просьбы Ника Клегга (Nick Clegg), руководителя отдела глобальной государственной политики Meta✴, об увеличении финансирования работы по обеспечению безопасности детей.

Стоун не согласился с этими обвинениями. Он полагает, что меры компании по обеспечению безопасности подростков достаточно эффективны. «Мы категорически не согласны с этими обвинениями, основанными на подобранных цитатах и ​​дезинформированных мнениях», — заявил Стоун.

Основные документы Meta✴, упомянутые в иске, не являются общедоступными, и Meta✴ подала ходатайство об их изъятии. Стоун заявил, что это требование связано с «чрезмерно широким характером того, что истцы пытаются раскрыть». Слушание по иску назначено на 26 января в Окружном суде Северной Калифорнии.

Лунная пыль менее вредна, чем смог земных мегаполисов, выяснили учёные

Новый эксперимент показал, что воздух на оживлённой улице мегаполиса более токсичен, чем лунная пыль. «Результаты подтверждают безопасность возвращения людей на Луну», — уверен почётный профессор естественных наук Технологического университета Сиднея Брайан Оливер (Brian Oliver). Тем не менее, вдыхание лунной пыли может вызвать то, что один из астронавтов миссии «Аполлон-17» назвал «лунной сенной лихорадкой».

 Источник изображения: NASA

Источник изображения: NASA

Опасения по поводу токсичности лунной пыли возникли во время миссии «Аполлон-17» при высадке астронавтов на лунную поверхность. Под воздействием статического электричества лунная пыль прилипла к скафандрам астронавтов и часть её попала в спускаемый модуль. Вдыхание пыли вызвало резь в глазах, кашель и боль в горле, которые исчезли в течение земных суток. Астронавт Харрисон Шмитт (Harrison Schmitt) сравнил появившиеся симптомы с аллергической реакцией, назвав их «лунной сенной лихорадкой».

После возвращения миссии «Аполлон-17» подобные проблемы возникли у сотрудников, распаковывавших использованные скафандры, причём симптомы усиливались после каждого контакта с лунной пылью. Тем не менее, подобные разрозненные свидетельства не несут характера полноценного исследования. Эту недоработку решила исправить аспирант группы респираторных исследований Сиднейского технологического университета Микаэла Смит (Michaela Smith).

Смит провела эксперименты с имитаторами лунной пыли, поскольку доступ к настоящим образцам крайне ограничен. Частицы размером меньше 2,5 микрон, достаточно малы, чтобы при вдыхании задержаться в нижних дыхательных путях. Для полноты эксперимента Смит вводила имитатор лунной пыли в два разных типа клеток — бронхиальные и альвеолярные, представляющие верхнюю и нижнюю части лёгких соответственно.

Затем Смит провела тот же эксперимент, но с реальными частицами из пробы воздуха, взятой на оживлённой улице Сиднея, и сравнила воздействие лунной и земной пыли. Она обнаружила, что, хотя неровная форма и шероховатость частиц лунной пыли приводят к раздражению лёгких, её воздействие значительно меньше, чем у земного загрязнённого воздуха. Выводы Смит были опубликованы в журнале Life Sciences in Space Research.

«Важно различать физический раздражитель и высокотоксичное вещество, — сказал Смит. — Наши результаты показывают, что, хотя лунная пыль может вызывать некоторое немедленное раздражение дыхательных путей, она, по-видимому, не представляет риска возникновения хронических, долгосрочных заболеваний, таких как силикоз, который вызывается материалами типа кремниевой пыли».

Исследование Микаэлы Смит может помочь NASA в планировании лунной миссии «Артемида 3», в ходе которой планируется первая с 1972 года высадка людей на поверхность Луны. Ранее агентство рассматривало возможность закрепления скафандров снаружи лунного посадочного модуля и вход-выход из них через специальный шлюз, что исключает попадание лунной пыли внутрь модуля. Благодаря работе Смит проблема лунной пыли, возможно, уже не так серьёзна, как предполагалось.

 Источник изображения: Axiom Space

Источник изображения: Axiom Space


window-new
Soft
Hard
Тренды 🔥
Opera добавила в ИИ-браузер Neon минутные глубокие исследования и интеграцию с «Google Документами» 2 ч.
CD Projekt подтвердила, что не покажет The Witcher 4 на The Game Awards 2025 2 ч.
Google начала внедрять Gemini в «Google Карты» для всех режимов навигации 7 ч.
Оригинал учредительных документов Apple 1976 года уйдёт с молотка — за лот хотят выручить до $4 млн 13 ч.
Cyberpunk 2077 стала главным источником дохода CD Projekt — компания отчиталась об ударных результатах за третий квартал 13 ч.
«Новый год пришёл раньше времени»: Sony включила в декабрьскую линейку PS Plus сразу пять игр, в том числе Lego Horizon Adventures и Killing Floor 3 15 ч.
Продажи Cyberpunk 2077 превысили 35 миллионов копий, а команда Cyberpunk 2 растёт не по дням, а по часам 15 ч.
ЕС откажется от сканирования переписок — ИТ-гиганты выиграли битву за конфиденциальность пользователей 16 ч.
Новый геймплейный трейлер Warhammer 40,000: Dark Heresy показал в деле огрина Когга, поумневшего благодаря аугментации коры головного мозга 16 ч.
Китай штампует новые ИИ-модели еженедельно — США уже проигрывают гонку открытого ИИ 16 ч.
Почти 5 Гбайт на квадратный миллиметр: Kioxia и SanDisk готовят флеш-память рекордной плотности 13 мин.
Атмосфера Марса вовсю искрит, выяснил марсоход NASA Perseverance 17 мин.
Дизайнер превратил кроссовки Nike в полноценную ретро-консоль с играми SNES 26 мин.
Intel охотится за инженерами TSMC в Аризоне — зарплаты обещают на 20–30 % выше 2 ч.
Basis Dynamix стала основой инфраструктуры первого отечественного ядра 4G-сети оператора Т2 2 ч.
xAI потратит $375 млн на аккумуляторное хранилище Tesla Megapack и построит солнечную электростанцию для ИИ ЦОД Colossus 3 ч.
Выручка производителей памяти DRAM в прошлом квартале взлетела на 30,9 % — и это только начало 3 ч.
Intel уверена в невиновности нанятого ею бывшего старшего вице-президента TSMC 3 ч.
На Apple снова подали в суд за использование конфликтных минералов в iPhone и других продуктах 4 ч.
В ИИ очень легко переинвестировать, показал печальный опыт Intel 6 ч.