Сегодня 30 ноября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → вред

«ChatGPT — это продукт, а не друг»: подростки спрашивали ИИ о преступлениях — теперь ими занимается полиция

Поисковые запросы в ChatGPT нескольких подростков привлекли к ним внимание правоохранительных органов, некоторые были арестованы и столкнулись с уголовными обвинениями. Поиск информации не является преступлением, но использовать Google или чат-боты, чтобы спланировать преступление или причинить кому-то вред — как минимум неразумно. Власти обратились к родителям с просьбой разъяснить детям, с какими вопросами лучше не обращаться к ChatGPT.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

Офис шерифа округа Мэрион объявил об аресте 17-летнего подростка, обвиняемого в даче ложных показаний о похищении человека и самоубийстве. Представитель шерифа утверждает, что на ноутбуке подростка были обнаружены поисковые запросы к ChatGPT о мексиканских картелях и сборе крови без причинения боли.

В округе Волусия арестован 13-летний подросток, который ввёл в ChatGPT запрос «как убить моего друга посреди урока». Полицейские получили уведомление от школьной платформы безопасности Gaggle, которая сканирует школьные аккаунты и отмечает подозрительный контент. На допросе школьник заявил, что «троллил друга, который его раздражал».

Представитель шерифа обратился к родителям с просьбой «поговорить со своими детьми, чтобы они не совершали подобных ошибок». «Неразумно искать в Google или использовать ChatGPT, чтобы придумать, как совершить преступление», — говорит профессор юридического факультета Беркли Кэтрин Крамп (Catherine Crump). Она настоятельно рекомендует пользователям, особенно несовершеннолетним, помнить, что «ChatGPT — это продукт, а не ваш друг».

По словам Крамп, ChatGPT «создан для того, чтобы быть услужливым и поддерживать» и может создать у человека ощущение личного разговора. Она признаёт, что люди должны осознавать, что ведут диалог с нейросетью и должны нести ответственность за свои действия. Но она уверена, что «эти продукты [чат-боты] были намеренно разработаны так, чтобы относиться к пользователям как к друзьям, поэтому […] здесь есть определённая доля корпоративной ответственности».

Компании, занимающиеся разработкой ИИ, заявляют о неустанном совершенствовании ограничений, призванных помешать пользователям получать информацию о незаконной деятельности, но все эти барьеры не являются абсолютно надёжными.

Интернет-активность, приводящая к уголовным делам, — явление далеко не новое. Но стремительное развитие чат-ботов с зачатками искусственного интеллекта, к которым миллионы людей обращаются за советами, мгновенными ответами и анализом информации, создаёт множество, мягко говоря, щекотливых ситуаций.

Meta✴ «похоронила» исследование о вреде соцсетей — теперь в суде ответят и она, и TikTok, и Google

Юридическая фирма Motley Rice подала иск против Meta✴, Google, TikTok и Snapchat от имени школьных округов США. Истцы утверждают, что компании знали о рисках использования их продуктов и намеренно скрыли это от пользователей, родителей и учителей. Ответчики также обвиняются в пренебрежении мерами безопасности для детей и подростков, поощрении сексуальной эксплуатации несовершеннолетних и попытках подкупа организаций, работающим с детьми.

 Источник изображений: unsplash.com

Источник изображений: unsplash.com

Поданный иск включает в себя обвинения Meta✴, Google, TikTok и Snapchat в негласном поощрении детей младше 13 лет к использованию их платформ и неудовлетворительной борьбе с контентом, содержащим сцены сексуального насилия над детьми. Истцы обвиняют социальные платформы в сознательном сокрытии рисков и в приоритете роста посещаемости их сервисов над безопасностью.

В частности, в иске приводятся факты спонсирования социальной сетью TikTok «Национальной родительской ассоциации» (PTA) США и открытых сообщений о влиянии на эту организацию. Согласно информации истцов, представители TikTok без стеснения заявляли, что PTA «будет делать всё, что мы захотим, […], их генеральный директор будет размещать пресс-релизы от нашего имени».

В целом обвинения против других социальных сетей менее подробны, чем против Meta✴. Истцы обвиняют Meta✴ в прекращении внутренних исследований влияния Facebook✴ на эмоциональное состояние пользователей после обнаружения причинно-следственных доказательств вреда их психическому здоровью.

Согласно внутренним документа Meta✴, в 2020 году её сотрудники в рамках проекта «Меркурий» совместно с исследовательской компанией Nielsen пытались оценить эффект «деактивации» Facebook✴. К разочарованию компании, «люди, которые не пользовались Facebook✴ в течение недели, сообщали об уменьшении чувства депрессии, тревоги, одиночества и социального сравнения».

Вместо того, чтобы опубликовать эти результаты или провести дополнительные исследования, говорится в заявлении, Meta✴ прекратила дальнейшую работу и заявила, что отрицательные результаты исследования были искажены «существующим медийным нарративом» вокруг компании. Однако из документов следует, что как минимум несколько исследователей настаивали на обоснованности выводов. Они сравнили политику Meta✴ с действиями табачных компаний, которые «проводят исследования, зная о вреде сигарет, а затем скрывают эту информацию».

Представитель Meta✴ Энди Стоун (Andy Stone) заявил, что исследование было прекращено из-за методологических недостатков, и что компания усердно работала над повышением безопасности своей продукции. «Полные данные покажут, что более десятилетия мы прислушивались к родителям, исследовали наиболее важные вопросы и вносили реальные изменения для защиты подростков», — сказал он.

Согласно внутренним документам, предоставленным истцами:

  • Meta✴ намеренно разработала свои функции безопасности для молодёжи таким образом, чтобы они были неэффективными и редко используемыми, и блокировала тестирование функций безопасности, которые, по её мнению, могли помешать развитию соцсети.
  • Meta✴ требовала, чтобы пользователи были пойманы 17 раз за попытку сексуальной эксплуатации, прежде чем компания удаляла их со своей платформы. В документе это описывается как «очень, очень, очень высокий порог».
  • Meta✴ признавала, что оптимизация продуктов для повышения вовлечённости подростков приводит к показу им более вредоносного контента, но всё равно делала это.
  • Meta✴ годами блокировала внутренние усилия по предотвращению контактов злоумышленников с несовершеннолетними ради роста популярности соцсети.
  • В 2021 году в SMS-сообщении глава Meta✴ Марк Цукерберг (Mark Zuckerberg) заявил, что безопасность детей не является его главной заботой, «когда у меня есть ряд других областей, на которых я сосредоточен, например, на построении метавселенной».
  • Цукерберг также отклонил или проигнорировал просьбы Ника Клегга (Nick Clegg), руководителя отдела глобальной государственной политики Meta✴, об увеличении финансирования работы по обеспечению безопасности детей.

Стоун не согласился с этими обвинениями. Он полагает, что меры компании по обеспечению безопасности подростков достаточно эффективны. «Мы категорически не согласны с этими обвинениями, основанными на подобранных цитатах и ​​дезинформированных мнениях», — заявил Стоун.

Основные документы Meta✴, упомянутые в иске, не являются общедоступными, и Meta✴ подала ходатайство об их изъятии. Стоун заявил, что это требование связано с «чрезмерно широким характером того, что истцы пытаются раскрыть». Слушание по иску назначено на 26 января в Окружном суде Северной Калифорнии.

Лунная пыль менее вредна, чем смог земных мегаполисов, выяснили учёные

Новый эксперимент показал, что воздух на оживлённой улице мегаполиса более токсичен, чем лунная пыль. «Результаты подтверждают безопасность возвращения людей на Луну», — уверен почётный профессор естественных наук Технологического университета Сиднея Брайан Оливер (Brian Oliver). Тем не менее, вдыхание лунной пыли может вызвать то, что один из астронавтов миссии «Аполлон-17» назвал «лунной сенной лихорадкой».

 Источник изображения: NASA

Источник изображения: NASA

Опасения по поводу токсичности лунной пыли возникли во время миссии «Аполлон-17» при высадке астронавтов на лунную поверхность. Под воздействием статического электричества лунная пыль прилипла к скафандрам астронавтов и часть её попала в спускаемый модуль. Вдыхание пыли вызвало резь в глазах, кашель и боль в горле, которые исчезли в течение земных суток. Астронавт Харрисон Шмитт (Harrison Schmitt) сравнил появившиеся симптомы с аллергической реакцией, назвав их «лунной сенной лихорадкой».

После возвращения миссии «Аполлон-17» подобные проблемы возникли у сотрудников, распаковывавших использованные скафандры, причём симптомы усиливались после каждого контакта с лунной пылью. Тем не менее, подобные разрозненные свидетельства не несут характера полноценного исследования. Эту недоработку решила исправить аспирант группы респираторных исследований Сиднейского технологического университета Микаэла Смит (Michaela Smith).

Смит провела эксперименты с имитаторами лунной пыли, поскольку доступ к настоящим образцам крайне ограничен. Частицы размером меньше 2,5 микрон, достаточно малы, чтобы при вдыхании задержаться в нижних дыхательных путях. Для полноты эксперимента Смит вводила имитатор лунной пыли в два разных типа клеток — бронхиальные и альвеолярные, представляющие верхнюю и нижнюю части лёгких соответственно.

Затем Смит провела тот же эксперимент, но с реальными частицами из пробы воздуха, взятой на оживлённой улице Сиднея, и сравнила воздействие лунной и земной пыли. Она обнаружила, что, хотя неровная форма и шероховатость частиц лунной пыли приводят к раздражению лёгких, её воздействие значительно меньше, чем у земного загрязнённого воздуха. Выводы Смит были опубликованы в журнале Life Sciences in Space Research.

«Важно различать физический раздражитель и высокотоксичное вещество, — сказал Смит. — Наши результаты показывают, что, хотя лунная пыль может вызывать некоторое немедленное раздражение дыхательных путей, она, по-видимому, не представляет риска возникновения хронических, долгосрочных заболеваний, таких как силикоз, который вызывается материалами типа кремниевой пыли».

Исследование Микаэлы Смит может помочь NASA в планировании лунной миссии «Артемида 3», в ходе которой планируется первая с 1972 года высадка людей на поверхность Луны. Ранее агентство рассматривало возможность закрепления скафандров снаружи лунного посадочного модуля и вход-выход из них через специальный шлюз, что исключает попадание лунной пыли внутрь модуля. Благодаря работе Смит проблема лунной пыли, возможно, уже не так серьёзна, как предполагалось.

 Источник изображения: Axiom Space

Источник изображения: Axiom Space


window-new
Soft
Hard
Тренды 🔥
Инвесторы пока не боятся вкладывать деньги в ИИ-стартапы на фоне разговоров о формировании пузыря 3 мин.
Новая статья: Goodnight Universe — колыбельная для крошки. Рецензия 9 ч.
Новая статья: Gamesblender № 754: кризис на рынке памяти, Pioner не для российского Steam и 20-летие Xbox 360 10 ч.
Роскомнадзор увидел в Roblox угрозу детям — на платформе нашли неподобающий контент 17 ч.
Asus предупредила об очередной критической уязвимости в маршрутизаторах с AiCloud 17 ч.
Infinix проведёт в декабре турнир по PUBG Mobile, для участия в котором нужно быть студентом вуза или ссуза России 18 ч.
Президент Signal призвала не спешить с внедрением ИИ в мессенджерах 19 ч.
ИИ-модель DeepseekMath-V2 достигла уровня золотой медали на Международной математической олимпиаде 20 ч.
Практическое использование ИИ в работе остаётся весьма неравномерным 29-11 08:07
Новая статья: PowerWash Simulator 2 — опять работать. Рецензия 29-11 00:01
Ускорители вычислений Baidu имеют все шансы стать хитом китайского рынка 30 мин.
SK hynix будет использовать все возможности, чтобы увеличить объёмы выпуска DRAM 2 ч.
Китайский предприниматель сколотил состояние на сдаче в аренду африканских IP-адресов за пределами континента 2 ч.
Первый в мире частный научный спутник успешно выведен в космос — он будет изучать звёзды в ультрафиолете 14 ч.
Главы технологических компаний наперебой заговорили о ЦОД в космосе 15 ч.
В 2027 году Intel может наладить выпуск процессоров Apple M по техпроцессу 18A-P 16 ч.
Samsung выпустила внешние SSD T7 Resurrected с ударопрочным корпусом из вторсырья и скоростью до 1050 Мбайт/с 17 ч.
Битва за Северную Европу: Digital Realty и Equinix борются за покупку скандинавского оператора ЦОД atNorth за €4,5 млрд 18 ч.
Asustor представила десктопные NAS Lockerstor Gen2+ с двумя портами 5GbE и чипом Intel Jasper Lake 18 ч.
MGX-сервер MSI CG480-S6053 получил чипы AMD EPYC Turin и восемь слотов PCIe 5.0 x16 для FHFL-карт двойной ширины 18 ч.