Сегодня 19 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Reddit заблокировала учёных за тайный эксперимент с ИИ-ботами в дискуссиях

Платформа Reddit навсегда заблокировала группу исследователей из Цюрихского университета после того, как выяснилось, что те несколько месяцев тайно использовали ИИ-ботов для психологического воздействия на пользователей. Эксперимент, который сами учёные назвали «изучением убедительности нейросетей», привёл к скандалу, а Reddit теперь рассматривает возможность подачи судебного иска.

 Источник изображения: AI

Источник изображения: AI

В рамках исследования боты выдавали себя за психолога-консультанта и жертву насилия. Они оставили более 1,7 тысячи комментариев в сообществе r/changemyview и набрали свыше 10 тысяч кармы, прежде чем их раскрыли, пишет издание The Verge. При этом главный юрист Reddit Бен Ли (Ben Lee) назвал эксперимент не только противозаконным, но и неэтичным.

Согласно данным, которые успели попасть в сеть, боты использовали модели GPT-4o, Claude 3.5 Sonnet и Llama 3.1-405B. Они анализировали историю постов пользователей, чтобы подбирать максимально убедительные аргументы. «Во всех случаях наши боты генерировали комментарии, основанные на последних 100 публикациях и репликах автора», — говорится в документе.

Исследователи заявили, что вручную удаляли посты, если те распознавались как этически проблемные или явно указывали на то, что их написал ИИ-бот, то есть по факту скрывали следы своего эксперимента. Более того, в запросах для нейросетей они утверждали, будто пользователи Reddit дали согласие на участие в эксперименте, хотя на самом деле этого не было.

В ходе исследования, хоть и нелегального, было обнаружено, что боты действительно оказались во много раз эффективнее людей в плане убеждения и с лёгкостью воздействовали на мнение собеседника. По мнению авторов работы, ИИ-боты могут использоваться для вмешательства в выборы или манипуляции общественным мнением, если попадут в руки злоумышленников.

Исследователи рекомендуют онлайн-платформам разрабатывать надёжные механизмы проверки контента, создаваемого искусственным интеллектом. Однако по иронии судьбы само исследование стало примером злонамеренных действий и манипуляций.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
GSC Game World подтвердила, когда выйдет крупное обновление 1.6 для S.T.A.L.K.E.R. 2: Heart of Chornobyl и какие улучшения в него войдут 20 мин.
Игровой ИИ-помощник Gaming Copilot появится в Game Bar у всех пользователей Windows 11 10 ч.
Google интегрирует ИИ-агента на базе Gemini в браузер Chrome 10 ч.
Создателям контента для Fortnite позволят зарабатывать реальные деньги на продаже предметов 11 ч.
Microsoft напомнила об окончании расширенной поддержки Office 2016 и Office 2019 в следующем месяце 11 ч.
Epic Games Store устроил раздачу культового приключения Samorost 2 и социального выживания Project Winter 11 ч.
«А кто спрашивает?», — точность ответов DeepSeek зависит от региона пользователя 11 ч.
Слухи: авиасимулятор Microsoft Flight Simulator 2024 взял курс на PS5 14 ч.
В «Рувики» ИИ займётся обновлением статей и борьбой с вандалами 14 ч.
Полноэкранный интерфейс Xbox оказался доступен для всех — Asus ROG Xbox Ally теряет эксклюзивность 14 ч.
Ирландия разрешит ЦОД подключаться к электростанциям на ископаемом топливе — в качестве временной меры 9 мин.
Глава Nvidia подчеркнул, что пока компания не будет заказывать выпуск чипов у Intel 2 ч.
Xiaomi вынуждена отозвать 116 887 электромобилей SU7 из-за ошибок автопилота 2 ч.
Старшие модели семейства Apple iPhone 17 оказались в дефиците на старте продаж 3 ч.
Глава Nvidia назвал сделку с Intel на $5 млрд «невероятной инвестицией» 5 ч.
Microsoft вот-вот достроит «самый передовой» ИИ ЦОД в мире Fairwater и потратит $4 млрд на ещё один такой же 8 ч.
Новая статья: Обзор и тест системы жидкостного охлаждения Ocypus Sigma L36 Pro: внимание на экран! 10 ч.
Northrop Grumman справилась с отказавшими двигателями — космогрузовик Cygnus XL долетел до МКС 13 ч.
Huawei пообещала создать «самый мощный в мире» ИИ-кластер, который в разы превзойдёт решения Nvidia 14 ч.
Учёные создали наношестерёнки размером с человеческую клетку, которые вращаются от лазера 15 ч.