Сегодня 15 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Reddit заблокировала учёных за тайный эксперимент с ИИ-ботами в дискуссиях

Платформа Reddit навсегда заблокировала группу исследователей из Цюрихского университета после того, как выяснилось, что те несколько месяцев тайно использовали ИИ-ботов для психологического воздействия на пользователей. Эксперимент, который сами учёные назвали «изучением убедительности нейросетей», привёл к скандалу, а Reddit теперь рассматривает возможность подачи судебного иска.

 Источник изображения: AI

Источник изображения: AI

В рамках исследования боты выдавали себя за психолога-консультанта и жертву насилия. Они оставили более 1,7 тысячи комментариев в сообществе r/changemyview и набрали свыше 10 тысяч кармы, прежде чем их раскрыли, пишет издание The Verge. При этом главный юрист Reddit Бен Ли (Ben Lee) назвал эксперимент не только противозаконным, но и неэтичным.

Согласно данным, которые успели попасть в сеть, боты использовали модели GPT-4o, Claude 3.5 Sonnet и Llama 3.1-405B. Они анализировали историю постов пользователей, чтобы подбирать максимально убедительные аргументы. «Во всех случаях наши боты генерировали комментарии, основанные на последних 100 публикациях и репликах автора», — говорится в документе.

Исследователи заявили, что вручную удаляли посты, если те распознавались как этически проблемные или явно указывали на то, что их написал ИИ-бот, то есть по факту скрывали следы своего эксперимента. Более того, в запросах для нейросетей они утверждали, будто пользователи Reddit дали согласие на участие в эксперименте, хотя на самом деле этого не было.

В ходе исследования, хоть и нелегального, было обнаружено, что боты действительно оказались во много раз эффективнее людей в плане убеждения и с лёгкостью воздействовали на мнение собеседника. По мнению авторов работы, ИИ-боты могут использоваться для вмешательства в выборы или манипуляции общественным мнением, если попадут в руки злоумышленников.

Исследователи рекомендуют онлайн-платформам разрабатывать надёжные механизмы проверки контента, создаваемого искусственным интеллектом. Однако по иронии судьбы само исследование стало примером злонамеренных действий и манипуляций.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Единственная официальная игра по «Джону Уику» скоро исчезнет из продажи 36 мин.
ИИ Google Gemini отказался играть в шахматы с древней приставкой Atari 2600, испугавшись поражения 2 ч.
Rockstar неожиданно устроила раздачу ремастера GTA III в App Store — возможно, по ошибке 2 ч.
Количество утечек данных в России снизилось на 15 %, но проблем по-прежнему хватает 4 ч.
«Базис» реализовал 80 улучшений в новой версии платформы виртуализации Basis Dynamix Enterprise 4.3.0 4 ч.
«Радоваться здесь нечему»: новый патч для The Elder Scrolls IV: Oblivion Remastered не впечатлил экспертов Digital Foundry 5 ч.
Google начала тестировать новую панель поиска в Chrome с акцентом на ИИ 6 ч.
Google, OpenAI, xAI и Anthropic получили контракты Пентагона на сумму до $200 млн каждый 6 ч.
Facebook начнёт блокировать аккаунты за использование некачественного и чужого контента 8 ч.
Один сбитый бит — и всё пропало: атака GPUHammer на ускорители Nvidia ломает ИИ с минимальными усилиями 14 ч.
Смартфоны Sony стали исчезать с ключевых рынков — эра Xperia подходит к концу? 17 мин.
SpaceX соберёт команду космических ИИ-программистов — год назад Маск не видел в них необходимости 33 мин.
Китайский грузовик «Тяньчжоу-9» доставил рекордные 6,5 тонн на орбитальную станцию — и это не предел 41 мин.
Samsung отменила конец эпохи стилусов, пообещав возвращение S Pen в улучшенном виде 51 мин.
NVIDIA возобновит поставки ускорителей H20 в Китай 54 мин.
«Сбер» расширил ассортимент QLED-телевизоров Sber моделями на 32 и 43 дюйма 55 мин.
$20 за терабайт: Seagate начала поставки 30-Тбайт жёстких дисков Exos M и IronWolf Pro 2 ч.
Meta вложит сотни миллиардов долларов в «мультигигаваттные» ИИ ЦОД 2 ч.
Galaxy S26 может получить Exynos 2600 — Samsung LSI заявила о подготовке новых чипов и пообещала «хорошие результаты» 2 ч.
Intel уволит в четыре раза больше сотрудников в Аризоне, чем планировала 2 ч.