Сегодня 21 мая 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Reddit заблокировала учёных за тайный эксперимент с ИИ-ботами в дискуссиях

Платформа Reddit навсегда заблокировала группу исследователей из Цюрихского университета после того, как выяснилось, что те несколько месяцев тайно использовали ИИ-ботов для психологического воздействия на пользователей. Эксперимент, который сами учёные назвали «изучением убедительности нейросетей», привёл к скандалу, а Reddit теперь рассматривает возможность подачи судебного иска.

 Источник изображения: AI

Источник изображения: AI

В рамках исследования боты выдавали себя за психолога-консультанта и жертву насилия. Они оставили более 1,7 тысячи комментариев в сообществе r/changemyview и набрали свыше 10 тысяч кармы, прежде чем их раскрыли, пишет издание The Verge. При этом главный юрист Reddit Бен Ли (Ben Lee) назвал эксперимент не только противозаконным, но и неэтичным.

Согласно данным, которые успели попасть в сеть, боты использовали модели GPT-4o, Claude 3.5 Sonnet и Llama 3.1-405B. Они анализировали историю постов пользователей, чтобы подбирать максимально убедительные аргументы. «Во всех случаях наши боты генерировали комментарии, основанные на последних 100 публикациях и репликах автора», — говорится в документе.

Исследователи заявили, что вручную удаляли посты, если те распознавались как этически проблемные или явно указывали на то, что их написал ИИ-бот, то есть по факту скрывали следы своего эксперимента. Более того, в запросах для нейросетей они утверждали, будто пользователи Reddit дали согласие на участие в эксперименте, хотя на самом деле этого не было.

В ходе исследования, хоть и нелегального, было обнаружено, что боты действительно оказались во много раз эффективнее людей в плане убеждения и с лёгкостью воздействовали на мнение собеседника. По мнению авторов работы, ИИ-боты могут использоваться для вмешательства в выборы или манипуляции общественным мнением, если попадут в руки злоумышленников.

Исследователи рекомендуют онлайн-платформам разрабатывать надёжные механизмы проверки контента, создаваемого искусственным интеллектом. Однако по иронии судьбы само исследование стало примером злонамеренных действий и манипуляций.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Конец немого ИИ-видео: Google представила Veo 3 — первый генератор видео со звуком 3 ч.
Google Chrome начнёт автоматически менять слабые или взломанные пароли, но сначала попросит разрешения 5 ч.
Google научила Meet переводить речь «на лету» с сохранением интонаций и тона голоса 6 ч.
«Революционный» симулятор RoadCraft от создателей SnowRunner заслужил на релизе в Steam «смешанные» отзывы 7 ч.
Shift Up непринуждённо подтвердила, когда выйдет Stellar Blade 2 10 ч.
Франция запретила основателю Telegram Павлу Дурову поездку в США 10 ч.
Netflix анонсировала «эпичный, уморительный и чуть более чем безумный» анимационный сериал по Clash of Clans и Clash Royale — первые детали 11 ч.
MIND Software анонсировала отечественную программно определяемую СХД MIND uStor 11 ч.
Microsoft добавила в «Проводник» ИИ-действия 12 ч.
«Это не ремастер. Это возвращение домой»: первый трейлер Syberia Remastered отправил фанатов в путешествие по волнам ностальгии 12 ч.
Илон Маск подтвердил, что роботизированные такси Tesla выйдут на дороги Техаса до конца июня 26 мин.
Новая статья: Обзор смартфона CMF Phone 2 Pro: все еще удивляет 6 ч.
Маршруты не совпали: Intel собралась продать телекоммуникационный и сетевой бизнес 6 ч.
SteelSeries выпустила недорогие игровые мыши Rival 3 Gen 2 в версиях с проводами и без 8 ч.
TeamGroup показала термоэлектрический кулер для SSD и другие экстравагантные охладители для накопителей 8 ч.
Представлен самый мощный в мире квантовый компьютер — D-Wave Advantage2 с более чем 4400 кубитами 9 ч.
InWin представила метровый футуристический корпус ChronoMancy в форме кубка и другие новинки 10 ч.
Россия потратит 4,5 трлн рублей на космос за 10 лет — при этом планируется экономить 10 ч.
Ровер NASA Perseverance показал восход Деймоса перед рассветом на Марсе 11 ч.
Планы Honda по полной электрификации рухнули: теперь ставка на гибриды 11 ч.