Сегодня 21 мая 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Reddit заблокировала учёных за тайный эксперимент с ИИ-ботами в дискуссиях

Платформа Reddit навсегда заблокировала группу исследователей из Цюрихского университета после того, как выяснилось, что те несколько месяцев тайно использовали ИИ-ботов для психологического воздействия на пользователей. Эксперимент, который сами учёные назвали «изучением убедительности нейросетей», привёл к скандалу, а Reddit теперь рассматривает возможность подачи судебного иска.

 Источник изображения: AI

Источник изображения: AI

В рамках исследования боты выдавали себя за психолога-консультанта и жертву насилия. Они оставили более 1,7 тысячи комментариев в сообществе r/changemyview и набрали свыше 10 тысяч кармы, прежде чем их раскрыли, пишет издание The Verge. При этом главный юрист Reddit Бен Ли (Ben Lee) назвал эксперимент не только противозаконным, но и неэтичным.

Согласно данным, которые успели попасть в сеть, боты использовали модели GPT-4o, Claude 3.5 Sonnet и Llama 3.1-405B. Они анализировали историю постов пользователей, чтобы подбирать максимально убедительные аргументы. «Во всех случаях наши боты генерировали комментарии, основанные на последних 100 публикациях и репликах автора», — говорится в документе.

Исследователи заявили, что вручную удаляли посты, если те распознавались как этически проблемные или явно указывали на то, что их написал ИИ-бот, то есть по факту скрывали следы своего эксперимента. Более того, в запросах для нейросетей они утверждали, будто пользователи Reddit дали согласие на участие в эксперименте, хотя на самом деле этого не было.

В ходе исследования, хоть и нелегального, было обнаружено, что боты действительно оказались во много раз эффективнее людей в плане убеждения и с лёгкостью воздействовали на мнение собеседника. По мнению авторов работы, ИИ-боты могут использоваться для вмешательства в выборы или манипуляции общественным мнением, если попадут в руки злоумышленников.

Исследователи рекомендуют онлайн-платформам разрабатывать надёжные механизмы проверки контента, создаваемого искусственным интеллектом. Однако по иронии судьбы само исследование стало примером злонамеренных действий и манипуляций.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Криптобиржа Coinbase признала утечку персональных данных не менее 69 000 клиентов 4 мин.
Google показала режим рабочего стола для Android 16 — создавать его помогала Samsung 7 мин.
«Бросаю деньги в монитор, ничего не происходит»: ремейк «Готики» добавил в список желаемого Steam уже миллион «Безымянных героев», а даты выхода всё нет 2 ч.
Биткоин установил исторический рекорд, поднявшись выше $109 500 2 ч.
Metaphor: ReFantazio и The Division 2 возглавили вторую волну майских новинок Game Pass, а Remnant 2 скоро подписку покинет 3 ч.
Сергей Брин признал, что допустил много ошибок при создании умных очков Google Glass 3 ч.
Microsoft обвинила Apple в саботаже запуска магазина Xbox на iPhone 3 ч.
Windows 11 получит функцию Cross Device Resume для бесшовного переключения между устройствами 3 ч.
Senua's Saga: Hellblade II выйдет на PS5 с новыми функциями и оптимизацией под PS5 Pro — первые кадры и подробности 4 ч.
Россиян будут штрафовать за платежи в криптовалюте — выяснились суммы наказаний 4 ч.
Представлен геймерский смартфон Infinix GT 30 Pro с Dimensity 8350 Ultimate и ёмкостными GT-триггерами 5 мин.
Maxun показала концепт компактной СЖО для внешних видеокарт с большим экраном 3 ч.
Многие украденные по всему миру iPhone в итоге оказываются в одном здании в Китае 3 ч.
Gigabyte показала Radeon RX 9060 XT Gaming OC и другие свежие видеокарты 3 ч.
ASRock представила видеокарты Radeon RX 9060 XT, Radeon AI Pro R9700 и Intel Arc Pro B60 3 ч.
Seasonic показала 3200-Вт блок питания, умный кабель для видеокарты с защитой от оплавления и другие новинки 3 ч.
Ретро-дизайн и современное «железо»: SilverStone представила корпус FLP02 в стиле 80-х 3 ч.
Глава NVIDIA назвал запреты США на экспорт передовых ИИ-чипов в Китай «ошибочными и абсолютно неправильными» 4 ч.
Asus показала геймерский монитор ROG Strix OLED XG34WCDMTG с поддержкой игр без ПК 5 ч.
G.Skill представила сверхскоростную оперативную память — DDR5-10600 и CAMM2 DDR5-10000 5 ч.