Сегодня 13 ноября 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Википедию» заполонили белиберда и фейки, сгенерированные ИИ

Wikipedia переживает кризис из-за того, что пользователи массово стали публиковать бессмысленную или непроверенную информацию, сгенерированную искусственным интеллектом с помощью чат-ботов, таких как ChatGPT и ему подобных. Однако, учитывая растущую популярность ИИ-технологий, этого можно было ожидать.

 Источник изображения: BoliviaInteligente/Unsplash

Источник изображения: BoliviaInteligente/Unsplash

Как сообщает TechSpot, для решения проблемы был создан проект под названием WikiProject AI Cleanup, представляющий из себя группу добровольцев, которая занимается поиском, редактированием и удалением ложной информации, предположительно добавленной с помощью генеративного ИИ.

Ильяс Леблю (Ilyas Lebleu), один из основателей команды по «очистке», сообщил, что о проблеме стало известно, когда редакторы и пользователи Wikipedia заметили отрывки статей, явно написанные чат-ботом. Подозрения подтвердились, когда некоторые из этих текстов удалось воссоздать с помощью ChatGPT.

«Мы обратили внимание на необычный стиль письма, который был явно написан не человеком, мы смогли воспроизвести эти фразы с помощью ChatGPT, — сказал Леблю. — Обнаружив характерные обороты и выражения, мы идентифицировали наиболее вопиющие примеры сгенерированных статей. После этого и было решено организовать проект по поиску ИИ-текста».

Один из примеров — статья о якобы существующей османской крепости под названием «Амберлисихар», построенной в 1400-х годах. В тексте объёмом около 2000 слов подробно описывалось местоположение и строительство этого объекта. Однако крепость на самом деле не существует, и вся информация о ней была полностью вымышленной, но выглядела убедительно благодаря вкраплениям реальных фактов. При этом проблема касается не только новых статей на Wikipedia. Недобросовестные пользователи вставляют ложные данные в уже существующие статьи. В одном из случаев в статью о жуке добавили раздел, посвящённый виду крабов, причём с правильными ссылками на источники.

Леблю и его коллеги признают, что до конца не понимают, почему люди это делают. Однако причины очевидны. Во-первых, это проблема самой системы Wikipedia, которая позволяет каждому стать редактором. Кстати, именно по этой причине многие университеты запрещают студентам использовать Wikipedia в качестве основного источника информации.

Во-вторых не секрет, что интернет часто становится объектом злоупотреблений, особенно сейчас, когда появился искусственный интеллект. В качестве примера может послужить печально известный бот Microsoft по имени Tay, который был отключён менее чем через 24 часа после запуска за публикацию оскорбительных и расистских твитов в X. Также ИИ используется для создания дипфейков и книг на Amazon Kindle.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Наследие Mass Effect, свобода выбора и загадочный Мэттью Макконахи: создатели нелинейного ролевого экшена Exodus ответили на вопросы игроков 3 мин.
Голосовой помощник VK «Маруся» заговорит другим голосом 11 мин.
Рекламодатели вернутся на платформу X ради сближения с администрацией Трампа 16 мин.
Олдскульная ролевая игра Sea of Stars получила бесплатное обновление Dawn of Equinox с кооперативом и не только 3 ч.
У разработчиков Rime и Song of Nunu закончились деньги — студия Tequila Works признала себя банкротом 3 ч.
Сервис простой интеграции голосового ИИ для малого и среднего бизнеса появился в России 3 ч.
YouTube тестирует создание ремиксов песен с помощью ИИ 4 ч.
Тариф Netflix с рекламой достиг 70 млн пользователей за два года 4 ч.
«РТК ИТ плюс» запустил импортонезависимую no-code платформу «Акола» 4 ч.
Сооснователь OpenAI Грег Брокман вернулся в компанию после длительного отпуска 4 ч.
Спутниковый интернет на плечах: SpaceX выпустила рюкзак за $199 для тарелки Starlink V4 7 мин.
Cisco объединила Meraki и Catalyst под брендом Cisco Wireless и представила точки доступа Wi-Fi 7 CW9178 и CW9176 24 мин.
Emdoor Information поддержит развитие нового российского бренда ПК 25 мин.
Крупнейший в мире производитель электромобильных батарей CATL намерен запитать целые города 29 мин.
Учёные снова пытаются опровергнуть уравнения Эйнштейна, описывающие Вселенную — пока вышло на «троечку» 53 мин.
СМИ сообщили, что VK может прекратить выпуск «Капсул» — компания это опровергла 2 ч.
МВД пожаловалось, что сломавшиеся серверы на «Эльбрусах» невозможно быстро заменить 2 ч.
Трамп назначил Маска главным борцом с бюрократией и расточительством в правительстве в США 2 ч.
Квартальные отгрузки SSD сократились на 8 %, но их общая ёмкость выросла на 10 % 3 ч.
Акции Samsung упали до минимума за 4 года — победа Трампа породила неопределённость для компании 3 ч.