Сегодня 23 января 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → wikipedia

«Википедию» заполонили белиберда и фейки, сгенерированные ИИ

Wikipedia переживает кризис из-за того, что пользователи массово стали публиковать бессмысленную или непроверенную информацию, сгенерированную искусственным интеллектом с помощью чат-ботов, таких как ChatGPT и ему подобных. Однако, учитывая растущую популярность ИИ-технологий, этого можно было ожидать.

 Источник изображения: BoliviaInteligente/Unsplash

Источник изображения: BoliviaInteligente/Unsplash

Как сообщает TechSpot, для решения проблемы был создан проект под названием WikiProject AI Cleanup, представляющий из себя группу добровольцев, которая занимается поиском, редактированием и удалением ложной информации, предположительно добавленной с помощью генеративного ИИ.

Ильяс Леблю (Ilyas Lebleu), один из основателей команды по «очистке», сообщил, что о проблеме стало известно, когда редакторы и пользователи Wikipedia заметили отрывки статей, явно написанные чат-ботом. Подозрения подтвердились, когда некоторые из этих текстов удалось воссоздать с помощью ChatGPT.

«Мы обратили внимание на необычный стиль письма, который был явно написан не человеком, мы смогли воспроизвести эти фразы с помощью ChatGPT, — сказал Леблю. — Обнаружив характерные обороты и выражения, мы идентифицировали наиболее вопиющие примеры сгенерированных статей. После этого и было решено организовать проект по поиску ИИ-текста».

Один из примеров — статья о якобы существующей османской крепости под названием «Амберлисихар», построенной в 1400-х годах. В тексте объёмом около 2000 слов подробно описывалось местоположение и строительство этого объекта. Однако крепость на самом деле не существует, и вся информация о ней была полностью вымышленной, но выглядела убедительно благодаря вкраплениям реальных фактов. При этом проблема касается не только новых статей на Wikipedia. Недобросовестные пользователи вставляют ложные данные в уже существующие статьи. В одном из случаев в статью о жуке добавили раздел, посвящённый виду крабов, причём с правильными ссылками на источники.

Леблю и его коллеги признают, что до конца не понимают, почему люди это делают. Однако причины очевидны. Во-первых, это проблема самой системы Wikipedia, которая позволяет каждому стать редактором. Кстати, именно по этой причине многие университеты запрещают студентам использовать Wikipedia в качестве основного источника информации.

Во-вторых не секрет, что интернет часто становится объектом злоупотреблений, особенно сейчас, когда появился искусственный интеллект. В качестве примера может послужить печально известный бот Microsoft по имени Tay, который был отключён менее чем через 24 часа после запуска за публикацию оскорбительных и расистских твитов в X. Также ИИ используется для создания дипфейков и книг на Amazon Kindle.


window-new
Soft
Hard
Тренды 🔥
SoftBank и OpenAI вложат в ИИ-мегапроект Stargate по $19 млрд каждая 60 мин.
Google научила ИИ Gemini использовать сразу несколько приложений для одного запроса 3 ч.
VK Tech анонсировал изолированную облачную платформу Secure Cloud для госорганизаций и компаний с высокими требованиями к информационной безопасности 11 ч.
Нелинейное приключение Lost Records: Bloom & Rage задержится, но не целиком — новые подробности следующей игры от создателей Life is Strange 12 ч.
Воскресший российский экшен «Приключения капитана Блада» выйдет спустя более 20 лет разработки — дата релиза и новый трейлер 13 ч.
В дополнении с Конаном-варваром для Mortal Kombat 1 нашли секретного розового ниндзя по имени Флойд и новую арену 14 ч.
Adobe Premiere Pro теперь может находить видеоклипы по словесному описанию 16 ч.
В ChromeOS теперь можно управлять курсором с помощью мимики 16 ч.
«Круче этого ничего быть не может»: создатели Phantom Blade Zero поразили геймеров новым геймплеем 17 ч.
Microsoft присоединилась к облачному альянсу CISPE, который годами боролся с ней 20 ч.