Эксперимент ресурса CNET с использованием генеративного искусственного интеллекта для написания статей привёл к плачевным результатам — редакторы «Википедии» понизили его рейтинг надёжности из-за многочисленных ошибок в публикуемом контенте и наличия плагиата.

Источник изображения: geralt/Pixabay

В прошлом году много споров вызвала публикация ресурса Futurism, рассказавшего, что CNET в течение нескольких месяцев «потихоньку» публиковал статьи, написанные ИИ, не привлекая особого внимания общественности и не делая официальных заявлений по этому поводу.

Статьи на финансовую тему начали появляться на сайте ресурса в ноябре 2022 года под подписью CNET Money Staff. Они были сгенерированы ИИ, о чём свидетельствует большое количество ошибок и порой дословное копирование работ других авторов. Из-за ошибок ресурсу CNET пришлось внести исправления в 41 из 77 статей, написанных с использованием ИИ.

В связи с разоблачением Futurism руководство CNET отметило, что публикация статей с использованием ИИ производилась «без особого шума», но не «тайно», но вместе с тем приостановило эксперимент. Другие сайты, тоже принадлежащие Red Ventures, как и CNET, также приостановили публикацию статей, написанных с помощью ИИ.

Источник изображения: techspot.com

Согласно данным «Википедии», CNET имел самый высокий рейтинг надёжности до октября 2020 года. Затем с этой даты по октябрь 2022 года не было консенсуса, что, по мнению «Википедии», было связано с ухудшением редакционных стандартов после приобретения ресурса компанией Red Ventures. А с ноября 2022 года по настоящее время CNET классифицируется «Википедией» как «в целом ненадёжный» ресурс, что связано с наличием множества ошибок в статьях, написанных ИИ.

Запущенный минувшим летом портал «Рувики», который позиционируется как отечественный аналог «Википедии», завершил этап бета-тестирования, и 15 января он заработает в полноценном режиме.

Источник изображения: ruwiki.ru

В ближайшие дни администрация ресурса запустит финальный вариант. Портал ожидает ряд изменений, в том числе механизмы персонализации контента, тематические подборки материалов, функции аудиопересказа полной и сокращённой версий статьи. У пользователей появится обновлённый личный кабинет, готовится запуск видео и подкастов, сообщила «Известиям» пресс-служба проекта.

Сегодня общий объём русскоязычных материалов «Рувики» достиг 1 940 683 статей. В среднем пользователь «Рувики» проводит на сайте шесть минут, а глубина просмотра составляет более пяти страниц. В бета-версии портала изначально введены статусы «выверенных» и «рецензированных» статей. «Выверенными» занимается редакция ресурса, а «рецензированными» — сторонние эксперты.

С момента запуска интерфейс «Рувики» получил поддержку 20 языков народов России, включая алтайский, башкирский, бурятский, вепсский, ингушский и калмыцкий. В соответствующих разделах сейчас более 1,1 млн статей. В течение 2024 года на портале появятся ещё 10 языковых разделов.

В декабре некоммерческое партнёрство «Викимедиа РУ», занимавшееся развитием русскоязычного раздела «Википедии», объявило о намерении закрыться по собственной инициативе.

Некоммерческое партнёрство «Викимедиа РУ», которое занималось управлением российского сегмента «Википедии», объявило о своём закрытии. Об этом на официальном форуме сообщил глава организации Станислав Козловский✶.

Источник изображения: wikipedia.org

Вчера, сообщил господин Козловский✶, в деканате факультета психологии МГУ, где он проработал на должности доцента почти 25 лет, ему сообщили о наличии «достоверной информации», что в ближайшую пятницу он будет признан иноагентом. В этой связи учёный принял решение добровольно оставить свою должность в МГУ. В тот же день он провёл экстренное собрание НП «Викимедиа РУ», в ходе которого рассказал об инциденте. По итогам собрания было принято решение о закрытии организации.

Процедура ликвидации «Викимедиа РУ» займёт несколько месяцев. «Надеюсь, больше никто не пострадает», — заключил господин Козловский✶. Организация осуществляла управление российским сегментом «Википедии». В мае этого года был уволен предыдущий глава «Викимедиа РУ» Владимир Медейко. Причиной тому стало его участие в разработке отечественного аналога онлайн-энциклопедии — проекта «РуВики».

Российский аналог «Википедии» под названием «Рувики» стал доступен широкой аудитории пользователей, однако пока что в виде бета-версии. В настоящее время на сайте «Рувики» размещено около 2 млн статей на русском языке.

Источник изображения: «Рувики»

«Работает бета-версия, мы меняем контент, технические вопросы обслуживаем. На самом деле она запустилась не сегодня, сегодня это просто заметили. Она работала уже все выходные, это тестовый режим, который мы пока для тестеров включили», — приводит источник слова генерального директора АНО «Интернет-энциклопедия Рувики» Владимира Медейко. Он также сообщил, что полноценный запуск портала должен состояться до конца этого месяца.

Напомним, о создании энциклопедии «Рувики» в прошлом месяце сообщил заместитель председателя комитета Госдумы по информационной политике Антон Горелкин. У истоков «Рувики» стоит бывший директор «Викимедиа РУ» Владимир Медейко. Создатель проекта заверил, что «Рувики» не противопоставляет себя «Википедии», но и «не будет вызывать насторожённости, которая сейчас есть у заметного количества читателей» ресурса. По его словам, «Википедия» заработала в России «неоднозначную репутацию». «Рувики» должна стать энциклопедическим изданием, «куда приходят за сбалансированной точной информацией». «Наши ключевые ценности — достоверность, сбалансированность, нейтральность», — отмечают создатели «Рувики».

Отметим, что это не первый аналог популярной электронной энциклопедии. Летом прошлого года сообщалось о запуске аналога «Википедии» под названием «Руниверсалис». На данный момент этот сервис продолжает оставаться доступным для пользователей.

В России представлен очередной отечественный аналог «Википедии» — «Рувики». Электронную энциклопедию планируется разместить на российских серверах и управлять ею будет российское юрлицо. У истоков «Рувики» стоит директор «Викимедиа РУ» Владимир Медейко. В «Викимедиа РУ» уже поднят вопрос о лишении Медейко должности.

Источник изображения: tvzvezda.ru

По словам Медейко, новый проект является ответвлением («форком») «Википедии» и никак не связан с «Викимедиа» или с государством. Утверждается, что «Рувики» финансируется исключительно частными инвесторами, но их имена и сумму вложений не раскрыли.

Первые 1,9 млн русскоязычных статей будут перенесены в новый проект прямиком из «Википедии», но в дальнейшем платформу будет развиваться самостоятельно и «иначе». Создатель проекта заверил, что «Рувики» не противопоставляет себя «Википедии», но и «не будет вызывать насторожённости, которая сейчас есть у заметного количества читателей» ресурса. По его словам, «Википедия» заработала в России «неоднозначную репутацию». «Рувики» должна стать энциклопедическим изданием, «куда приходят за сбалансированной точной информацией». «Наши ключевые ценности — достоверность, сбалансированность, нейтральность», — отмечают создатели «Рувики».

«Рувики» создаётся для «формирования обширного массива проверенных материалов и создания условий для привлечения к работе над проектом максимального количества экспертов». К проекту планируется привлечь как волонтёров, так и профессиональных редакторов. Авторов из «Википедии» новый проект готов принять на общих основаниях.

Источник изображения: «Рувики»

В дальнейшем пользователям обещан современный интерфейс, использование ИИ, персонализация контента и рабочей среды, и интеграция с сервисами. «Рувики» будет базироваться на продуктах с открытым исходным кодом и на собственных разработках, которые также будут выложены в открытый доступ. Для тренировки больших языковых моделей «Рувики» планирует участвовать в «создании обучающих выборок на языках народов России». В планах компании — сотрудничество с «Яндексом», «Сбером» и ИИ-проектами и сообществами LAION, Open Assistant, Databricks и EleutherAI.

Некоммерческое партнерство «Викимедиа РУ», управляющее российским сегментом «Википедии», запланировало на сегодняшний вечер проведение собрания, на котором будет решён вопрос о лишении полномочий директора Владимира Медейко. Об этом RTVI сообщил исполнительный директор НП «Викимедиа РУ» Станислав Козловский.✶

«Любой человек может делать свои проекты, это никому не запрещено, любой может брать контент “Википедии” и его использовать, это совершенно нормально. Ненормально использовать для этого полномочия директора “Викимедиа РУ” и несколько лет этим заниматься совершенно тайно. На мой взгляд, это не очень красиво», — объяснил Козловский.✶

«Рувики» — это уже третий проект по созданию суверенного российского аналога «Википедии». В августе 2022 года был запущен проект «Руниверсалис», «уважающий традиционные ценности». В декабре Минцифры сообщило о планах по созданию проекта «Знания», который должен был получить приоритет перед «Википедией» в поисковой выдаче.

Wikimedia Foundation в России неоднократно была оштрафована за неудаление запрещённой в России информации. В мае прошлого года Роскомнадзор потребовал от Wikimedia Foundation открытия представительства в России, а в июле вменил поисковым системам в обязанность помечать владельца энциклопедии как нарушителя законов России.

Несмотря на частые и серьёзные неточности в высказываниях, большая языковая ИИ-модель GPT вынудила основателя «Википедии» Джимми Уэйлса (Jimmy Wales) не на шутку задуматься о том, чтобы привлечь ИИ к написанию материалов для самой читаемой энциклопедии в истории человечества.

Джимми Уэйлс (Jimmy Wales). Источник изображения: wikipedia.org

В недавнем интервью британской газете Evening Standard Уэйлс рассуждает о присущих ИИ проблемах, включая его склонность к «галлюцинациям», но отмечает, что эта технология при расходах не более чем в £1000 ($1250) за год могла бы утроить число статей в «Википедии». Большая языковая модель вроде GPT смогла бы использоваться, например, для сравнения статей и поиска противоречащих друг другу точек зрения — система показала бы волонтёрам, куда можно приложить усилия.

Ещё один возможный сценарий более очевиден: поручить ИИ поиск пробелов в «Википедии» и написание сводных записей для страницы, которые ещё не написаны, с использованием информации из интернета. С другой стороны, отметил господин Уэйлс, репутация ресурса зиждется на особом отношении к объективности информации, и для больших языковых моделей вроде GPT это пока настоящая проблема. И если своевременно не обнаруживать не соответствующую действительности информацию, она начнёт множиться как снежный ком. Люди будут использовать её в своей работе, и на ней будут обучаться другие ИИ-модели, исправлять ошибки которых со временем будет всё труднее.

Наконец, Джимми Уэйлс пока не нашёл ответа, как повлияет работа ИИ на систематическую, хотя и бессознательную предвзятость «Википедии» — большинство волонтёров освещают некоторые темы преимущественно со своей точки зрения и игнорируют то, что не представляет для них интереса. С одной стороны, ChatGPT был разработан, чтобы попытаться найти сбалансированный взгляд на различные темы и внести в них новые нюансы, но и у GPT отмечается предвзятость, присущая её обучающим данным.

Wikimedia Foundation объявила о запуске первого крупного обновления интерфейса «Википедии» за более чем десять лет. Обновление уже вышло в англоязычной «Википедии», а также «в 94 % из 318 активных языковых версий» ресурса для пользователей настольных компьютеров.

Источник изображений: «Википедия»

Обновлённый интерфейс, выпущенный сразу после 22-й годовщины англоязычной «Википедии», выдвигает на первое место наглядность, удобство и модернизирует взаимодействие пользователей с сервисом, чтобы им было проще получать доступ к информации, исследовать её и делиться знаниями.

«Обновление настольной “Википедии” — одно из основных улучшений, которое мы вносим, чтобы помочь людям получать доступ к мировым знаниям, в поддержку нашей миссии по обеспечению свободного и равноправного доступа каждого человека на планете к знаниям, независимо от того, где они находятся. живут или откуда они, — сказала Селена Декельманн (Selena Deckelmann), директор по продуктам и технологиям Wikimedia Foundation. — Изменения облегчают людям поиск и изучение результатов работы наших волонтёров. Эти функции были созданы с учётом отзывов читателей и волонтёров со всего мира, чтобы удовлетворить потребности нашей всё более разнообразной аудитории, сохраняя при этом простоту и прямоту, которым миллионы людей доверяют за последние 22 года».

В обновлении для настольной версии представлено множество новых функций, в том числе:

• улучшенный поиск теперь использует изображения и описания;
• оптимизированные инструменты переключения языков (более 300 языков);
• обновлённый «липкий» заголовок с часто используемыми ссылками;
• новое оглавление обеспечивает контекст статьи и возможность навигации;
• улучшенное отображение текста для повышения удобства чтения;
• новое скрываемое боковое меню для комфортной навигации.

Обновлённый интерфейс не удаляет предыдущие функции. Вместо этого он представляет новые инструменты для улучшения работы существующего веб-сайта за счёт усовершенствований, основанных на консультациях с редакторами-добровольцами «Википедии», анализе данных и пользовательском тестировании. Более 30 различных групп добровольцев со всего мира, от Индии и Индонезии до Ганы и Аргентины, участвовали в разработке концепции, разработке продукта, тестировании и развёртывании. К сожалению, русский язык пока не вошёл в упомянутые 94 %, и русскоязычная страница «Википедии» представлена в старом интерфейсе, как видно по скриншоту ниже.

Улучшения были дополнительно сформированы глобальными исследованиями и отзывами пользователей. Эта совместная модель уникальна для проектов «Викимедиа», которые, в отличие от других технологических онлайн-платформ, отдают приоритет созданию вместе с пользователями, а не только для них.

Wikimedia Foundation собирает отзывы от новых и существующих пользователей «Википедии» и намерен продолжить модернизацию интерфейса сервиса, максимально отвечающего потребностям растущего глобального сообщества.

Стало известно, что портал «Знания», который позиционируется как отечественный аналог «Википедии», будет запущен в первом квартале 2023 года. Об этом пишет «Коммерсантъ» со ссылкой на главу Минцифры Максута Шадаева. Согласно имеющимся данным, в настоящее время на портале «Знания» размещено свыше 100 тыс. статей, тогда как в «Википедии» — более 1,8 млн публикаций.

Источник изображения: Pixabay

«Наша главная задача — иметь свой собственный портал, портал «Знания», который базируется на основе актуализированных материалов Большой российской энциклопедии <…> Планируется, что этот ресурс будет запущен в начале следующего года», — сказал господин Шадаев в ходе правительственного часа в Госдуме.

Напомним, в мае этого года глава государства заявил о востребованности в России объективной информации, а также о том, что «Википедия» не может являться единственным источником просветительского контента. В августе этого года был запущен аналог «Википедии» под названием «Руниверсалис», но сайт этого ресурса перестал функционировать через несколько часов после старта. Согласно имеющимся данным, над этим проектом работали бывшие редакторы русскоязычной версии «Википедии».

Рандомизированное контролируемое испытание показало, что статьи из «Википедии» часто используются судьями в качестве аргументов для вынесения судебных решений. Более того, в таких случаях судебные решения по новым делам часто содержат пересказ статей из «Википедии» и уже в дальнейшем служат основой для принятия новых решений на основе прецедентного права. Источники статей никто не проверяет. Практически любому фейку можно придать силу закона.

Источник изображения: Alex Shipps/MIT CSAIL

Группа исследователей под руководством Нила Томпсона (Neil Thompson), научного сотрудника Лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института (CSAIL), провела рандомизированное контролируемое испытание по оценке возможной степени влияния статей из «Википедии» на решения судей. Невольными подопытными стали судьи в Ирландии, о чём их никто не предупреждал.

Студенты-юристы написали свыше 150 статей о различных решениях Верховного суда Ирландии. Половина статей, выбранная случайным образом, была размещена на страницах «Википедии», а половина — контрольная группа — была опубликована на других ресурсах. Затем учёные проанализировали частоту цитирования опубликованных дел на «Википедии» и остальных. Выяснилось, что статьи с «Википедии» цитировались судьями и использовались как аргументы для принятия судебных решений на 20 % чаще, чем статьи из контрольной группы.

«Насколько нам известно, это первый рандомизированный полевой эксперимент, исследующий влияние правовых источников на поведение судей. А поскольку рандомизированные эксперименты являются золотым стандартом для такого рода исследований, мы знаем, что наблюдаемый нами эффект является причинно-следственной связью, а не просто корреляцией, — сказал Томпсон, ведущий автор исследования. — Тот факт, что мы написали все эти дела, но в «Википедию» попали только те, которые выиграли пресловутый "бросок монеты" [случайный выбор], позволяет нам показать, что «Википедия» влияет как на то, что судьи цитируют, так и на то, как они пишут свои решения».

Использованием «Википедии» грешат в основном судьи и клерки низших инстанций, что объясняется сверхзагруженностью этих чиновников. Судьи Верховного суда и Апелляционного суда меньше заимствовали информацию из «Википедии», что, впрочем, не снижает остроты проблемы доверия к решениям, принятым на такой основе.

Дополнительно учёные провели лингвистический анализ текстов решений по делам, цитируемым по «Википедии». Оказалось, что такие решения изобилуют перефразированными текстами, взятыми из «фейковых» статей.

Учёные обращают внимание, что редактировать статьи «Википедии» может кто угодно, и это представляет серьёзную угрозу, если её не купировать. Этим может быть подорвана правовая основа развитых стран.

Роскомнадзор объявил о принятии мер понуждения в отношении американской организации Wikimedia Foundation, являющейся владельцем интернет-энциклопедии «Википедия». Регулятор обязал поисковики информировать пользователей о том, что Wikimedia нарушает российское законодательство. Соответствующее сообщение появилось на сайте Роскомнадзора.

Источник изображения: pixabay.com

«В связи с невыполнением американской некоммерческой организацией Wikimedia Foundation Inc. обязанности по удалению противоправной информации Роскомнадзором принято решение о принятии меры понуждения в виде информирования поисковыми системами интернет-пользователей о нарушении иностранным лицом российского законодательства. Принятые меры в отношении интернет-компании будут действовать до полного устранения иностранным лицом нарушений российского законодательства», — говорится в сообщении Роскомнадзора.

В марте этого года Роскомнадзор уже предупреждал «Википедию» о возможной блокировке из-за публикации материалов, которые, как посчитали в ведомстве, содержат фейки о российской армии. В мае Роскомнадзор внёс Wikimedia в список организаций, которые должны открыть в России официальное представительство.

Согласно имеющимся данным, в настоящее время на сайте «Википедии» размещены несколько материалов, которые признаны запрещёнными для распространения в России, в том числе фейки о ходе специальной военной операции на Украине. Отмечается, что ранее Wikimedia неоднократно привлекалась к административной ответственности за неудаление противоправной информации и была несколько раз оштрафована на общую сумму в 5 млн рублей.

Фонд Wikimedia планирует оспорить штраф, который был вынесен российском судом за неудаление ряда статей. Об этом пишет The Verge со ссылкой на главного юрисконсульта фонда Стивена ЛаПорта (Stephen LaPorte). В организации заявили, что не видят в статьях непроверенной и недостоверной информации.

Фонд подал апелляцию 6 июня. Когда состоится следующее разбирательство, пока неясно.

«Это решение предполагает, что достоверные и проверенные сведения в "Википедии", которые не согласуются с отчётами российских властей, представляет собой дезинфорамцию. Мы призываем суд пересмотреть своё решение в пользу прав каждого на доступ к знаниям и свободе слова», — прокомментировал ситуацию ЛаПорт.

В конце апреля Таганский суд Москвы оштрафовал фонд Wikimedia на 5 млн рублей из-за семи статей о спецоперации в Украине. Согласно решению суда, причиной стало неудаление запрещённой информации (ч.2 ст. 13.41 КоАП РФ). Юрист фонда отметил, что в деле содержались документы на иностранном языке, которые не были переведены. Из-за этого было невозможно полноценно изучить протокол.

Некоммерческая организации Wikimedia Foundation, обеспечивающая функционирование «Википедии» и сопутствующих проектов, объявила в минувшее воскресенье о решении прекратить приём пожертвований в криптовалюте, о чём сообщила ведущая блога Web3 Is Going Just Great и давний редактор «Википедии» Молли Уайт (Molly White).

Источник изображения: Pixabay

В обновлении страницы Wikimedia Foundation, посвящённой обсуждению этого вопроса, организация сообщает о решении «прекратить прямое принятие криптовалюты в качестве средства пожертвования» и о намерении закрыть свой аккаунт Bitpay, чтобы предотвратить какие-либо будущие взносы в криптовалюте.

«Мы начали прямое принятие криптовалюты в 2014 году на основе запросов от наших волонтёров и сообществ жертвователей. Мы принимаем это решение на основе недавних отзывов от тех же сообществ», — сообщила Wikimedia Foundation. Организация принимала наряду с обычной формой оплаты пожертвования в популярных криптовалютах, таких как биткоин, Ethereum, Dogecoin, Litecoin и другие токены, включая стейблкоины.

В прошедшем голосовании большинство высказалось против криптовалюты — 232 голоса против 94. Основные аргументы, которые выдвигали противники криптовалюты в ходе обсуждения, касались экологических последствий майнинга криптовалюты, риска мошенничества, а также того факта, что Wikimedia Foundation получает очень небольшое количество пожертвований в виртуальных деньгах по сравнению с другими формами оплаты.

Как указано в Web3 is Going Great, в прошлом финансовом году «Википедии» было пожертвовано криптовалют на сумму около $130 тыс., что составляет лишь 0,08 % всего объёма пожертвований.

В итоге после голосования сообщества организация провела внутреннее обсуждение и приняла окончательное решение о прекращении приёма пожертвований в криптовалюте.

Вместе с тем Wikimedia Foundation сообщила, что продолжает следить за ситуацией и «будет оставаться гибкой и реагировать на потребности волонтеров и жертвователей», то есть допуская, что в будущем она может вновь одобрить приём криптовалюты.

Стало известно, что поддерживающий «Википедию» в России фонд «Викимедиа Ру» получил от Роскомнадзора письмо с требованием в десятидневный срок предоставить данные о посещаемости сайта энциклопедии. Эта информация требуется для включения владельца ресурса в реестр структур, которые должны исполнять требования закона «о приземлении». В Роскомнадзоре уверены, что деятельность американского фонда Wikimedia Foundation, являющегося владельцем «Википедии», соответствует условиям закона.

Источник изображения: Pixabay

Напомним, в соответствии с законом «о приземлении», который был принят в прошлом году, иностранные интернет-компании, владеющие веб-ресурсами с суточной аудиторией в России более 500 тыс. человек, обязаны открыть в стране полномочное представительство. Кроме того, они должны использовать рекомендованный регулятором счётчик посещаемости, зарегистрироваться в личном кабинете на сайте Роскомнадзора и разместить на своих сайтах формы обратной связи.

В «Викимедии Ру» рассказали, что фонд не имеет доступа к серверам «Википедии», поэтому не может представлять в суде их владельца в лице Wikimedia Foundation. При этом сотрудников американского фонда в России нет. Там также отметили, что статистика посещаемости интернет-энциклопедии является публичной. По данным Wikimedia Statistics от 24 апреля, аудитория русскоязычной «Википедии» составила 9,86 млн устройств по всему миру. Статистика за март говорит, что 789 млн просмотров страниц на всех ресурсах «Википедии», включая «Викисловарь», «Викицитатник» и иноязычные разделы, приходилось на пользователей из России.

Ранее у Роскомнадзора и Генпрокуратуры уже возникали вопросы к «Википедии» по поводу публикации недостоверного контента, связанного со спецоперацией на Украине. В отношении Wikimedia Foundation в России уже составлено два протокола о неудалении запрещённого контента.