Сегодня 20 августа 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Википедия» выпустила набор данных для обучения ИИ, чтобы боты не перегружали её серверы скрейпингом

Фонд Wikimedia (некоммерческая организация, управляющая «Википедией») предложил компаниям вместо веб-скрейпинга контента «Википедии» с помощью ботов, который истощает её ресурсы и перегружает серверы трафиком, воспользоваться набором данных, специально оптимизированным для обучения ИИ-моделей.

 Источник изображения: Oberon Copeland @veryinformed.com/unsplash.com

Источник изображения: Oberon Copeland @veryinformed.com/unsplash.com

Wikimedia объявил о заключении партнёрского соглашения с Kaggle, ведущей платформой для специалистов в области Data Science и машинного обучения, принадлежащей Google. В рамках соглашения на ней будет опубликована бета-версия набора данных «структурированного контента “Википедии” на английском и французском языках».

Согласно Wikimedia, набор данных, размещённый Kaggle, был «разработан с учётом рабочих процессов машинного обучения», что упрощает разработчикам ИИ доступ к машиночитаемым данным статей для моделирования, тонкой настройки, сравнительного анализа, выравнивания и анализа. Содержимое набора данных имеет открытую лицензию. По состоянию на 15 апреля набор включает в себя обзоры исследований, краткие описания, ссылки на изображения, данные инфобоксов и разделы статей — за исключением ссылок или неписьменных элементов, таких как аудиофайлы.

Как сообщает Wikimedia, «хорошо структурированные JSON-представления контента “Википедии”», доступные пользователям Kaggle, должны быть более привлекательной альтернативой «скрейпингу или анализу сырого текста статей».

На данный момент у Wikimedia есть соглашения об обмене контентом с Google и Internet Archive, но партнёрство с Kaggle позволит сделать данные более доступными для небольших компаний и независимых специалистов в сфере Data Science. «Являясь площадкой, к которой сообщество машинного обучения обращается за инструментами и тестами, Kaggle будет рада стать хостом для данных фонда Wikimedia», — сообщила Бренда Флинн (Brenda Flynn), руководитель по коммуникациям в Kaggle.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Ветеран разработки Dishonored и Deus Ex открыл новую студию для создания игр вроде Dishonored и Deus Ex 3 ч.
Новый трейлер возвестил о старте предзаказов гротескного хоррора Clive Barker’s Hellraiser: Revival — игра продаётся и в российском Steam 6 ч.
Nightdive подтвердила дату выхода Sin: Reloaded — ремастера культового шутера 1998 года 7 ч.
GitHub объяснил масштабный сбой ошибкой масштабирования и шквалом повторных запросов от VS Code 7 ч.
Xiaomi раскрыла список устройств, которые получат аналог «Жидкого стекла» в HyperOS 4 8 ч.
Windows 11 научится блокировать камеру и микрофон для каждого приложения 8 ч.
Американские законодатели подсели на ChatGPT — и завалили юристов работой 8 ч.
Вторая за сутки утечка GTA VI показала ночной геймплей и раскрыла новые подробности игры 8 ч.
Sony перезапустила разработку Horizon Hunters Gathering на фоне критики игроков, а Horizon 3 придётся ждать «годы» 8 ч.
Telegram дважды оштрафовали в России — с начала года сумма штрафов перевалила за 100 млн рублей 9 ч.
В Якутии развернут дальневосточный ИИ-кластер на базе собственного дата-центра 38 мин.
Стартовали российские продажи смартфона Honor Turbo с батареей на 8650 мА·ч по цене 36 990 рублей 2 ч.
Новая статья: Обзор беззеркальной камеры Canon EOS R6 Mark III: прогресс, который почувствуют видеографы 2 ч.
Sandisk спроектировала первый кристалл HBF и готовит выпуск образцов в 2027 году 2 ч.
LG Display представила работающую безмасочную технологию печати OLED-дисплеев следующего поколения 7 ч.
Грядущий смарт-дисплей Apple HomePad будет похож на Apple Watch, только большие 7 ч.
Samsung Galaxy S26 FE получит повышенную автономность — ценой долговечности аккумулятора 8 ч.
Человеческие нейроны подружились с кремнием: в Сингапуре запустили прототип «биологического» ЦОД 8 ч.
Amazon организует доставку дронами в 500 городах и населённых пунктах США 8 ч.
Sony до сих пор не определилась со сроками выхода PlayStation 6 9 ч.