Сегодня 27 июля 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Википедия» выпустила набор данных для обучения ИИ, чтобы боты не перегружали её серверы скрейпингом

Фонд Wikimedia (некоммерческая организация, управляющая «Википедией») предложил компаниям вместо веб-скрейпинга контента «Википедии» с помощью ботов, который истощает её ресурсы и перегружает серверы трафиком, воспользоваться набором данных, специально оптимизированным для обучения ИИ-моделей.

 Источник изображения: Oberon Copeland @veryinformed.com/unsplash.com

Источник изображения: Oberon Copeland @veryinformed.com/unsplash.com

Wikimedia объявил о заключении партнёрского соглашения с Kaggle, ведущей платформой для специалистов в области Data Science и машинного обучения, принадлежащей Google. В рамках соглашения на ней будет опубликована бета-версия набора данных «структурированного контента “Википедии” на английском и французском языках».

Согласно Wikimedia, набор данных, размещённый Kaggle, был «разработан с учётом рабочих процессов машинного обучения», что упрощает разработчикам ИИ доступ к машиночитаемым данным статей для моделирования, тонкой настройки, сравнительного анализа, выравнивания и анализа. Содержимое набора данных имеет открытую лицензию. По состоянию на 15 апреля набор включает в себя обзоры исследований, краткие описания, ссылки на изображения, данные инфобоксов и разделы статей — за исключением ссылок или неписьменных элементов, таких как аудиофайлы.

Как сообщает Wikimedia, «хорошо структурированные JSON-представления контента “Википедии”», доступные пользователям Kaggle, должны быть более привлекательной альтернативой «скрейпингу или анализу сырого текста статей».

На данный момент у Wikimedia есть соглашения об обмене контентом с Google и Internet Archive, но партнёрство с Kaggle позволит сделать данные более доступными для небольших компаний и независимых специалистов в сфере Data Science. «Являясь площадкой, к которой сообщество машинного обучения обращается за инструментами и тестами, Kaggle будет рада стать хостом для данных фонда Wikimedia», — сообщила Бренда Флинн (Brenda Flynn), руководитель по коммуникациям в Kaggle.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Новая статья: Gamesblender № 786: «честный» Unity 7, игры за рекламу от Xbox, четыре Fallout и криптокражи в Steam 4 ч.
Apple ответит в суде за то, что пропустила в App Store мошеннический криптокошелёк — пользователи потеряли $1,8 млн 12 ч.
«Хватит пугать людей» — Дженсен Хуанг раскритиковал апокалиптическую риторику ИИ-отрасли 26-07 00:30
Новая статья: Moss: The Forgotten Relic — сказочный сборник, сбежавший из VR-плена. Рецензия 26-07 00:07
В США разгорелись споры между сторонниками и противниками открытых ИИ-моделей 25-07 20:21
OpenAI целую неделю не замечала, что её ИИ-агенты взломали Hugging Face 25-07 11:18
Microsoft представила ИИ-модели для работы с изображениями и речью — они значительно экономнее аналогов OpenAI 25-07 11:11
Sony подтвердила дату выхода God of War Laufey и новую God of War про Кратоса 25-07 10:24
Чат-бот Meta AI получил возможности персонального помощника как в ChatGPT и Gemini 25-07 06:00
Новая статья: The Alters: Last Variable — последняя тайна. Рецензия 25-07 00:04
Новая статья: Обзор видеокарты Acer Nitro Radeon RX 9060 XT OC 8G: на что хватает 8 Гбайт VRAM? 3 ч.
Корабль «Союз МС-28» доставил с МКС в Казахстан двух россиян и американца 10 ч.
Сбой в «Аллее дата-центров» привёл к мгновенному отключению 3 ГВт мощностей — рекорд для энергосистемы США 10 ч.
Astera Labs представила первые в отрасли 3,2-Тбит/с интеллектуальные ретаймеры и редрайверы для Ethernet и UALink 14 ч.
Цены на клиентские процессоры Intel выросли на 27 %, объёмы продаж сократились на 8 %, но чипов всё равно не хватило на всех 20 ч.
OpenAI настроена интегрировать ChatGPT в умные очки сторонних разработчиков 26-07 00:49
Графические процессоры Nvidia отправятся на Луну до конца года 25-07 22:52
«АМДтехнологии» и «Е-Флопс» развернули «двухконтурный» суперкомпьютер для ИИ- и HPC-задач 25-07 22:28
ИИ-платформа Liqid UltraStack объединяет 30 ускорителей AMD Instinct MI350P 25-07 21:30
В семейство AMD Ryzen AI Embedded X100 вошли процессоры с 8–16 ядрами 25-07 21:20