Сегодня 19 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Википедия» выпустила набор данных для обучения ИИ, чтобы боты не перегружали её серверы скрейпингом

Фонд Wikimedia (некоммерческая организация, управляющая «Википедией») предложил компаниям вместо веб-скрейпинга контента «Википедии» с помощью ботов, который истощает её ресурсы и перегружает серверы трафиком, воспользоваться набором данных, специально оптимизированным для обучения ИИ-моделей.

 Источник изображения: Oberon Copeland @veryinformed.com/unsplash.com

Источник изображения: Oberon Copeland @veryinformed.com/unsplash.com

Wikimedia объявил о заключении партнёрского соглашения с Kaggle, ведущей платформой для специалистов в области Data Science и машинного обучения, принадлежащей Google. В рамках соглашения на ней будет опубликована бета-версия набора данных «структурированного контента “Википедии” на английском и французском языках».

Согласно Wikimedia, набор данных, размещённый Kaggle, был «разработан с учётом рабочих процессов машинного обучения», что упрощает разработчикам ИИ доступ к машиночитаемым данным статей для моделирования, тонкой настройки, сравнительного анализа, выравнивания и анализа. Содержимое набора данных имеет открытую лицензию. По состоянию на 15 апреля набор включает в себя обзоры исследований, краткие описания, ссылки на изображения, данные инфобоксов и разделы статей — за исключением ссылок или неписьменных элементов, таких как аудиофайлы.

Как сообщает Wikimedia, «хорошо структурированные JSON-представления контента “Википедии”», доступные пользователям Kaggle, должны быть более привлекательной альтернативой «скрейпингу или анализу сырого текста статей».

На данный момент у Wikimedia есть соглашения об обмене контентом с Google и Internet Archive, но партнёрство с Kaggle позволит сделать данные более доступными для небольших компаний и независимых специалистов в сфере Data Science. «Являясь площадкой, к которой сообщество машинного обучения обращается за инструментами и тестами, Kaggle будет рада стать хостом для данных фонда Wikimedia», — сообщила Бренда Флинн (Brenda Flynn), руководитель по коммуникациям в Kaggle.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Российский рынок промышленного ИИ достигнет 134 млрд рублей к 2030 году 4 ч.
Anthropic направит до 20 % акций на благотворительность — в том числе для борьбы с безработицей из-за ИИ 7 ч.
Разработчик экшена Samson подал на банкротство — сотрудники Liquid Swords несколько месяцев не получали зарплату 18 ч.
Анонсирован Encryption — хоррор о поисках пропавшей дочери в охваченной лесными пожарами Италии 21 ч.
ИИ действительно приведёт к потере рабочих мест, но при этом создаст целые новые отрасли, как считает Anthropic 18-10 07:26
Новая статья: TOEM 2 — в одну уютную реку дважды. Рецензия 18-10 00:07
Сервер или люди? ИИ проверили задачей о вагонетке — и пожалели 17-10 17:05
Криптобиржа Bitget закрыла доступ к сервисам жителям России и Беларуси 17-10 16:35
Anthropic предложила американским законодателям собственный законопроект о регулировании отрасли ИИ 17-10 07:11
ИИ-модели Google достигли переломного момента: вскоре они смогут самосовершенствоваться 17-10 06:37
Мобильный интернет в России разогнался почти 20 % после запуска 5G 2 ч.
Старые iPhone станут донорами для новых китайских смартфонов — всё из-за дефицита памяти 3 ч.
У складного iPhone батарея оказалась меньше, чем у iPhone 18 Pro Max — Apple раскрыла точную ёмкость 4 ч.
Сдача ЦОД Nscale в норвежском Глом-фьорде отложена на полгода из-за пожара, утечек в системе охлаждения и более серьёзных проблем 4 ч.
SAMA B850 — блок питания для современных игровых ПК с сертификацией Cybenetics и не только 4 ч.
Великобритания отклонило заявку на создание 1,2-ГВт «углеродно-отрицательного» ИИ ЦОД в рамках программы AI Growth Zone 4 ч.
Microsoft: компонуемая память поможет преодолеть ограничения в ИИ-инфраструктуре 4 ч.
Biostar представила одноплатный компьютер BIWCL-PAT на базе Intel Wildcat Lake для AIoT-приложений 5 ч.
Navitas и NVIDIA создали плату питания мощностью 24 кВт для ИИ ЦОД 5 ч.
Nvidia объединяет: TSMC поможет Samsung выпускать скоростную ИИ-память NVHBM 5 ч.