Сегодня 14 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Википедия» выпустила набор данных для обучения ИИ, чтобы боты не перегружали её серверы скрейпингом

Фонд Wikimedia (некоммерческая организация, управляющая «Википедией») предложил компаниям вместо веб-скрейпинга контента «Википедии» с помощью ботов, который истощает её ресурсы и перегружает серверы трафиком, воспользоваться набором данных, специально оптимизированным для обучения ИИ-моделей.

 Источник изображения: Oberon Copeland @veryinformed.com/unsplash.com

Источник изображения: Oberon Copeland @veryinformed.com/unsplash.com

Wikimedia объявил о заключении партнёрского соглашения с Kaggle, ведущей платформой для специалистов в области Data Science и машинного обучения, принадлежащей Google. В рамках соглашения на ней будет опубликована бета-версия набора данных «структурированного контента “Википедии” на английском и французском языках».

Согласно Wikimedia, набор данных, размещённый Kaggle, был «разработан с учётом рабочих процессов машинного обучения», что упрощает разработчикам ИИ доступ к машиночитаемым данным статей для моделирования, тонкой настройки, сравнительного анализа, выравнивания и анализа. Содержимое набора данных имеет открытую лицензию. По состоянию на 15 апреля набор включает в себя обзоры исследований, краткие описания, ссылки на изображения, данные инфобоксов и разделы статей — за исключением ссылок или неписьменных элементов, таких как аудиофайлы.

Как сообщает Wikimedia, «хорошо структурированные JSON-представления контента “Википедии”», доступные пользователям Kaggle, должны быть более привлекательной альтернативой «скрейпингу или анализу сырого текста статей».

На данный момент у Wikimedia есть соглашения об обмене контентом с Google и Internet Archive, но партнёрство с Kaggle позволит сделать данные более доступными для небольших компаний и независимых специалистов в сфере Data Science. «Являясь площадкой, к которой сообщество машинного обучения обращается за инструментами и тестами, Kaggle будет рада стать хостом для данных фонда Wikimedia», — сообщила Бренда Флинн (Brenda Flynn), руководитель по коммуникациям в Kaggle.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Meta тестирует аналог Polymarket — сотрудники делают ставки, станет ли Тим Кук главой Nvidia 24 мин.
Новая статья: Queen's Domain — по заветам FromSoftware. Рецензия 11 ч.
Google встроила «Кошелёк» в Gemini: ИИ сможет анализировать расходы и находить забытые подписки 13 ч.
PS5 теряет эксклюзивы: метроидвания God of War: Sons of Sparta выйдет на PS4 с новым контентом 15 ч.
У ChatGPT появился «Кошелёк» — теперь ИИ-агенты смогут совершать покупки от имени пользователя 15 ч.
Сервисы Microsoft стали восстанавливаться после одного из самых продолжительных глобальных сбоев 15 ч.
США арестовали $1,2 млрд из похищенных у Binance активов на $6,3 млрд 15 ч.
В GTA VI будет полноценный внутриигровой мультсериал — первый трейлер Macca & Friends 16 ч.
Microsoft вынудила трейдеров и работников офисов по всему миру вспомнить про факсы и телефоны 17 ч.
У Anthropic Claude произошёл глобальный сбой вслед за сервисами Microsoft 20 ч.
Обновление пошло не по плану: перегруженные маршрутизаторы остановили авиасообщение в США 32 мин.
Временная глава Nvidia Колетт Кресс конфликтовала с Хуангом из-за рискованных ставок на ИИ 2 ч.
Intel выпустила эксклюзивный Core Ultra 7 260K для магазина Newegg — он совсем чуть-чуть медленнее 265K 9 ч.
Процессоры могут повторить судьбу видеокарт: бум ИИ грозит новым дефицитом комплектующих 11 ч.
Предложение занять пост гендиректора Nvidia получил глава Arm, но это не точно 11 ч.
Мышь с трекболом, который можно подвинуть под себя: Keychron открыла предзаказы на T1 HE за $60 11 ч.
ИИ-проекты Китая на $3,2 млрд оказались под угрозой из-за увольнения Хуанга 11 ч.
Первые компоненты умного дома Apple Home Collection стали доступны для предзаказа 11 ч.
AMD представила ускорители Instinct MI450X с уменьшенным объёмом памяти 13 ч.
QuantumScape нашла способ обуздать главную проблему твердотельных аккумуляторов и готова поделиться технологией 13 ч.