Сегодня 24 августа 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Википедия» выпустила набор данных для обучения ИИ, чтобы боты не перегружали её серверы скрейпингом

Фонд Wikimedia (некоммерческая организация, управляющая «Википедией») предложил компаниям вместо веб-скрейпинга контента «Википедии» с помощью ботов, который истощает её ресурсы и перегружает серверы трафиком, воспользоваться набором данных, специально оптимизированным для обучения ИИ-моделей.

 Источник изображения: Oberon Copeland @veryinformed.com/unsplash.com

Источник изображения: Oberon Copeland @veryinformed.com/unsplash.com

Wikimedia объявил о заключении партнёрского соглашения с Kaggle, ведущей платформой для специалистов в области Data Science и машинного обучения, принадлежащей Google. В рамках соглашения на ней будет опубликована бета-версия набора данных «структурированного контента “Википедии” на английском и французском языках».

Согласно Wikimedia, набор данных, размещённый Kaggle, был «разработан с учётом рабочих процессов машинного обучения», что упрощает разработчикам ИИ доступ к машиночитаемым данным статей для моделирования, тонкой настройки, сравнительного анализа, выравнивания и анализа. Содержимое набора данных имеет открытую лицензию. По состоянию на 15 апреля набор включает в себя обзоры исследований, краткие описания, ссылки на изображения, данные инфобоксов и разделы статей — за исключением ссылок или неписьменных элементов, таких как аудиофайлы.

Как сообщает Wikimedia, «хорошо структурированные JSON-представления контента “Википедии”», доступные пользователям Kaggle, должны быть более привлекательной альтернативой «скрейпингу или анализу сырого текста статей».

На данный момент у Wikimedia есть соглашения об обмене контентом с Google и Internet Archive, но партнёрство с Kaggle позволит сделать данные более доступными для небольших компаний и независимых специалистов в сфере Data Science. «Являясь площадкой, к которой сообщество машинного обучения обращается за инструментами и тестами, Kaggle будет рада стать хостом для данных фонда Wikimedia», — сообщила Бренда Флинн (Brenda Flynn), руководитель по коммуникациям в Kaggle.

Источник:

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про видеокарты и процессоры
Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Президент OpenAI Грег Брокман стал вторым по влиянию руководителем стартапа 8 мин.
Российская Team Spirit стала трёхкратным чемпионом The International по Dota 2 — первой в истории 12 ч.
Vampire Survivors получит дополнение Legacy of the Bloodmoon с новыми картой, персонажами и оружием до конца августа 14 ч.
Microsoft объяснила, почему легендарная игра 3D Pinball исчезла из Windows 23-08 06:54
Новая статья: Agent 64: Spies Never Die — не время умирать. Рецензия 23-08 00:07
Всего 1 % игр в Steam собирает 84,5 % выручки, показало исследование 22-08 19:19
Седьмая утечка геймплея GTA VI показала ограбление заправок и систему повреждения машин 22-08 16:45
Microsoft возложила вину за проблемы Windows 11 с играми после очередного обновления на RGB-подсветку 22-08 14:47
Claude улучшил результаты в три раза благодаря оболочке: Nvidia показала новый путь развития ИИ-агентов 22-08 14:43
Российский рекорд: впервые в истории весь топ-4 The International заняли команды из РФ 22-08 14:28
Apple может одновременно представить осенью домашний хаб с дисплеем, Apple TV 4K и HomePod mini 2 ч.
Новая статья: Компьютер месяца, спецвыпуск: во что дефицит чипов памяти превратил бюджетные игровые ПК и при чем здесь Steam Machine 7 ч.
Геймеры запускают недельный бойкот PlayStation — они протестуют против отказа от игр на дисках 12 ч.
Nvidia заплатит $6 млрд за лицензию Poolside и переманит почти всю команду стартапа 13 ч.
На всё готовое: NVIDIA вложилась в Cloverleaf, чтобы ускорить строительство оптимизированных для её оборудования ИИ ЦОД 14 ч.
Капитальные затраты на дата-центры превысят $3 трлн к 2030 году 16 ч.
Андроид побил рекорд Усэйна Болта: в Китае стартовали Всемирные игры человекоподобных роботов 19 ч.
В прошлом квартале рынок CPU сократился на 1,1 % в клиентском сегменте и вырос на 22 % в серверном 23 ч.
Дочерняя компания Geely получила разрешение на испытания своей спутниковой системы связи 24 ч.
Anthropic собирается указать общественное неприятие ИИ в качестве фактора риска в своём проспекте для инвесторов 24 ч.