Сегодня 03 августа 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Википедия» выпустила набор данных для обучения ИИ, чтобы боты не перегружали её серверы скрейпингом

Фонд Wikimedia (некоммерческая организация, управляющая «Википедией») предложил компаниям вместо веб-скрейпинга контента «Википедии» с помощью ботов, который истощает её ресурсы и перегружает серверы трафиком, воспользоваться набором данных, специально оптимизированным для обучения ИИ-моделей.

 Источник изображения: Oberon Copeland @veryinformed.com/unsplash.com

Источник изображения: Oberon Copeland @veryinformed.com/unsplash.com

Wikimedia объявил о заключении партнёрского соглашения с Kaggle, ведущей платформой для специалистов в области Data Science и машинного обучения, принадлежащей Google. В рамках соглашения на ней будет опубликована бета-версия набора данных «структурированного контента “Википедии” на английском и французском языках».

Согласно Wikimedia, набор данных, размещённый Kaggle, был «разработан с учётом рабочих процессов машинного обучения», что упрощает разработчикам ИИ доступ к машиночитаемым данным статей для моделирования, тонкой настройки, сравнительного анализа, выравнивания и анализа. Содержимое набора данных имеет открытую лицензию. По состоянию на 15 апреля набор включает в себя обзоры исследований, краткие описания, ссылки на изображения, данные инфобоксов и разделы статей — за исключением ссылок или неписьменных элементов, таких как аудиофайлы.

Как сообщает Wikimedia, «хорошо структурированные JSON-представления контента “Википедии”», доступные пользователям Kaggle, должны быть более привлекательной альтернативой «скрейпингу или анализу сырого текста статей».

На данный момент у Wikimedia есть соглашения об обмене контентом с Google и Internet Archive, но партнёрство с Kaggle позволит сделать данные более доступными для небольших компаний и независимых специалистов в сфере Data Science. «Являясь площадкой, к которой сообщество машинного обучения обращается за инструментами и тестами, Kaggle будет рада стать хостом для данных фонда Wikimedia», — сообщила Бренда Флинн (Brenda Flynn), руководитель по коммуникациям в Kaggle.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Московский суд не признал сгенерированные ИИ изображения творчеством 10 ч.
Новая статья: Gamesblender № 787: дата выхода God of War Laufey, бета Gears of War и томский «стимулятор» таксиста 02-08 00:02
Microsoft научит Windows 11 экономить оперативную память — улучшения выйдут уже осенью 01-08 21:13
Торговать в Crimson Desert стало удобнее и выгоднее — подробности обновления 1.16.00 01-08 20:01
Утверждён список приложений для предустановки в России на 2027 год 01-08 13:32
Google сделает исключение для стран под санкциями — Android-разработчиков там не будут проверять 01-08 11:31
Ещё несколько ИИ-агентов OpenAI вышли из-под контроля — до взломов, кажется, не дошло 01-08 11:23
OpenAI сообщила, что её сервисами теперь пользуются более миллиарда человек и свыше двух миллионов компаний 01-08 09:47
Такой Google Earth нам не нужен: функцию генерации спутниковых снимков отключили из-за злоупотреблений 01-08 07:36
Вложив ещё $50 млрд в OpenAI, Amazon теперь владеет 5 % её капитала 01-08 06:28
Новая статья: Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года) 4 ч.
Из-за нехватки памяти MacBook Air превратился в дефицитный товар, несмотря на повышение цен 8 ч.
Sony заявила о достаточных запасах памяти для производства PS5 в этом году даже с учётом выхода GTA 6 9 ч.
Supermicro представила серверные стойки со статической нагрузкой до 2500 кг 14 ч.
Arm объявила о растущем спросе на её процессор для ЦОД, но акции упали из-за ожидаемого снижения роялти от смартфонов 14 ч.
Характеристики и стоимость смартфонов Google Pixel 11 стали известны до анонса 15 ч.
Samsung отмечает рост спроса на 2-нм и 1,4-нм продукцию, будет расширять профильные мощности 20 ч.
Акции SpaceX опустились на 20 % ниже цены июньского размещения 22 ч.
Alibaba предоставила Moonshot вычислительные мощности на 20 000 чипов Nvidia для обучения моделей Kimi 22 ч.
В Китае появилась «квантовая» подстанция — электросети никогда ещё не были так защищены 01-08 21:09