Сегодня 09 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Википедия» выпустила набор данных для обучения ИИ, чтобы боты не перегружали её серверы скрейпингом

Фонд Wikimedia (некоммерческая организация, управляющая «Википедией») предложил компаниям вместо веб-скрейпинга контента «Википедии» с помощью ботов, который истощает её ресурсы и перегружает серверы трафиком, воспользоваться набором данных, специально оптимизированным для обучения ИИ-моделей.

 Источник изображения: Oberon Copeland @veryinformed.com/unsplash.com

Источник изображения: Oberon Copeland @veryinformed.com/unsplash.com

Wikimedia объявил о заключении партнёрского соглашения с Kaggle, ведущей платформой для специалистов в области Data Science и машинного обучения, принадлежащей Google. В рамках соглашения на ней будет опубликована бета-версия набора данных «структурированного контента “Википедии” на английском и французском языках».

Согласно Wikimedia, набор данных, размещённый Kaggle, был «разработан с учётом рабочих процессов машинного обучения», что упрощает разработчикам ИИ доступ к машиночитаемым данным статей для моделирования, тонкой настройки, сравнительного анализа, выравнивания и анализа. Содержимое набора данных имеет открытую лицензию. По состоянию на 15 апреля набор включает в себя обзоры исследований, краткие описания, ссылки на изображения, данные инфобоксов и разделы статей — за исключением ссылок или неписьменных элементов, таких как аудиофайлы.

Как сообщает Wikimedia, «хорошо структурированные JSON-представления контента “Википедии”», доступные пользователям Kaggle, должны быть более привлекательной альтернативой «скрейпингу или анализу сырого текста статей».

На данный момент у Wikimedia есть соглашения об обмене контентом с Google и Internet Archive, но партнёрство с Kaggle позволит сделать данные более доступными для небольших компаний и независимых специалистов в сфере Data Science. «Являясь площадкой, к которой сообщество машинного обучения обращается за инструментами и тестами, Kaggle будет рада стать хостом для данных фонда Wikimedia», — сообщила Бренда Флинн (Brenda Flynn), руководитель по коммуникациям в Kaggle.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Broadcom вспомнила о небольших компаниях и выпустила VMware vSphere Express с поддержкой до 128 ядер 2 ч.
Инсайдеры раскрыли планы Ubisoft на Assassin’s Creed про Древний Рим, а Codename Hexe придётся подождать 2 ч.
«Лаборатория Числитель» выпустила платформу «Штурвал ML/AI» для ML- и AI-нагрузок в Kubernetes 12 ч.
Роботов с ИИ оказалось легко обмануть: искажённая картинка заставляет их легко выполнять опасные команды 16 ч.
Тестирование шутера Fragmentary Order от создателя Escape from Tarkov стартует в декабре — раскрыты системные требования альфа-версии 08-11 00:52
Новая статья: Cairn — госпожа горных дорог. Рецензия 08-11 00:11
Новая статья: Gamesblender № 801: песчаная TES VI: Sentinel, новый шутер Джона Ромеро и Xbox в крокодиле 07-11 23:37
У клавиатуры iPhone нашёлся список из 100 тыс. запретных слов — но набирать их всё равно можно 07-11 15:14
Просто деньги очень нужны: Anthropic не откажется от IPO на фоне биржевого обвала 07-11 15:06
Китайский ИИ почти догнал секретную модель OpenAI во взломе сетей — и оказался дешевле 07-11 13:59
Penguin Solutions представила модули DDR5-12800 MRDIMM для ИИ ЦОД 3 ч.
Новая статья: Мастерская локальных ИИ: FLUX 3 Image Klein — рамки под контролем 12 ч.
Более сотни протестующих проникли на стройплощадку ЦОД Microsoft в Амстердаме 12 ч.
Nokia: к 2035 году на долю ИИ придётся почти половина мирового сетевого трафика 12 ч.
К европейской суперкомпьютерной программе EuroHPC JU присоединилась Канада 12 ч.
Старые, неэкологичные авиадвигатели всё более востребованы для электропитания ИИ ЦОД в США 07-11 23:42
Расследование показало, что США разрешили закупать чипы Nvidia несуществующим китайским компаниям 07-11 21:41
TSMC не хочет заниматься памятью, даже если просит Nvidia — компания ответила на слухи о выпуске DRAM 07-11 18:08
WOLED-телевизоры атакует «пиксельная плесень» — выгорание оказалось не единственной проблемой 07-11 16:09
Synology выпустила двухконтроллерную СХД PAS3600 на 12 накопителей SATA 07-11 16:04