Сегодня 12 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Википедия» выпустила набор данных для обучения ИИ, чтобы боты не перегружали её серверы скрейпингом

Фонд Wikimedia (некоммерческая организация, управляющая «Википедией») предложил компаниям вместо веб-скрейпинга контента «Википедии» с помощью ботов, который истощает её ресурсы и перегружает серверы трафиком, воспользоваться набором данных, специально оптимизированным для обучения ИИ-моделей.

 Источник изображения: Oberon Copeland @veryinformed.com/unsplash.com

Источник изображения: Oberon Copeland @veryinformed.com/unsplash.com

Wikimedia объявил о заключении партнёрского соглашения с Kaggle, ведущей платформой для специалистов в области Data Science и машинного обучения, принадлежащей Google. В рамках соглашения на ней будет опубликована бета-версия набора данных «структурированного контента “Википедии” на английском и французском языках».

Согласно Wikimedia, набор данных, размещённый Kaggle, был «разработан с учётом рабочих процессов машинного обучения», что упрощает разработчикам ИИ доступ к машиночитаемым данным статей для моделирования, тонкой настройки, сравнительного анализа, выравнивания и анализа. Содержимое набора данных имеет открытую лицензию. По состоянию на 15 апреля набор включает в себя обзоры исследований, краткие описания, ссылки на изображения, данные инфобоксов и разделы статей — за исключением ссылок или неписьменных элементов, таких как аудиофайлы.

Как сообщает Wikimedia, «хорошо структурированные JSON-представления контента “Википедии”», доступные пользователям Kaggle, должны быть более привлекательной альтернативой «скрейпингу или анализу сырого текста статей».

На данный момент у Wikimedia есть соглашения об обмене контентом с Google и Internet Archive, но партнёрство с Kaggle позволит сделать данные более доступными для небольших компаний и независимых специалистов в сфере Data Science. «Являясь площадкой, к которой сообщество машинного обучения обращается за инструментами и тестами, Kaggle будет рада стать хостом для данных фонда Wikimedia», — сообщила Бренда Флинн (Brenda Flynn), руководитель по коммуникациям в Kaggle.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Steam установил новый рекорд популярности — впервые в истории платформы пиковый онлайн превысил 43,5 миллиона человек 42 мин.
ИИ обеспечит ряд научных прорывов в ближайшие три года, как считает глава TikTok 2 ч.
Глава Microsoft призвал встроить в ИИ ручной тормоз — модели нужно контролировать с первой секунды 20 ч.
Вдохновлённая Disco Elysium фэнтезийная ролевая игра Esoteric Ebb получит официальный текстовый перевод на русский язык 21 ч.
Новая статья: Ace Combat 8: Wings of Theve — одна из лучших игр серии. Рецензия 11-10 00:10
«Это будет монументально»: амбициозный боевик Squadron 42 во вселенной Star Citizen получил новый трейлер, 15 скриншотов и страницу в Steam 10-10 20:08
Microsoft выпустила ИИ, который выбирает варианты и не разговаривает — в тестах он оказался в 35 раз быстрее GPT-6 Sol 10-10 18:00
Anthropic признала, что не может контролировать своих ИИ-агентов — поэтому им отключили интернет 10-10 17:21
Трамп обещал отделить американский TikTok от Китая, но связи с ByteDance сохранились 10-10 16:56
Стартап из 14 человек подтолкнул Цукерберга к запуску Muse, несмотря на проблемы с безопасностью 10-10 16:08
Upscale AI представил архитектуру Token Fabric для ИИ-фабрик 11 мин.
Arista представила интерконнект Etherlink SU-144 для кластеров ИИ и НРС 55 мин.
Новая статья: Групповое тестирование 46 видеокарт в The Witcher 3: Wild Hunt — Remastered 10 ч.
«Машины, которые делают машины»: NVIDIA и Foxconn повысили эффективность сборки платформ NVIDIA GB300 с помощью роботов 12 ч.
Дания одобрила «чрезвычайный план» для электросетей, лишающий большинство ЦОД шанса на быстрое получение питания 13 ч.
Будущий iPad mini с OLED может подорожать сразу на $200 по сравнению с актуальным 13 ч.
Oxide Computer привлекла $445 млн, чтобы нарастить производство своих уникальных стоек 14 ч.
«Яндекс» предупредила о полной остановке работы ЦОД во Владимире из-за атаки БПЛА 20 ч.
Дата-центр «Яндекса» во Владимире полностью остановил работу после атаки БПЛА 23 ч.
Китайцы задавили GoPro на её же поле — DJI и Insta360 захватили 93 % рынка умных камер 11-10 08:07