Сегодня 30 июля 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Википедия» выпустила набор данных для обучения ИИ, чтобы боты не перегружали её серверы скрейпингом

Фонд Wikimedia (некоммерческая организация, управляющая «Википедией») предложил компаниям вместо веб-скрейпинга контента «Википедии» с помощью ботов, который истощает её ресурсы и перегружает серверы трафиком, воспользоваться набором данных, специально оптимизированным для обучения ИИ-моделей.

 Источник изображения: Oberon Copeland @veryinformed.com/unsplash.com

Источник изображения: Oberon Copeland @veryinformed.com/unsplash.com

Wikimedia объявил о заключении партнёрского соглашения с Kaggle, ведущей платформой для специалистов в области Data Science и машинного обучения, принадлежащей Google. В рамках соглашения на ней будет опубликована бета-версия набора данных «структурированного контента “Википедии” на английском и французском языках».

Согласно Wikimedia, набор данных, размещённый Kaggle, был «разработан с учётом рабочих процессов машинного обучения», что упрощает разработчикам ИИ доступ к машиночитаемым данным статей для моделирования, тонкой настройки, сравнительного анализа, выравнивания и анализа. Содержимое набора данных имеет открытую лицензию. По состоянию на 15 апреля набор включает в себя обзоры исследований, краткие описания, ссылки на изображения, данные инфобоксов и разделы статей — за исключением ссылок или неписьменных элементов, таких как аудиофайлы.

Как сообщает Wikimedia, «хорошо структурированные JSON-представления контента “Википедии”», доступные пользователям Kaggle, должны быть более привлекательной альтернативой «скрейпингу или анализу сырого текста статей».

На данный момент у Wikimedia есть соглашения об обмене контентом с Google и Internet Archive, но партнёрство с Kaggle позволит сделать данные более доступными для небольших компаний и независимых специалистов в сфере Data Science. «Являясь площадкой, к которой сообщество машинного обучения обращается за инструментами и тестами, Kaggle будет рада стать хостом для данных фонда Wikimedia», — сообщила Бренда Флинн (Brenda Flynn), руководитель по коммуникациям в Kaggle.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Путёвка в Фаэрун ещё никогда не была такой дешёвой: Baldur’s Gate 3 получила крупнейшую скидку с релиза 19 мин.
Создатели SnowRunner и RoadCraft анонсировали симулятор таксиста Rideshare "Stimulator", где каждая поездка может принять неожиданный оборот 2 ч.
Австралия запустила судебное разбирательство против Telegram — мессенджер обвиняют в распространении пропаганды терроризма 4 ч.
Бывший инженер Microsoft создал «Диспетчер задач» для macOS 6 ч.
Павла Дурова включили в список экстремистов и террористов Росфинмониторинга 7 ч.
OpenAI подарит 100 000 учёным бесплатный доступ к своим ИИ-моделям 7 ч.
Европа заставит помечать весь ИИ-контент — новые правила вступают в силу уже в воскресенье 7 ч.
GPT-5.6 и ChatGPT Work разогнали выручку OpenAI — компания догоняет Anthropic 8 ч.
Альтернативные мессенджеры BiP и KakaoTalk засбоили в России 8 ч.
Стильный ролевой боевик Stupid Never Dies о самом слабом зомби в мире расскажет безумную историю любви — новый трейлер и дата выхода 9 ч.
ИИ и VR ускорили строительство завода TSMC по выпуску 1,4-нм чипов — оно завершится к апрелю 2027 года 5 мин.
Kioxia начала тестовые поставки 230-слойной флеш-памяти BiCS 9-го поколения со скоростью до 4,8 Гбит/с 22 мин.
Huawei готовит 14" ноутбук MateBook Pro S — он легче 13" MacBook Air и работает на 10-ядерном процессоре Kirin XE90 30 мин.
Asus выпустила мониторы ProArt Display OLED PA279CDV и PA329CDV для творчества — 4K, 120 Гц и цена от $699 33 мин.
Исследование показало, что ИИ-агенты уже научились лучше втираться в доверие к людям, чем реальные мошенники 3 ч.
Samsung Galaxy S26 FE выйдет в начале сентября и прибавит в цене до €150 4 ч.
ИИ продолжит толкать вверх спрос на память в следующем году, но рынки DRAM и NAND будут вести себя по-разному 4 ч.
SpaceX попыталась настроить FCC против Eutelsat OneWeb, сославшись на дискриминацию в Европе 4 ч.
Первый гаджет, разработанный Альтманом и Айвом, будет похож на домашний смарт-дисплей HomePad 4 ч.
Китай пригрозил США из-за запрета на импорт человекоподобных роботов 4 ч.