Сегодня 03 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → wayback machine

Internet Archive оказался под атакой ботов и стал блокировать обычных пользователей

Сервис Wayback Machine, позволяющий проследить, как с течением времени менялись сайты и веб-страницы, перестал открываться у части пользователей. Владеющая сервисом платформа Internet Archive откликнулась на жалобы пользователей, объяснив неполадки нашествием ИИ-ботов.

 Источник изображения: archive.org

Источник изображения: archive.org

«Мы услышали ваше: „Почините Wayback Machine!“ Вот что происходит. Wayback Machine подвергается волнам большого объёма автоматизированного трафика, и мы развернули средства защиты, чтобы сервис продолжал работать», — рассказал в корпоративном блоге директор сервиса Марк Грэм (Mark Graham). К сожалению, из-за этих средств защиты под блокировкой оказываются добросовестные пользователи. При блокировке выводится ошибка с кодом 429, указывающим, что пользователь отправил слишком много запросов за определённый промежуток времени.

«Если это случилось с вами, нам очень жаль, и мы ценим ваше терпение, продолжая работать над сокращением числа сбоев. <..> Мы всё лучше отличаем ботов от людей, которые зависят от Wayback Machine», — добавил господин Грэм, предложив пострадавшим отправлять по электронной почте жалобы с указанием ОС, браузера и IP-адреса.

В 2023 году платформа Internet Archive на некоторое время уходила в офлайн, когда некий разработчик систем искусственного интеллекта стал десятками тысяч раз в секунду отправлять запросы на текстовые данные. По той же причине некоторые владельцы сайтов теперь блокируют и сам Internet Archive — они опасаются, что ИИ-боты скачают их материалы с этой платформы.

Архивировать интернет становится всё сложнее: Wayback Machine и Wikimedia страдают от дефицита HDD

Архивирование данных интернета оказывается всё более неподъёмной задачей из-за дефицита накопителей и роста цен на них. Жёсткие диски подорожали втрое, потому что оказались востребованными крупными компаниями. Это сильно осложняет работу таких проектов как Wayback Machine и Wikimedia.

 Источник изображения: Patrick Lindenberg / unsplash.com

Источник изображения: Patrick Lindenberg / unsplash.com

Некоммерческая организация Internet Archive, которая ставит своей целью обеспечить «доступ ко всем знаниям для всех», оказалась одной из организаций, пострадавших от кризиса. В её распоряжении хранилище объёмом около 210 Пбайт, и ещё 100 Тбайт ежедневно требует сервис Wayback Machine. Бум искусственного интеллекта превратил этот проект в «проблему, отнимающую у нас время и деньги», признаются его руководители. Для этой задачи идеально подходят жёсткие диски объёмом 28–30 Тбайт, но они часто отсутствуют на складах или продаются по сильно завышенным ценам. Отчасти эти проблемы помогают смягчить спонсоры проекта и сообщество — последнее, правда, только советами.

Ответственный за «Википедию» некоммерческий фонд Wikimedia испытывает сложные проблемы: 65 млн статей на платформе требует внушительных ресурсов, а главное — тщательно спланированного распределения бюджета, и текущая ситуация лишь усугубила эту проблему. Организация ощутила кризис при «закупке памяти и жёстких дисков, а также в отношении сроков поставки серверов и нашей способности размещать будущие заказы».

Ещё одна проблема состоит в том, что усложнились механизмы архивирования информации. Большие языковые модели ИИ обучаются на огромных массивах данных, которые подчас добываются незаконным путём — из-за этого владельцы многих сайтов блокируют доступ для средств сбора данных, не проводя различия между ИИ-ботами и добросовестными сервисами, которые собирают эту информацию в образовательных целях. Из-за подобных блокировок и роста цен на накопители не только крупные некоммерческие организации, но и одиночные энтузиасты вынуждены либо сокращать масштабы деятельности, либо вообще приостанавливать её — в ожидании, когда ситуация стабилизируется.

Активность архива интернета Wayback Machine резко рухнула в этом году, но скоро всё придёт в норму

Служба Wayback Machine проекта Internet Archive, занимающаяся созданием и хранением копий интернет-страниц, сейчас переживает своего рода спад — за последний год число создаваемых копий резко сократилось, обнаружили в Niemen Lab.

 Источник изображения: archive.org

Источник изображения: archive.org

С 1 января по 15 мая 2025 года сервис Wayback Machine сохранил 1,2 млн страниц со 100 крупных новостных сайтов, а с 17 мая по 1 октября текущего года с тех же 100 сайтов были сохранены всего 148 628 копий страниц, что соответствует сокращению на 87 %. Причиной тому стал «сбой у ряда отдельных проектов архивирования, из-за которого было создано меньше архивов для некоторых сайтов», сообщил директор сервиса Wayback Machine Марк Грэм (Mark Graham). Он добавил, что некоторые сохранённые после 16 мая материалы пока не появились на сайте, «поскольку ещё не созданы соответствующие индексы».

В подробности господин Грэм предпочёл не вдаваться, ограничившись упоминанием «различных операционных причин», связанных с «распределением ресурсов». Но причина сбоя, по его словам уже устранена, и скоро сайт продолжит работать в прежнем режиме. За последние несколько лет у проекта Internet Archive возникали проблемы и юридического характера: некоммерческая организация проиграла апелляцию в судебном разбирательстве, связанном с оцифровкой книг; а звукозаписывающие компании потребовали у неё $700 млн за проект, в рамках которого в открытый доступ выкладывались оцифровки старых виниловых пластинок.

Архив интернета возобновил работу после атаки, но пока в режиме «только для чтения»

Архив интернета, расположенный по адресу archive.org, возобновил работу после недавней хакерской атаки, но пока в режиме «только для чтения». Ранее одна из крупнейших в мире цифровых библиотек и Wayback Machine стали жертвами масштабной DDoS-атаки. Тогда хакерам удалось похитить базу данных, содержащую 31 млн уникальных записей о пользователях, включая электронные адреса, имена пользователей и хэшированные пароли.

 Источник изображения: web.archive.org

Источник изображения: web.archive.org

Режим «только для чтения» позволяет просматривать архивированные веб-страницы, но функция добавления новых данных в архив временно недоступна. Основатель Архива интернета Брюстер Кейл (Brewster Kahle) отметил: «Сервис снова в сети, однако возможны новые приостановки для проведения дополнительных технических работ». Это временное решение позволяет устранить уязвимости, выявленные в ходе кибератаки.

Команда Архива продолжает активно работать над восстановлением ключевых сервисов и усилением защиты. Помимо восстановления основной функциональности были возвращены в строй почтовые ящики сотрудников и краулеры для работы с национальными библиотеками.

Wayback Machine, важнейший инструмент Архива интернета, открывает доступ к более чем 916 млрд сохранённых веб-страниц, что делает его неоценимым ресурсом для изучения истории интернета. Его значимость возросла после того, как Google удалил ссылки на свои собственные кэшированные страницы из результатов поиска и начал добавлять ссылки на архивные сайты в Wayback Machine, ставший теперь главным инструментом доступа к старым версиям сайтов и архивным страницам.


window-new
Soft
Hard
Тренды 🔥
Новая статья: Silent Hill: Townfall — бутафорский туман. Рецензия 3 ч.
Новая студия сооснователя Rockstar делает комедийную игру в открытом мире и не будет оглядываться на GTA VI 4 ч.
Сооснователь студии-разработчика Kingdom Come: Deliverance выразил надежду, что GTA VI «проложит путь» к играм за $80 6 ч.
Баскетбольный клуб «Майами Хит» на одну игру станет «Вайс-Сити» в рамках «исторического партнёрства» с разработчиками GTA VI 7 ч.
ИИ угрожает самому существованию «Википедии» — глава открытой энциклопедии бьёт тревогу 8 ч.
Американский суд впервые признал незаконным обучение ИИ на чужих материалах 8 ч.
2XKO была обречена на провал с самого запуска — для выживания файтингу по League of Legends нужны были «сотни тысяч, а то и миллионы» игроков 9 ч.
С появлением Anthropic Mythos японские банки стали выявлять вдвое больше уязвимостей 10 ч.
Ролевая игра Zero Parades: For Dead Spies от авторов Disco Elysium получила режиссёрскую версию с дополненными диалогами и не только 10 ч.
Игры будут загружаться быстрее: видеокарты Nvidia и Intel получат поддержку Microsoft Advanced Shader Delivery 10 ч.
Легендарный Kingpin вернётся к экстремальному разгону — оверклокер намекнул на совместный проект с Asus 3 ч.
Дурной пример заразителен: Google начала поднимать цены на смартфоны вслед за Samsung 3 ч.
Tencent арендовала 100 тыс. чипов у Oracle чтобы ускорить развитие своих ИИ-систем 5 ч.
Восстановление Tesla замедлилось — квартальные продажи снова упали, но не слишком сильно 7 ч.
Внезапная жертва кризиса памяти: семилетняя приставка Nvidia Shield TV Pro подорожала на $100 8 ч.
Раскрыта полувековая тайна дымки в атмосфере Венеры 8 ч.
Nvidia представила мини-ПК DGX Spark с урезанной вдвое памятью — и формально он дороже 128-Гбайт оригинала 9 ч.
Представлен первый мини-ПК на Intel Panther Lake с бесшумным кулером AirJet 9 ч.
TCL подала на Samsung в суд за ненастоящую Mini LED в бюджетных телевизорах 9 ч.
Apple придумала, как бороться со складкой на iPhone Duo — защитный слой дисплея будет сменным 10 ч.