Сегодня 26 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Разработчики открытого ПО объявили партизанскую войну сборщикам данных для ИИ

Боты, которые массово собирают данные с веб-страниц для обучения и работы моделей искусственного интеллекта, становятся всё более ощутимой проблемой для владельцев сайтов. Некоторые разработчики начали давать отпор этим системам оригинальными способами, которые могут показаться наивными или ироничными, но во многих случаях они работают.

 Источник изображения: Ticka Kao / unsplash.com

Источник изображения: Ticka Kao / unsplash.com

Атаке веб-сканера сегодня может подвергнуться любой сайт. Иногда сайты даже теряют работоспособность, но сильнее прочих страдают разработчики ПО с открытым кодом: на сайтах таких проектов выкладываются материалы для скачивания, но ресурсов у них меньше, чем у коммерческих проектов. Проблема в том, что ИИ-боты игнорируют директивы файлов robot.txt, в которых указываются запрещённые для сканирования разделы. В январе разработчик открытого ПО Се Ясо (Xe Iaso) опубликовал в блоге «крик о помощи», рассказав о неподобающих действиях AmazonBot. Этот бот неустанно бил по Git-серверу разработчика, устраивая настоящие DDoS-атаки. Он игнорировал директивы robot.txt, менял IP-адреса, подменял значения строки User agent и прибегал к другим уловкам.

В итоге Ясо разработал программу Anubis, которая проводит проверку подключающихся к серверу Git клиентов — она блокирует ботов, но пропускает браузеры, которыми пользуются люди. Проект Anubis был опубликован на GitHub 19 марта, и всего за несколько дней он собрал 2000 звёзд, 20 участников и 39 форков. Успех программы указывает, что случай Ясо не уникален: на агрессивное поведение ИИ-ботов указал основатель и гендиректор платформы SourceHut Дрю ДеВолт (Drew DeVault), которому приходится от 20 % до 100 % рабочего времени тратить на защиту от веб-сканеров. Администратору проекта Linux Fedora Кевину Фензи (Kevin Fenzi) в какой-то момент пришлось полностью заблокировать Бразилию, а разработчик KDE Plasma Никколо Венеранди (Niccolò Venerandi) однажды временно заблокировал все китайские IP-адреса.

В январе анонимный разработчик под ником Aaron выпустил решение под названием Nepenthes в честь кувшиночника — насекомоядного растения. Система заманивает ИИ-ботов в «лабиринт» бесполезного контента, заставляя их сканировать чушь. Аналогичное решение недавно представила Cloudflare — оно получило более очевидное название AI Labyrinth. Эта система подключается, когда боты не соблюдают директиву «no crawl», — в результате они попусту тратят время и ресурсы. Дрю ДеВолт вообще призвал бойкотировать все новомодные ИИ-инструменты, в том числе большие языковые модели, генераторы изображений и GitHub Copilot. Едва ли это случится в действительности, поэтому разработчикам открытого ПО приходится подключать смекалку.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Энтузиаст создал эмулятор первой PlayStation для Telegram — работает на «любых современных» смартфонах 3 мин.
Meta захотела улучшить свои приложения с помощью ИИ-технологий конкурирующей Google 13 мин.
В Twitch наконец-то появилась перемотка трансляций, но доступная она не всем 2 ч.
Google грозит огромный штраф по новому антимонопольному закону ЕС, но шансы отвертеться есть 2 ч.
Gemini теперь сможет объяснить, почему формула в «Google Таблицах» не работает или работает неправильно 2 ч.
Боузер прощается с Грибным королевством: президент Nintendo of America уйдёт в отставку, чтобы освободить место «руководству нового поколения» 3 ч.
OpenAI анонсировала ChatGPT Pulse — ИИ-агента, который следит за пользователем постоянно 4 ч.
Трамп одобрил сделку по американскому TikTok — сервис оценили всего в $14 млрд, но это не точно 14 ч.
Starbreeze извинилась за вероломное повышение цены сборника Infamous Collection с DLC для Payday 2 и отменила подорожание 16 ч.
Кроссплатформенная поддержка модов для The Witcher 3: Wild Hunt не выйдет в 2025 году — CD Projekt Red отложила горячо ожидаемое обновление 18 ч.
Dreame показала второй электромобиль — он очень похож на Rolls-Royce Cullinan и сможет оснащаться ДВС 8 мин.
Alibaba Cloud запустит восемь новых ЦОД в Европе, Азии и Северной Америке 45 мин.
Google добавила в Pixel Buds Pro 2 управление кивками головы и адаптивный звук 53 мин.
Роботы Unitree заменят людей на сборке смартфонов через несколько лет 54 мин.
Китайская YMTC запустила массовый выпуск 267-слойной 3D NAND — отставание от Samsung и SK hynix сокращается 2 ч.
OpenAI заказала у CoreWeave ИИ-мощности ещё на $6,5 млрд — общая сумма контрактов выросла до $22,4 млрд 2 ч.
Стартап FuriosaAI представил ИИ-сервер NXT RNGD с производительностью 4 Пфлопс 3 ч.
Пинки, увечья и коллективный разум: представлен радикальный, но действенный метод обучения ИИ для роботов 3 ч.
Портативный Xbox оказался дороже, чем домашние Series X и Series S вместе — есть вариант подешевле 4 ч.
Media Stream AI построит в Манчестере 2-МВт ИИ ЦОД с охлаждением водой из местного канала 4 ч.