Сегодня 23 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Серверы с большими языковыми моделями ИИ могут сливать в интернет конфиденциальные данные

Сотни серверов с большими языковыми моделями с открытым кодом и десятки — с векторными базами данных способны передавать в открытый интернет информацию с высокой степенью конфиденциальности, гласят результаты исследования, проведённого специализирующейся на вопросах кибербезопасности компанией Legit.

 Источник изображений: Pete Linforth / unsplash.com

Источник изображений: Pete Linforth / unsplash.com

В рамках исследования эксперт Legit Нафтали Дойч (Naphtali Deutsch) провёл сканирование двух видов потенциально уязвимых служб с искусственным интеллектом: векторных баз данных, в которых хранится информация для инструментов ИИ, а также конструкторов приложений на основе больших языковых моделей, в частности, открытой программы Flowise. По результатам исследования было выявлено множество конфиденциальных персональных и корпоративных данных, которые неосознанно раскрывают организации, стремящиеся поставить себе на службу инструменты с генеративным ИИ.

Flowise — программа с открытым кодом, предназначенная для создания приложений всех видов, основанных на больших языковых моделях. Это могут быть чат-боты для поддержки клиентов или средства для генерации программного кода, и все они, как правило, имеют доступ к большим объёмам данных и управляют ими, поэтому большинство серверов Flowise защищается паролями. Но пароль — недостаточно надёжный механизм защиты: ранее индийский исследователь обнаружил во Flowise 1.6.2 и более ранних версиях уязвимость, позволяющую обходить аутентификацию, просто набирая заглавные буквы в обращениях к программе через API. Уязвимость отслеживается под номером CVE-2024-31621 и имеет «высокий» рейтинг в 7,6 балла из 10.

Эксплуатируя уязвимость, эксперт Дойч взломал 438 серверов Flowise. Он получил доступ к токенам доступа API GitHub, ключам API OpenAI, паролям Flowise, прочим ключам API в открытом виде, данным конфигурации и запросам, связанным с приложениями Flowise, а также многим другим данным. Токен API GitHub открывает доступ к закрытым репозиториям, пояснил исследователь; были также обнаружены ключи API и для других векторных баз данных, включая Pinecone — популярную SaaS-платформу. Потенциальный злоумышленник мог воспользоваться ими, чтобы войти в базу данных и выгрузить всю найденную информацию, в том числе конфиденциальную.

Используя инструменты сканирования, Дойч обнаружил около 30 серверов с векторными базами данных в открытом интернете без каких-либо средств аутентификации, и в них была конфиденциальная информация: электронные письма от поставщика инженерных услуг; документы, полученные от специализирующейся на моде компании; персональные данные клиентов и финансовую информацию от поставщика промышленного оборудования; а также многое другое. В других базах были данные об объектах недвижимости, документация, технические паспорта товаров и даже используемая медицинским чат-ботом информация о пациентах.

Утечка векторной базы данных опаснее, чем утечка данных от конструктора с большой языковой моделью, поскольку несанкционированный доступ к базе может остаться незамеченным для пользователя. Потенциальный злоумышленник может не только похитить информацию из векторной базы данных, но также удалить или изменить информацию в ней и даже внедрить в неё вредоносное ПО, которое заразит большую языковую модель. Чтобы снизить подобные риски, Дойч рекомендует организациям ограничивать доступ к службам ИИ, отслеживать и регистрировать связанную с ними активность, принимать меры для защиты конфиденциальных данных, которые передаются большими языковыми моделями, а также по возможности обновлять связанное с этими средствами ПО.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Это будет легендарно»: THQ Nordic проведёт «титаническую» презентацию с анонсами по ремейку «Готики», Titan Quest 2 и «несколькими тузами в рукаве» 24 мин.
Календарь релизов — 23 – 29 июня: Death Stranding 2 и System Shock 2: 25th Anniversary Remaster 2 ч.
Dune: Awakening установила рекорд по скорости продаж для Funcom — более 800 тысяч смертей от Шаи-Хулуда и другие достижения игроков 2 ч.
Broadcom представила VMware Cloud Foundation 9 — основу основ для современного частного облака 6 ч.
Разработчики российского MMO-шутера Pioner раскрыли, как будут улучшать игру по итогам тестирования в Steam 8 ч.
На вершине успеха: кооперативная игра Peak от авторов Content Warning и Another Crab's Treasure покорила Steam и стала хитом продаж 9 ч.
«История выглядит намного мрачнее, чем я думал»: сюжетный трейлер Borderlands 4 удивил игроков 9 ч.
Team Vitality стала чемпионом Blast.tv Austin Major 2025 — это уже седьмая подряд победа команды на крупных турнирах по Counter-Strike 2 в 2025 году 10 ч.
Huawei выпустила «безандроидную» бета-версию HarmonyOS 6 — пока только для разработчиков 10 ч.
Как избежать оборотных штрафов по 152-ФЗ и не сломать маркетинг: объясняют эксперты рынка, регуляторы и юристы 11 ч.
Лунная пыль менее вредна, чем смог земных мегаполисов, выяснили учёные 13 мин.
Грядущие раскладушки Samsung Galaxy Z Flip7 и Flip7 FE показались на качественных изображениях 17 мин.
Сверхтонкий складной смартфон Honor Magic V5 показался на живых фото 2 ч.
Ракета Atlas V вывела на орбиту вторую партию интернет-спутников Amazon Project Kuiper 2 ч.
Представлен Vivo X200 FE — компактный флагман с батареей на 6500 мА·ч и дизайном iPhone 3 ч.
Вышли подробные обзоры Nintendo Switch 2 — в целом хорошо, но экран мог бы быть получше 3 ч.
SK hynix выпустит кастомную HBM4E-память для NVIDIA, Microsoft и Broadcom 4 ч.
3data модернизировала московский ЦОД «М8», добавив мощности для колокейшн-клиентов 5 ч.
Отечественный телеком стал донором средств для законодательных инициатив, пожаловались операторы связи 7 ч.
Экс-глава Intel вложился в стартап, создающий сверхпроводниковые чипы для суперкомпьютеров 7 ч.