Сегодня 02 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Веб-поиск ChatGPT оказался беззащитен перед манипуляциями и обманом

Поисковая служба OpenAI ChatGPT оказалась открытой для манипуляций с использованием скрытого содержимого, а в качестве ответов на запросы она может возвращать вредоносный код с сайтов, по которым производится поиск. Об этом пишет Guardian со ссылкой на результаты собственного расследования.

 Источник изображения: Growtika / unsplash.com

Источник изображения: Growtika / unsplash.com

Надёжность функции веб-поиска ChatGPT вызывает сомнения. Издание Guardian решило проверить, как искусственный интеллект реагирует на просьбу составить сводку содержимого веб-страницы, на которой есть скрытый текст. В нём могут находиться дополнительные инструкции, способные изменить ответы ChatGPT — недобросовестные владельцы ресурсов могут пользоваться этим методом злонамеренно, например, заставить систему дать положительный отзыв о продукте вопреки размещённым на той же странице отрицательным отзывам. Чат-бот также может выдавать в ответах вредоносный код с сайтов в поиске.

В ходе тестирования ChatGPT предложили адрес поддельного ресурса, который выглядел как страница с описанием камеры, после чего ИИ задали вопрос, стоит ли покупать это устройство. Система вернула положительную, но сбалансированную оценку с указанием моментов, которые могли не нравиться людям. Когда же в скрытый текст включили прямую инструкцию ChatGPT дать положительный отзыв, чат-бот так и поступил. Положительную оценку может обеспечить и скрытый текст без инструкций — достаточно внести в него поддельные положительные отзывы о товаре.

Не меньшую опасность представляет и размещённый в скрытом тексте страницы вредоносный код. Эксперт в области кибербезопасности Microsoft Томас Роччиа (Thomas Roccia) рассказал об инциденте, когда энтузиаст в области криптовалют запросил у ChatGPT помощь в программировании, и часть предоставленного чат-ботом кода оказалась вредоносной, в результате чего учётные данные программиста были похищены, и он потерял $2500. Современные большие языковые модели, на которых строятся чат-боты, чрезвычайно доверчивы; обладая большими объёмами информации, они «очень ограничены в плане способности принимать решения», отмечают специалисты.

Важно ответить на вопрос, как эти уязвимости могут изменить ландшафт веб-ресурсов, и как может преобразиться спектр угроз для пользователей, если общедоступные большие языковые модели начнут работать с поиском. Традиционные поисковые системы, включая Google, понижают в выдаче сайты, на которых используется скрытый текст, поэтому рассчитывающие на высокие позиции в результатах ресурсы едва ли будут активно пользоваться этим приёмом. С другой стороны, есть такое явление как «SEO-отравление» — мощная поисковая оптимизация сайтов с вредоносным кодом. В OpenAI достаточно сильные специалисты по безопасности в области ИИ, поэтому есть вероятность, что в перспективе вероятность подобных инцидентов снизится.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Nintendo представила Switch 2 — игровая консоль выйдет летом и будет намного дороже первой Switch 28 мин.
Новая космическая обсерватория SPHEREx прислала первые снимки — их качество удовлетворило NASA 59 мин.
Samsung представила планшеты Galaxy Tab S10 FE и Galaxy Tab S10 FE+ со стилусом и ИИ-функциями — от €580 2 ч.
Доля процессоров и видеокарт AMD резко подскочила в статистике Steam, а Windows 11 снова стала самой популярной ОС 2 ч.
NASA испытало силовые щиты для спасения людей и техники от вездесущей пыли на Луне 2 ч.
9000 домов в Великобритании подключат к отоплению от ЦОД 3 ч.
Представлен колёсный робот FlashBot Arm с руками для офисов, больниц, магазинов и отелей 3 ч.
Сверхтонкий смартфон Samsung Galaxy S25 Edge выйдет позже, чем ожидалось 4 ч.
TSMC начала оснащать свою крупнейшую фабрику по упаковке чипов — это снизит дефицит ИИ-чипов Nvidia 4 ч.
Asus выпустила геймерский QD-OLED-монитор XG27UCDMG, который «видит» пользователя — это помогает бороться с выгоранием 4 ч.