Сегодня 06 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Веб-поиск ChatGPT оказался беззащитен перед манипуляциями и обманом

Поисковая служба OpenAI ChatGPT оказалась открытой для манипуляций с использованием скрытого содержимого, а в качестве ответов на запросы она может возвращать вредоносный код с сайтов, по которым производится поиск. Об этом пишет Guardian со ссылкой на результаты собственного расследования.

 Источник изображения: Growtika / unsplash.com

Источник изображения: Growtika / unsplash.com

Надёжность функции веб-поиска ChatGPT вызывает сомнения. Издание Guardian решило проверить, как искусственный интеллект реагирует на просьбу составить сводку содержимого веб-страницы, на которой есть скрытый текст. В нём могут находиться дополнительные инструкции, способные изменить ответы ChatGPT — недобросовестные владельцы ресурсов могут пользоваться этим методом злонамеренно, например, заставить систему дать положительный отзыв о продукте вопреки размещённым на той же странице отрицательным отзывам. Чат-бот также может выдавать в ответах вредоносный код с сайтов в поиске.

В ходе тестирования ChatGPT предложили адрес поддельного ресурса, который выглядел как страница с описанием камеры, после чего ИИ задали вопрос, стоит ли покупать это устройство. Система вернула положительную, но сбалансированную оценку с указанием моментов, которые могли не нравиться людям. Когда же в скрытый текст включили прямую инструкцию ChatGPT дать положительный отзыв, чат-бот так и поступил. Положительную оценку может обеспечить и скрытый текст без инструкций — достаточно внести в него поддельные положительные отзывы о товаре.

Не меньшую опасность представляет и размещённый в скрытом тексте страницы вредоносный код. Эксперт в области кибербезопасности Microsoft Томас Роччиа (Thomas Roccia) рассказал об инциденте, когда энтузиаст в области криптовалют запросил у ChatGPT помощь в программировании, и часть предоставленного чат-ботом кода оказалась вредоносной, в результате чего учётные данные программиста были похищены, и он потерял $2500. Современные большие языковые модели, на которых строятся чат-боты, чрезвычайно доверчивы; обладая большими объёмами информации, они «очень ограничены в плане способности принимать решения», отмечают специалисты.

Важно ответить на вопрос, как эти уязвимости могут изменить ландшафт веб-ресурсов, и как может преобразиться спектр угроз для пользователей, если общедоступные большие языковые модели начнут работать с поиском. Традиционные поисковые системы, включая Google, понижают в выдаче сайты, на которых используется скрытый текст, поэтому рассчитывающие на высокие позиции в результатах ресурсы едва ли будут активно пользоваться этим приёмом. С другой стороны, есть такое явление как «SEO-отравление» — мощная поисковая оптимизация сайтов с вредоносным кодом. В OpenAI достаточно сильные специалисты по безопасности в области ИИ, поэтому есть вероятность, что в перспективе вероятность подобных инцидентов снизится.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Акции Microsoft установили новый рекорд стоимости вопреки падающему рынку 19 мин.
Apple представила данные о $1,3 трлн оборота App Store перед WWDC25 10 ч.
В России заработала система блокировки мошеннических сайтов и приложений 15 ч.
AMD выпустила драйвер с поддержкой видеокарт Radeon RX 9060 XT и Radeon AI Pro R9700 15 ч.
Классические Baldur’s Gate, EA Sports FC 25 и четыре новых релиза: Microsoft раскрыла, чем порадует подписчиков Game Pass в начале июня 16 ч.
Живописное приключение Sword of the Sea от создателей Abzu и The Pathless выглядит как наследник Journey — новый трейлер и дата выхода 18 ч.
Американский Институт безопасности ИИ больше не сосредоточен на безопасности ИИ 18 ч.
Perplexity анонсировала заменитель Google Chrome — ИИ-браузер Comet 19 ч.
Reddit решила засудить Anthropic за чрезмерную активность ИИ-краулеров 19 ч.
Авторы No More Heroes и Lollipop Chainsaw анонсировали Romeo is a Dead Man — безумный экшен с гротескным насилием и чёрным юмором 20 ч.
Созданы первые устойчивые к ошибкам фотонные квантовые процессоры — миллионы кубитов уже не за горами 13 мин.
Castrol запустила сервис управления оборотом жидкостей для охлаждения дата-центров 42 мин.
Новый глава Intel сосредоточен на повышении прибыльности компании 4 ч.
Внезапный конфликт Трампа и Маска моментально снизил капитализацию Tesla на $152 млрд 5 ч.
Министр торговли США призвал быстрее строить предприятия по выпуску чипов и лучше следить за соблюдением санкций в Китае 6 ч.
Новая статья: Виртуальная нереальность 11 ч.
Apple Watch считают калории «на глаз»: учёные выявили погрешность почти в 30 % 13 ч.
Основатель DeviantArt представил «холст» для цифрового искусства за $22 000 15 ч.
Nothing представит 1 июля дебютные накладные наушники Headphone (1) 16 ч.
Ремонт Nintendo Switch 2 в некоторых случаях обойдется почти вдвое дороже, чем оригинальной Switch 16 ч.