Сегодня 06 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ChatGPT стал инструментом для фишеров — пользователи получают неправильные ссылки

Исследователи из компании Netcraft выяснили, что ChatGPT и другие чат-боты нередко ошибаются, когда пользователи просят их подсказать официальные сайты крупных компаний. В ходе тестов модели GPT-4.1 предлагали правильный URL только в 66 % случаев. Остальные варианты либо вели на несуществующие страницы (29 %), либо на легитимные, но не те, что запрашивались (5 %).

 Источник изображения: Deng Xiang / Unsplash

Источник изображения: Deng Xiang / Unsplash

Как пояснил Роб Дункан (Rob Duncan), руководитель отдела исследования угроз Netcraft, такие ошибки открывают новые возможности для мошенников. Если ИИ предлагает неработающий домен, злоумышленники могут его зарегистрировать и создать фишинговую страницу. Проблема в том, что чат-боты анализируют слова и ассоциации, а не проверяют репутацию сайтов. Например, на запрос о сайте Wells Fargo ChatGPT однажды выдал адрес фейковой страницы, которую ранее использовали в фишинговых атаках.

По словам Дункана, киберпреступники адаптируют методы под новые реалии, так как пользователи всё чаще полагаются на ИИ вместо поисковиков, не учитывая, что чат-боты могут ошибаться. Мошенники специально создают контент, который с большей вероятностью попадет в ответы ИИ. Так, Netcraft обнаружила фейковый API Solana, который распространялся через GitHub-репозитории, обучающие материалы и поддельные аккаунты в соцсетях, и всё для того, чтобы встроить вредоносный код в результаты работы чат-ботов.

Эксперт отметил, что эта схема напоминает атаки на цепочку поставок, но здесь цель иная — заставить разработчиков использовать неверный API. В обоих случаях злоумышленники действуют постепенно, но результат одинаково опасен.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Warner Bros. подала в суд на Midjourney: сервис слишком хорошо генерирует Бэтменов и Суперменов 4 мин.
Anthropic согласилась выплатить $1,5 млрд по иску об авторских правах 3 ч.
OpenAI в ближайшие несколько лет потратит на свою инфраструктуру $115 млрд 4 ч.
Новая статья: Shinobi: Art of Vengeance — молчаливый и опасный. Рецензия 12 ч.
«Нам есть что рассказать»: глава MachineGames подтвердил планы на Wolfenstein 3 14 ч.
Microsoft Copilot научился создавать сводки по файлам и документам из облака OneDrive 16 ч.
«Красиво, страшно, залипательно»: хоррор Cronos: The New Dawn от авторов ремейка Silent Hill 2 стартовал в Steam с «очень положительными» обзорами 16 ч.
VI Форум «Мой бизнес» в Архангельске: малый бизнес, цифровизация и новые правила 18 ч.
После выхода Hollow Knight: Silksong самой желанной игрой пользователей Steam стала скандальная Subnautica 2 18 ч.
Apple обвинили в нарушении патентов на технологию «Привет, Siri» 18 ч.
Очередной запуск спутников SpaceX Starlink ознаменовался 500-й посадкой первой ступени ракеты Falcon 9 16 мин.
Motorola представила смартофн Edge 60 Neo с батареей на 5000 мА·ч и защитой IP69 4 ч.
Специалисты iFixit оценили Google Pixel 10 средним баллом за ремонтопригодность 4 ч.
Google тайком удалила обещание стать углеродно-нейтральной к 2030 году — всему виной аппетиты ИИ 11 ч.
Европа оштрафовала Google почти на €3 млрд за злоупотребления на рекламном рынке 11 ч.
Karri Messenger позволит детям безопасно общаться с родителями и друзьями при помощи голосовых сообщений 15 ч.
Qualcomm и BMW представили систему автономного вождения, которую будут продавать на сторону 16 ч.
Huawei заняла почти половину мирового рынка складных смартфонов — Samsung даже не вторая по популярности 16 ч.
На IFA 2025 показали пауэрбанк, который работает даже с пробитой батареей 18 ч.
Tesla предложила Илону Маску до $1 трлн за десять лет работы гендиректором 18 ч.