Сегодня 15 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ChatGPT стал инструментом для фишеров — пользователи получают неправильные ссылки

Исследователи из компании Netcraft выяснили, что ChatGPT и другие чат-боты нередко ошибаются, когда пользователи просят их подсказать официальные сайты крупных компаний. В ходе тестов модели GPT-4.1 предлагали правильный URL только в 66 % случаев. Остальные варианты либо вели на несуществующие страницы (29 %), либо на легитимные, но не те, что запрашивались (5 %).

 Источник изображения: Deng Xiang / Unsplash

Источник изображения: Deng Xiang / Unsplash

Как пояснил Роб Дункан (Rob Duncan), руководитель отдела исследования угроз Netcraft, такие ошибки открывают новые возможности для мошенников. Если ИИ предлагает неработающий домен, злоумышленники могут его зарегистрировать и создать фишинговую страницу. Проблема в том, что чат-боты анализируют слова и ассоциации, а не проверяют репутацию сайтов. Например, на запрос о сайте Wells Fargo ChatGPT однажды выдал адрес фейковой страницы, которую ранее использовали в фишинговых атаках.

По словам Дункана, киберпреступники адаптируют методы под новые реалии, так как пользователи всё чаще полагаются на ИИ вместо поисковиков, не учитывая, что чат-боты могут ошибаться. Мошенники специально создают контент, который с большей вероятностью попадет в ответы ИИ. Так, Netcraft обнаружила фейковый API Solana, который распространялся через GitHub-репозитории, обучающие материалы и поддельные аккаунты в соцсетях, и всё для того, чтобы встроить вредоносный код в результаты работы чат-ботов.

Эксперт отметил, что эта схема напоминает атаки на цепочку поставок, но здесь цель иная — заставить разработчиков использовать неверный API. В обоих случаях злоумышленники действуют постепенно, но результат одинаково опасен.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Один сбитый бит — и всё пропало: атака GPUHammer на ускорители Nvidia ломает ИИ с минимальными усилиями 4 ч.
Механизмы, конвейерные ленты, роботы: в Steam стартовал «Фестиваль автоматизации» со скидками, демоверсиями и не только 4 ч.
Чат-бот с креативом: Claude стал ИИ-дизайнером, научившись работать с Canva 4 ч.
Call of Duty: Black Ops 7 скоро выйдет из тени — анонсирован большой показ «самой умопомрачительной» игры в истории серии 5 ч.
Иран захотел создать госооблако по американским стандартам безопасности 5 ч.
В материнских платах Gigabyte нашли уязвимости, позволяющие обойти безопасную загрузку 6 ч.
Опять за старое: разработчики God of War готовят следующий блокбастер, но не по новой франшизе 6 ч.
ИИ-сводки в Gmail превратили в инструмент для фишинговых атак, но Google уже закрыла уязвимость 8 ч.
В открытый доступ попали внутренние документы о проблемах разработки Subnautica 2 — Krafton подтвердила утечку 8 ч.
Windows 11 сама решит, когда экономить батарею — Microsoft тестирует незаметное адаптивное энергосбережение 9 ч.
Новая статья: Охладить пыл фон Неймана: сверхпроводимость — в каждый ЦОД! 4 ч.
«Яндекс» замотивирует сотрудников, раздав им акций на 15 млрд рублей 6 ч.
«Инфосистемы Джет» реализовали для ООО «МПК “Атяшевский”» масштабируемый проект с модульными ЦОД 9 ч.
200 Тбайт ёмкости и 50 лет сохранности: HoloMem предложила недорогую и эффективную замену LTO — картриджи HoloDrive 10 ч.
В «М.Видео-Эльдорадо» назвали самые популярные среди россиян бренды наушников 11 ч.
Горячая пора: изменение климата угрожает стабильности работы дата-центров 11 ч.
Lenovo представила первый белый ThinkPad — тонкий ноутбук Aura X9 AI Edition 12 ч.
KFC вместе с Asus ROG выпустила уникальные кейкапы для геймерских клавиатур 13 ч.
Biostar представила индустриальный компьютер EdgeComp MS-1335U с поддержкой четырёх дисплеев 14 ч.
LG Electronics займётся выпуском оборудования для производства чипов 14 ч.