Сегодня 26 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ChatGPT стал инструментом для фишеров — пользователи получают неправильные ссылки

Исследователи из компании Netcraft выяснили, что ChatGPT и другие чат-боты нередко ошибаются, когда пользователи просят их подсказать официальные сайты крупных компаний. В ходе тестов модели GPT-4.1 предлагали правильный URL только в 66 % случаев. Остальные варианты либо вели на несуществующие страницы (29 %), либо на легитимные, но не те, что запрашивались (5 %).

 Источник изображения: Deng Xiang / Unsplash

Источник изображения: Deng Xiang / Unsplash

Как пояснил Роб Дункан (Rob Duncan), руководитель отдела исследования угроз Netcraft, такие ошибки открывают новые возможности для мошенников. Если ИИ предлагает неработающий домен, злоумышленники могут его зарегистрировать и создать фишинговую страницу. Проблема в том, что чат-боты анализируют слова и ассоциации, а не проверяют репутацию сайтов. Например, на запрос о сайте Wells Fargo ChatGPT однажды выдал адрес фейковой страницы, которую ранее использовали в фишинговых атаках.

По словам Дункана, киберпреступники адаптируют методы под новые реалии, так как пользователи всё чаще полагаются на ИИ вместо поисковиков, не учитывая, что чат-боты могут ошибаться. Мошенники специально создают контент, который с большей вероятностью попадет в ответы ИИ. Так, Netcraft обнаружила фейковый API Solana, который распространялся через GitHub-репозитории, обучающие материалы и поддельные аккаунты в соцсетях, и всё для того, чтобы встроить вредоносный код в результаты работы чат-ботов.

Эксперт отметил, что эта схема напоминает атаки на цепочку поставок, но здесь цель иная — заставить разработчиков использовать неверный API. В обоих случаях злоумышленники действуют постепенно, но результат одинаково опасен.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Хакеры взломали сотни сетевых устройств Cisco в правительстве США 7 мин.
Российский карточный боевик «Бессмертный. Сказки Старой Руси» взял курс на консоли — дата выхода и новый трейлер 27 мин.
Энтузиаст создал эмулятор первой PlayStation для Telegram — работает на «любых современных» смартфонах 4 ч.
Meta захотела улучшить свои приложения с помощью ИИ-технологий конкурирующей Google 4 ч.
В Twitch наконец-то появилась перемотка трансляций, но доступная она не всем 5 ч.
Google грозит огромный штраф по новому антимонопольному закону ЕС, но шансы отвертеться есть 5 ч.
Gemini теперь сможет объяснить, почему формула в «Google Таблицах» не работает или работает неправильно 5 ч.
Боузер прощается с Грибным королевством: президент Nintendo of America уйдёт в отставку, чтобы освободить место «руководству нового поколения» 6 ч.
OpenAI анонсировала ChatGPT Pulse — ИИ-агента, который следит за пользователем постоянно 7 ч.
Трамп одобрил сделку по американскому TikTok — сервис оценили всего в $14 млрд, но это не точно 17 ч.
iPhone Air оказался почти никому не нужен в России 3 мин.
Fluidstack и Google «склонили» к ИИ ещё одного криптомайнера — Cipher Mining сдаст им ЦОД 45 мин.
Xiaomi представила компактную портативную колонку Portable Bluetooth Speaker с элегантным дизайном 2 ч.
Лишь около 10 % российских компаний использует серверы с отечественными процессорами 3 ч.
Китай сделал шаг к солнечным панелям с напряжением 2000 В — это поможет снизить потери при передаче энергии 4 ч.
Руководить производством чипов TSMC в США поручено ветерану отрасли с опытом освоения 4-нм техпроцесса 4 ч.
Dreame показала второй электромобиль — он очень похож на Rolls-Royce Cullinan и сможет оснащаться ДВС 4 ч.
Alibaba Cloud запустит восемь новых ЦОД в Европе, Азии и Северной Америке 5 ч.
Google добавила в Pixel Buds Pro 2 управление кивками головы и адаптивный звук 5 ч.
Роботы Unitree заменят людей на сборке смартфонов через несколько лет 5 ч.