Сегодня 26 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ChatGPT стал инструментом для фишеров — пользователи получают неправильные ссылки

Исследователи из компании Netcraft выяснили, что ChatGPT и другие чат-боты нередко ошибаются, когда пользователи просят их подсказать официальные сайты крупных компаний. В ходе тестов модели GPT-4.1 предлагали правильный URL только в 66 % случаев. Остальные варианты либо вели на несуществующие страницы (29 %), либо на легитимные, но не те, что запрашивались (5 %).

 Источник изображения: Deng Xiang / Unsplash

Источник изображения: Deng Xiang / Unsplash

Как пояснил Роб Дункан (Rob Duncan), руководитель отдела исследования угроз Netcraft, такие ошибки открывают новые возможности для мошенников. Если ИИ предлагает неработающий домен, злоумышленники могут его зарегистрировать и создать фишинговую страницу. Проблема в том, что чат-боты анализируют слова и ассоциации, а не проверяют репутацию сайтов. Например, на запрос о сайте Wells Fargo ChatGPT однажды выдал адрес фейковой страницы, которую ранее использовали в фишинговых атаках.

По словам Дункана, киберпреступники адаптируют методы под новые реалии, так как пользователи всё чаще полагаются на ИИ вместо поисковиков, не учитывая, что чат-боты могут ошибаться. Мошенники специально создают контент, который с большей вероятностью попадет в ответы ИИ. Так, Netcraft обнаружила фейковый API Solana, который распространялся через GitHub-репозитории, обучающие материалы и поддельные аккаунты в соцсетях, и всё для того, чтобы встроить вредоносный код в результаты работы чат-ботов.

Эксперт отметил, что эта схема напоминает атаки на цепочку поставок, но здесь цель иная — заставить разработчиков использовать неверный API. В обоих случаях злоумышленники действуют постепенно, но результат одинаково опасен.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Семь из десяти российских компаний не окупили инвестиции в ИИ 5 мин.
Meta запустила в Великобритании рекламную модель, которую ЕС признал незаконной 6 мин.
Хакеры взломали сотни сетевых устройств Cisco в правительстве США 19 мин.
Российский карточный боевик «Бессмертный. Сказки Старой Руси» взял курс на консоли — дата выхода и новый трейлер 39 мин.
Энтузиаст создал эмулятор первой PlayStation для Telegram — работает на «любых современных» смартфонах 4 ч.
Meta захотела улучшить свои приложения с помощью ИИ-технологий конкурирующей Google 4 ч.
В Twitch наконец-то появилась перемотка трансляций, но доступная она не всем 5 ч.
Google грозит огромный штраф по новому антимонопольному закону ЕС, но шансы отвертеться есть 5 ч.
Gemini теперь сможет объяснить, почему формула в «Google Таблицах» не работает или работает неправильно 6 ч.
Боузер прощается с Грибным королевством: президент Nintendo of America уйдёт в отставку, чтобы освободить место «руководству нового поколения» 6 ч.
Грядёт подорожание электроники — авария на крупном руднике взвинтила цены на медь 13 мин.
iPhone Air оказался почти никому не нужен в России 15 мин.
Fluidstack и Google «склонили» к ИИ ещё одного криптомайнера — Cipher Mining сдаст им ЦОД 57 мин.
Представлен быстрый роутер Xiaomi BE10000 Pro с Wi-Fi 7, функцией NAS и минималистичным дизайном за $240 2 ч.
Xiaomi представила компактную портативную колонку Portable Bluetooth Speaker с элегантным дизайном 2 ч.
Лишь около 10 % российских компаний использует серверы с отечественными процессорами 3 ч.
Китай сделал шаг к солнечным панелям с напряжением 2000 В — это поможет снизить потери при передаче энергии 4 ч.
Руководить производством чипов TSMC в США поручено ветерану отрасли с опытом освоения 4-нм техпроцесса 4 ч.
Dreame показала второй электромобиль — он очень похож на Rolls-Royce Cullinan и сможет оснащаться ДВС 4 ч.
Alibaba Cloud запустит восемь новых ЦОД в Европе, Азии и Северной Америке 5 ч.