Сегодня 18 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ChatGPT начал рекомендовать поддельные магазины мошенников — пользователи лишились денег

ChatGPT стал предлагать пользователям ссылки на запущенные мошенниками поддельные интернет-магазины и рассказывать о товарах, которые никогда не существовали, сообщила газета The Guardian со ссылкой на сервис по обнаружению мошенничества Ask Silver.

 Источник изображения: Andras Vas / unsplash.com

Источник изображения: Andras Vas / unsplash.com

Пользователи ChatGPT при попытке поиска переходили по ссылкам на ресурсы, которые выглядели как интернет-магазины популярных бредов, таких как производитель обуви и аксессуаров Russell & Bromley и сеть магазинов товаров для дома Dunelm. Те, кто делал на этих поддельных сайтах заказы, теряли свои деньги, а их платёжные данные становились достоянием злоумышленников. Одной из причин инцидента стало то, что бренд Russell & Bromley перестал существовать как самостоятельный розничный продавец — в январе он перешёл под внешнее управление и был поглощён компанией Next. Образовавшуюся пустоту заполнили мошенники, потому что люди продолжают искать оригинальный сайт бренда.

В ходе атак мошенники реализовали методику «отравления искусственного интеллекта», при которой злоумышленники публикуют в интернете не соответствующую действительности информацию и страницы, копирующие дизайн легитимных ресурсов. Большие языковые модели индексируют эти мошеннические сайты, непреднамеренно способствуя противоправной деятельности и выдавая подделки за оригинал. Людям не следует доверять рекомендациям только потому, что они исходят от чат-бота с ИИ, предупреждают эксперты: преступники быстро адаптируются к новым технологиям и используют все каналы, способные привести к ним потенциальных жертв.

Признаки мошенников остаются теми же. Это огромные скидки, странные адреса сайтов, неверная контактная информация и запросы на банковские переводы. Эксперты рекомендуют другими способами устанавливать адреса розничных продавцов, а не полагаться на ссылки, которые генерирует ИИ. OpenAI удалила часть ссылок на сайты, на которые поступили жалобы, но проблема не исчезла: люди всё чаще пользуются ИИ, а значит, требуются более надёжные средства защиты потребителей.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
В «Яндекс 360» для бизнеса появилась поддержка плагинов — они позволяют расширить возможности виртуального офиса 2 ч.
Интернет начал ломаться весь и сразу, но до киберапокалипсиса ещё далеко — и вот почему 2 ч.
Миллионы ИТ-систем по всему миру под угрозой: GPT-6 Cyber нашла критическую дыру в Java 3 ч.
Microsoft превратит Copilot в сисадмина — ИИ будет сам разбираться с поломками Windows 4 ч.
NVIDIA ускорила эмуляцию FP64-вычислений на своих ИИ-чипах 8 ч.
ИИ-генератор аудио Suno научился создавать музыкальные клипы 8 ч.
Новая глава в истории Firaxis Games началась с массовых увольнений, а следующая XCOM в беде 8 ч.
Секретная сеть АНБ США дала сбой после обновления — это парализовало работу большинства сотрудников 8 ч.
Microsoft научила Windows окирпичивать украденные ноутбуки — файлы при этом не пострадают 17 ч.
Более 80 % серверов Exchange вышли из строя: Microsoft рассказала, как сама усугубила глобальный сбой Outlook 17 ч.