MWC 2018
2018
Computex
IFA 2018
ChatGPT стал предлагать пользователям ссылки на запущенные мошенниками поддельные интернет-магазины и рассказывать о товарах, которые никогда не существовали, сообщила газета The Guardian со ссылкой на сервис по обнаружению мошенничества Ask Silver.
Источник изображения: Andras Vas / unsplash.com
Пользователи ChatGPT при попытке поиска переходили по ссылкам на ресурсы, которые выглядели как интернет-магазины популярных бредов, таких как производитель обуви и аксессуаров Russell & Bromley и сеть магазинов товаров для дома Dunelm. Те, кто делал на этих поддельных сайтах заказы, теряли свои деньги, а их платёжные данные становились достоянием злоумышленников. Одной из причин инцидента стало то, что бренд Russell & Bromley перестал существовать как самостоятельный розничный продавец — в январе он перешёл под внешнее управление и был поглощён компанией Next. Образовавшуюся пустоту заполнили мошенники, потому что люди продолжают искать оригинальный сайт бренда.
В ходе атак мошенники реализовали методику «отравления искусственного интеллекта», при которой злоумышленники публикуют в интернете не соответствующую действительности информацию и страницы, копирующие дизайн легитимных ресурсов. Большие языковые модели индексируют эти мошеннические сайты, непреднамеренно способствуя противоправной деятельности и выдавая подделки за оригинал. Людям не следует доверять рекомендациям только потому, что они исходят от чат-бота с ИИ, предупреждают эксперты: преступники быстро адаптируются к новым технологиям и используют все каналы, способные привести к ним потенциальных жертв.
Признаки мошенников остаются теми же. Это огромные скидки, странные адреса сайтов, неверная контактная информация и запросы на банковские переводы. Эксперты рекомендуют другими способами устанавливать адреса розничных продавцов, а не полагаться на ссылки, которые генерирует ИИ. OpenAI удалила часть ссылок на сайты, на которые поступили жалобы, но проблема не исчезла: люди всё чаще пользуются ИИ, а значит, требуются более надёжные средства защиты потребителей.
Источник:
