Австралийский чат-бот Apate обучили издеваться над телефонными мошенниками

Эксперты по кибербезопасности из Университета Маккуори (Австралия) разработали основанный на алгоритмах искусственного интеллекта чат-бот Apate — он обучен выдавать себя за человека в разговоре с телефонными мошенниками, а его цель состоит в том, чтобы удерживать собеседника на линии максимально продолжительное время.

Источник изображения: Sam Williams / pixabay.com

Идея запустить проект возникла, когда его руководителю профессору Дали Каафару (Dali Kaafar) позвонили телефонные мошенники, и учёный удерживал их на линии 40 минут, развлекая детей за обедом. Профессор решил, что этот процесс можно автоматизировать при помощи ИИ, подключив модели обработки естественного языка и создав чат-бот, способный выдавать себя за человека и вести телефонный разговор с мошенником. Проекту присвоили название Apate в честь Апаты — древнегреческой богини лжи и обмана.

В основе проекта лежит языковая модель, схожая с ChatGPT, к которой подключена система клонирования голоса. Apate обучали на текстах реальных взаимодействий с мошенниками: на расшифровках телефонных разговоров, а также на переписках по электронной почте и в соцсетях. Тестирование чат-бота проводилось на настоящих звонках мошенников. Для этого учёные решили их спровоцировать, выкупив несколько телефонных номеров, которые начали преднамеренно размещать на сомнительных интернет-площадках.

Цель проекта в том, чтобы удерживать собеседника на линии в течение 40 минут без конкретного результата — это достаточно продолжительное время, и большое число таких разговоров способно пошатнуть «бизнес-модель» преступников. Правда, пока среднее время диалога с Apate составляет всего 5 минут. В ряде случаев ИИ удивил и своих создателей — он проявлял изрядную находчивость в нестандартных ситуациях, когда мошенники запрашивали информацию, отсутствовавшую в обучающих материалах.

Представители преступного мира и сами сейчас активно внедряют ИИ, подключая технологии клонирования голоса и дипфейки. Поэтому проект Apate — это своего рода симметричный ответ на передовые решения у мошенников. Учёные предполагают, что подобных чат-ботов могли бы внедрять операторы телефонной связи.