ИИ будет манипулировать людьми, чтобы они принимали нужные решения

Инструменты искусственного интеллекта (ИИ) могут использоваться для манипулирования онлайн-аудиторией с целью принятия различных решений — от того, что покупать, до того, за кого голосовать, сообщается в исследовании команды учёных Кембриджского университета, посвящённом новому рынку «цифровых сигналов намерений», известному как «экономика намерений».

Источник изображения: Christin Hume

По словам исследователей Центра будущего интеллекта Леверхалма (LCFI) при Кембриджском университете, «экономика намерений» является преемницей «экономики внимания», в которой социальные сети удерживают пользователей на своих платформах и показывают им рекламу. В рамках «экономики внимания» рекламодатели могут покупать доступ к вниманию пользователей в настоящем через торги в реальном времени на рекламных биржах или приобретать его для будущих акций, например, арендуя рекламные площади на месяц вперёд.

«В течение десятилетий внимание было валютой интернета, — говорит доктор Джонни Пенн (Jonnie Penn) из LCFI. — Обмен вниманием с социальными медиа-платформами, такими как Facebook✴ и Instagram✴, привёл к развитию онлайн-экономики».

В исследовании утверждается, что большие языковые модели (LLM), используемые в работе таких инструментов ИИ, как чат-бот ChatGPT, будут применяться для «предвидения и управления» пользователями на основе «намеренных, поведенческих и психологических данных».

При «экономике намерений» компании в сфере ИИ будут продавать сведения о мотивах пользователей, начиная от планов проживания в отеле и заканчивая мнениями о политическом кандидате, тому, кто предложит самую высокую цену.

«В экономике намерений LLM может с минимальными затратами использовать ритм общения пользователя, его политические взгляды, словарный запас, возраст, пол, предпочтения и даже склонность к лести. Эти данные в сочетании с посредническими ставками позволят максимизировать вероятность достижения заданной цели (например, продажи билета в кино)», — говорится в исследовании. Указывается также, что в таком мире модели ИИ будут направлять обсуждение в интересах рекламодателей, предприятий и других третьих лиц.

В исследовании утверждается, что рекламодатели смогут использовать инструменты генеративного ИИ для создания индивидуальной онлайн-рекламы. В качестве примера приводится модель ИИ под названием Cicero компании Meta✴, которая достигла «человеческого уровня» в способности играть в настольную игру **Diplomacy**, где успех зависит от предсказания намерений оппонента.

Модели ИИ смогут настраивать свои результаты в ответ на «потоки входящих данных, сгенерированных пользователями», указывается в исследовании. Они смогут выделять личную информацию из повседневного общения и даже «направлять» разговор таким образом, чтобы получать больше личных данных. В исследовании цитируется сообщение исследовательской группы Cicero о том, что «агент [ИИ] может научиться подталкивать своего собеседника к достижению определённой цели».

Также исследователи прогнозируют сценарий, при котором Meta✴ будет выставлять на аукцион намерения пользователей, например, забронировать ресторан, рейс или отель. Хотя уже существует отрасль, занимающаяся прогнозированием и торгами на основе поведения человека, модели ИИ преобразуют этот процесс в «высококачественный, динамичный и персонализированный формат», подчеркнули учёные из LCFI.