Модераторы раздела Reddit, посвящённого биохакерству, сообщили, что на платформе стали появляться спам-публикации, направленные на продвижение не столько продаж, сколько определённых нарративов в системах искусственного интеллекта.
Источник изображения: appshunter / unsplash.com
Значительное число пользователей стали публиковать посты с расчётом на то, что их содержимое будет появляться в ответах чат-ботов с ИИ. Чаще всего в этих постах речь идёт о приёме пептидов и о гормональной заместительной терапии без явных медицинских показаний — для омоложения, стимуляции роста мышечной массы и в других целях. Эту кампанию администрация Reddit причислила к механизмам AEO (Answer Engine Optimization — оптимизации для ответов ИИ). В качестве одной из мер противодействия информационной атаке в соответствующем разделе платформы запретили отдельные посты о пептидах и ГЗТ и ограничили обсуждение большими еженедельными темами.
Отличие механизмов AEO от классической SEO (Search Engine Optimization — оптимизации для поисковых систем) в том, что цель поднять какой-либо ресурс или товар в классической поисковой выдаче отсутствует — вместо неё оптимизаторы стремятся внедрять конкретные нарративы и упоминания брендов, которые системы ИИ, вероятно, будут использовать в ответах. Платформы вроде ChatGPT и «ИИ-поиск» в Google часто ссылаются на Reddit, поэтому публикации на платформе вполне могут послужить источником данных для них. Заголовки тем совпадают с вероятными запросами пользователей к чат-ботам с ИИ.
Информационная атака реализуется с использованием более тонких средств, чем обычный спам. Это не открытая реклама, а публикации, направленные на привлечение внимания, и упоминания брендов органично вплетаются в обсуждение. Создающие эти посты учётные записи часто имеют историю публикаций, благодаря чему создаётся впечатление, что это обычные люди. В отдельных случаях, как считается, людям платят или иным образом стимулируют их к участию, что ещё сильнее размывает грань между естественным обсуждением и скоординированной рекламой.
Вопрос приобретает особенно деликатный характер с учётом того, что посты появляются в разделе, посвящённом новым методам лечения и экспериментам с собственным организмом вразрез с традиционной доказательной медициной. Поэтому в администрации Reddit решили расширить средства модерации, используя как автоматизированную проверку постов, так и участие живых модераторов, потому что отличить манипуляции от подлинного обсуждения становится всё труднее.