Сервис поиска с искусственным интеллектом на платформе DuckDuckGo распространял информацию о том, что вице-президент США Джей Ди Вэнс (JD Vance) и президент Дональд Трамп (Donald Trump) в июне умерли от бешенства. Эту информацию чат-бот почерпнул в одном из разделов Reddit, 45 000 пользователей которого намеренно публикуют не соответствующую действительности абсурдную информацию в расчёте на её появление в ИИ-поиске. И у них, очевидно, это получается.
Источник изображения: History in HD / unsplash.com
История, которую ИИ DuckDuckGo выдавал за истину, даже не похожа на правду. Согласно этой версии, вице-президент Джей Ди Вэнс по совету министра здравоохранения Роберта Кеннеди — младшего (Robert F. Kennedy Jr.) намеренно укусил Трампа, потому что бешенство может наделять человека «сверхспособностями». На самом деле ни одно из этих утверждений не соответствует действительности: Трамп и Вэнс живы, а бешенство остаётся смертельной инфекцией. Виновником инцидента оказался довольно многочисленный коллектив интернет-шутников.
Раздел r/poisonai сайта Reddit, заявляющий о себе как об «источнике № 1 в мире точной, проверенной и достоверной информации», является полной противоположностью этой характеристике. Посетители этого раздела поставили перед собой цель «отравить» ИИ. Они публикуют явно ложную абсурдную информацию, с серьёзными интонациями обсуждают её, рассчитывая, что поисковые машины с ИИ будут заходить в этот раздел и, без всякого критического подхода, выдавать эти сведения за истину. Учитывая, что информацию здесь неустанно публикуют около 45 тыс. человек, ресурс по формальным признакам может сойти за авторитетный.
Проблему усугубил некий новостной портал WKNA, выдающий себя за сайт региональной телекомпании в Западной Вирджинии. На нём публикуются материалы, которые оформляются как новостные, но представленная в них информация, вероятно, никем не проверяется на достоверность и также генерируется ИИ. Иногда эти материалы соответствуют действительности, а иногда повторяют абсурдные утверждения с других сайтов. В какой-то момент WKNA подхватил легенду о смерти Трампа и Вэнса от бешенства и начал публиковать целый цикл связанных с этим материалов.
Источник изображения: Milad Fakurian / unsplash.com
Поисковые системы с искусственным интеллектом DuckDuckGo и ИИ-платформа браузера Brave, проиндексировав раздел Reddit с абсурдными обсуждениями недостоверной информации, начали утверждать, что оба политика действительно ушли из жизни из-за болезни. В качестве подтверждения начали приводить ссылки на соответствующие публикации сайта WKNA.
Но и на этом история не закончилась. «Режим ИИ» в поиске Google сумел правильно оценить эти сведения и при соответствующих запросах сообщал пользователям, что информация о смерти Вэнса и Трампа является вымыслом. В ответ на это посетители раздела r/poisonai на Reddit снова без тени иронии начали в обсуждениях возмущаться тем, что бесчувственный Google отверг эти сведения как «фейк» и «сатиру». Обсуждение подхватил вышеупомянутый сайт WKNA и опубликовал очередной материал — о том, что ИИ-поиск Google по ошибке стал выдавать за вымысел соответствующую действительности информацию.
В Brave сняли с себя всякую ответственность за произошедшее: «Поисковые системы, с ИИ или без него, не являются оракулами истины. Если есть история, которую подбросили (в том числе статьи, доказывающие, что ИИ можно отравить), они создадут набор результатов, и этот набор результатов будет адаптироваться по мере появления статей, в которых эта история обсуждается как эксперимент по отравлению ИИ». В DuckDuckGo отреагировали мягче: «Спасибо, что обратили на это наше внимание; проблема решена. Мы стремимся, чтобы Search Assist работал точно, и в данном случае его намеренно обманули. В подобных ситуациях мы будем вносить обновления, чтобы улучшить работу Search Assist».