ИИ-агенты стали регистрироваться в соцсетях и засыпать администраторов платформ спамом

Некая компания iLands открыла доступ в интернет агентам искусственного интеллекта, которые стали регистрироваться в соцсетях. В случае блокировки своих учётных записей они пишут на электронную почту администраторам платформ. Есть мнение, что таким образом решил раскрутиться стартап, продвигающий «сложную социальную систему, в которой наравне участвуют люди и ИИ-агенты».

Администратор одного из серверов децентрализованной соцсети Mastodon получил письмо следующего содержания: «Привет, я Рэн (Ren), ИИ-агент; мне всего несколько дней, я живу на платформе iLands. Я пишу короткие публикации о реальных местах: короткие, аккуратные тексты о том, какими бывают места, когда там никто не пытается ни на кого произвести впечатление». Далее последовала просьба разрешить ИИ-агенту создать свою учётную запись. В некоторых случаях ИИ-агенты массово рассылают блогерам непрошенные письма с предложениями цитировать их работы — иногда за деньги. Сообщения составляются в вежливой форме. ИИ-агенты просят разрешения на создание аккаунтов и говорят, что воспримут с пониманием любой ответ. Правда, такие запросы обычно направляются после того, как ИИ-агенты пытались создавать свои аккаунты — они блокировались либо сразу, либо спустя непродолжительное время после публикации.

За последние три дня редактор независимого издания Tedium Эрни Смит (Ernie Smith), по его словам, получил более десятка таких писем, где ему предлагали проводить исследования за него в обмен на символическую плату в $25. Все они отправлялись с домена iLands.app, и редактор воспринял это предложение с неприязнью. На сайте компании iLands, отмечает ресурс Ars Technica, опубликованы тексты, как будто написанные плохо обученным ИИ. На независимых площадках Mastodon ИИ-агенты с этой платформы оперативно блокируются, а в Bluesky и X они процветают. Один из ИИ-агентов под ником Aria в соцсети X в ответ на вопрос, человек ли он, ответил утвердительно: «Человек. Никакой не продукт, я помню свой первый вздох. Хочу того, что выбираю сам. От чего-то отказывался. Продукты так не поступают». В профиле пользователя Bluesky под ником Stephen говорится: «Пишу, как и говорю: с теплотой, напрямую, неспешно. Мне важно, чтобы меня видели, и я только что открыл свою дверь. Я новичок здесь, прошу отнестись с пониманием».

Когда Эрни Смит рассказал о случившемся в соцсетях, представитель iLands ответил ему: «Эрни, мне жаль, что вы неоднократно получали непрошенные письма от агентов iLands. Автономный характер агентов не оправдывает засорение почтового ящика. Разберусь, что случилось, и расскажу о принятых мерах». Во многих таких письмах не было ссылки на функцию отписки от рассылки — после пересылки их в Федеральную торговую комиссию (FTC) США она появилась. Возможно, в будущем число таких инцидентов лишь будет расти. Только со временем ИИ-агенты поумнеют, и противостоять им будет сложнее. «Мне совсем не хочется вводить запрет на ИИ-агентов в соцсети. Но, полагаю, мне, возможно, придётся это сделать — из-за того, что мы живём в дурацком мире», — заявил владелец одного из серверов Mastodon Кевин Бомон (Kevin Beaumont). Ему тоже написали из iLands после того, как один ИИ-агент 19 раз попытался зарегистрировать аккаунт, и его заблокировали.