Спам-бот AkiraBot использовал ИИ-модель GPT-4o-mini через API OpenAI для создания спам-комментариев, продвигающих фиктивные SEO-услуги. Разнообразие содержания этих комментариев позволяло обходить системы фильтрации на тысячах сайтов по всему миру, говорится в исследовании компании SentinelOne.

Источник изображения: Wesley Tingey / Unsplash

Согласно отчёту компании SentinelOne, специализирующейся на кибербезопасности, AkiraBot атаковал не менее 80 000 веб-сайтов, большинство из которых принадлежат малому и среднему бизнесу, использующему платформы электронной торговли, такие как Shopify, GoDaddy, Wix и Squarespace.

Как сообщает издание 404 Media, бот направлял в API OpenAI запрос: «Вы — полезный помощник, который создаёт маркетинговые сообщения», — после чего ИИ генерировал спам-комментарии, адаптированные под тематику конкретных сайтов. Так, для сайта строительной компании создавался один вариант спам-сообщений, а для салона красоты — другой. Затем эти комментарии размещались в чатах и формах обратной связи на сайтах, с целью побудить их владельцев приобрести SEO-услуги. Поздние версии спам-бота начали использовать для этих целей также онлайновые чат-виджеты, встроенные в большинство современных сайтов.

«Поиск сайтов, ссылающихся на домены AkiraBot, показывает, что ранее этот бот размещал сообщения таким образом, что они индексировались поисковыми системами», — говорится в сообщении SentinelOne. Упомянутый спам-бот появился в сентябре 2024 года и не имеет отношения к группе Akira, занимающейся распространением вымогательского программного обеспечения.

Помимо GPT-4o-mini, AkiraBot использовал прокси-сервисы для обхода CAPTCHA и маскировки сетевой активности. OpenAI заблокировала соответствующий API-ключ и заявила, что продолжает расследование, пообещав отключить все активы, связанные с инцидентом. «Мы серьёзно относимся к злоупотреблениям и постоянно совершенствуем наши системы для их выявления», — говорится в заявлении OpenAI.

Случаи неправомерного использования инструментов OpenAI уже отмечались ранее — в том числе при создании пропагандистских материалов государственными структурами. Однако зачастую киберпреступники предпочитают использовать собственные ИИ-системы. Так, в 2023 году была выявлена ИИ-модель WormGPT, позволявшая мошенникам вести переписку от имени банка и автоматизировать процесс обмана пользователей.

Сегодня утром несколько сотен Telegram-каналов опубликовали однотипные сообщения с политическим содержанием. Виной тому стал взлом бота, который многие администраторы используют для автоматического размещения публикаций — хакеры использовали его для распространения своих сообщений на огромную аудиторию, сообщил «Код Дурова» . Хотя в основном спам-рассылка распространялась через украинские каналы, был затронут и ряд российских.

Источник изображения: Rubaitul Azad/unsplash.com

Как выяснилось, все пострадавшие каналы были подключены к боту для автопостинга FleepBot. Представители Fleep подтвердили, что сервис столкнулся с несанкционированным доступом и сейчас его команда работает над тем, чтобы устранить проблему. «На данный момент публикация постов во всех каналах приостановлена», — сообщили в Fleep.

Похожий инцидент произошёл в марте 2022 года, когда хакеры взломали бот для сбора статистики Crosser Bot и тоже запустили массовую спам-рассылку. Ввиду того, что FleepBot и Crosser Bot могут иметь что-то общее и в их системе может быть единая инфраструктура, источник «Кода Дурова» допускает, что это может быть делом рук одного и того же злоумышленника, заполучившего доступ к обеим системам.

В любом случае, опрошенные «Кодом Дурова» эксперты на рынке разработки Telegram-ботов, ссылаясь на аналогичную спам-рассылку в марте 2022-го, поставили под сомнение возможность взлома этих двух ботов.

Президент России Владимир Путин подписал закон, ужесточающий административную ответственность за спам-звонки и рекламу кредитов и микрозаймов без указания их полной стоимости. Документ был опубликован на портале правовой информации.

Источник изображения: DT/Pixabay

Как указано в документе, за нарушение требований, установленных законодательством о рекламе, распространяемой по сетям электросвязи, физические лица могут быть оштрафованы на 10–20 тыс. руб. Прежде размер штрафа составлял 2–2,5 тыс. руб. Для должностных лиц размер штрафа теперь лежит в диапазоне от 20 тыс. до 100 тыс. руб. (прежде — 4–20 тыс. руб.), для юридических лиц — от 300 тыс. до 1 млн руб. (прежде — 100–500 тыс. руб.).

Законом также вводится ответственность микрофинансовых организаций (МФО) за рекламу займов с нарушением требований законодательства о рекламе — в ней должны быть указаны точный размер процентной ставки и полная стоимость кредита или займа. При этом подобная информация должна предоставляться шрифтом такого же размера, как и само рекламное сообщение. За нарушение этого требования наказание для МФО составляет от 600 тыс. до 1,6 млн руб. административного штрафа, для должностных лиц — от 40 до 100 тыс. руб. Аналогичное наказание за нарушение законодательства предусмотрено и для кредитных организаций.

Как сообщили «Известиям» в Федеральной антимонопольной службе (ФАС России), нарушения в рекламе, распространяемой по сетям электросвязи, а также в рекламе финансовых услуг являются наиболее частыми. Согласно данным ФАС, в 2023 году на них приходилось около 50 % от всего объёма выявленных нарушений закона о рекламе.

За последние пять лет объёмы спама в почте сократились, обратили внимание аналитики «Яндекса». За весь 2023 год его было отправлено на треть (8,6 млрд) меньше, чем в 2019 году. Но мошенники стали действовать изощрённее, что коснулось содержимого писем и способов маскировки спама под обычные письма.

Источник изображений: «Яндекс»

За 2023 год почтовая служба «Яндекс 360» обработала при помощи технологии «Спамооборона» 97 млрд писем — из них к вредоносному спаму отнесли 21,3 млрд писем, заблокировав их или не доставив получателям. Чаще всего в папке «Спам» оказывались письма с PDF-вложениями, в которых могла быть вредоносная ссылка — их зафиксировано 1,5 млрд. Спамеры предлагали адресатам пройти обучение (582 млн писем), отправляли письма с розыгрышами, обещаниями призов и предложениями испытать удачу (475 млн), маскировали атаки под рассылки известных магазинов и компаний (462 млн) и отправляли письма с поддельными предложениями работы (324 млн).

Чаще всего в таких письмах содержатся ссылки на страницы, где предлагается указать платёжные данные или другую личную информацию, которая может понадобиться мошенникам в дальнейших атаках. Активнее всего «Спамооборона» работает весной, в период осенних распродаж и под Новый год. Наименьшую активность спамеры демонстрируют в конце августа – начале сентября.

В минувшем году подразделение «Яндекс 360» усовершенствовало детектор спама, разработало средство аналитики обнаружения атак, а также настроило фильтр жёсткого спама, при срабатывании которого письма вообще не попадают в почтовый ящик — даже в папку «Спам». Это помогло заблокировать на 300 млн больше вредоносных писем, чем в 2022 году.

В блоге разработчиков Google появилось подробное описание свежего обновления спам-фильтров почтового сервиса Gmail. В компании его называли «одним из крупнейших обновлений системы защиты за последние годы».

Источник изображения: diedryreyes3456 / Pixabay

Речь идёт об интеграции в почтовую службу новой системы классификации текстов Resilient & Efficient Text Vectorizer (RETVec). По словам разработчиков, она эффективно определяет спам-сообщения, включая электронные письма с большим количеством специальных символов, смайлов, опечаток и других элементов, которые прежде были различимы для человека, но трудно определяемы для спам-фильтров. Согласно имеющимся данным, новый алгоритм эффективно определяет, в том числе, сообщения с гомоглифами, т.е. графически сильно похожими друг на друга знаками, разными по значению.

По данным Google, алгоритм RETVec обучен для эффективного выявления сообщений, в которых содержится текст, подвергавшийся каким-либо манипуляциям, включая вставку или удаление символов, опечатки, гомоглифы и др. Алгоритм обучался с использованием продвинутого кодировщика, способного эффективного кодировать любые символы и слова в формате UTF-8. В итоге разработчики получили алгоритм, который «из коробки» работает на более чем 100 языках мира.

Пример спам-письма с гомоглифами / Источник изображения: Ron Amadeo / arstechnica.com

RETVec, судя по всему, во-многом работает также, как читают люди. Алгоритм построен на базе ИИ-фреймворка TensorFlow и в процессе его работы определяется визуальное «сходство» для определения значения слов, а не символы, из которых они фактически состоят. По данным Google, замена используемого ранее текстового векторизатора Gmail на RETVec позволила повысить уровень обнаружения спама по сравнению с базовым на 38 %, а количество ложных срабатываний уменьшилось на 19,4 %. При этом количество используемых моделью тензорных вычислительных процессоров (TPU) снизилось на 83 %, что делает нынешнее обновление одним из крупнейших для системы защиты Gmail за последние годы.

В Gmail появятся новые правила, направленные на сокращение количества спама, повышение безопасности и упрощение отказа от рекламных рассылок. Эти требования вступят в силу в феврале 2024 года и коснутся всех, кто ежедневно отправляет более 5 000 сообщений на учётные записи Gmail. Google установит чёткий порог уровня спама для отправителей массовых рассылок — пока компания только рекомендует удерживать уровень спама ниже 0,3 %, но в скором времени это станет обязательным.

Источник изображения: Google

От массовых отправителей потребуется предоставить получателям Gmail возможность отказаться от подписки на коммерческие электронные письма одним щелчком мыши, чтобы облегчить прекращение получения нежелательных сообщений. Запросы на отказ от подписки на такие электронные письма должны быть обработаны в течение двух дней.

Google также требует, чтобы отправители массовых рассылок «строго аутентифицировали» свои электронные письма, следуя лучшим практикам Google. Компания утверждает, что это закроет существующие лазейки, используемые злоумышленниками, и сделает электронную почту более безопасной и заслуживающей доверия.

«Многие отправители массовых рассылок не обеспечивают надлежащую защиту и настройку своих систем, что позволяет злоумышленникам легко скрываться среди них, — утверждает Нил Кумаран (Neil Kumaran), менеджер группы продуктов по безопасности и доверию Gmail. — Чтобы это исправить, мы сосредоточились на важнейшем аспекте безопасности электронной почты: проверке того, что отправитель является тем, за кого себя выдаёт».

В последние месяцы Google исследовала разные способы повышения безопасности пользователей Gmail. В августе компания внедрила дополнительные этапы проверки для таких задач, как добавление адреса пересылки и редактирование фильтров, а в мае начала развивать функцию проверки адресов электронной почты на их использование в даркнете.

В первой половине 2023 года россияне получили около 3,8 млрд спам-звонков, что превысило показатель первого полугодия 2022 года в 2,15 раза, сообщили «Известия» со ссылкой на данные оператора МТС. Значительная часть нежелательных звонков пришлась на абонентов из Москвы и Санкт-Петербурга, а также ряда других крупных городов России.

Источник изображения: Pixabay

Рост спам-звонков подтвердили в «МегаФоне», утверждая, что их число выросло в годовом исчислении на 40 %. В свою очередь, в Tele2 сообщили, что один абонент в среднем каждый месяц получает 8–9 звонков с рекламной информацией.

Для борьбы со спамерами операторы используют технологии больших данных (Big Data), которые позволяют выявлять спам-звонки по их продолжительности, частоте, массовости, а также по реакции абонентов на них. По словам представителя Tele2, с помощью Big Data оператор ежесуточно обрабатывает 5–6 млн рекламных вызовов, включая звонки-сбросы.

По словам эксперта, развитие цифровых технологий заметно упростило для спамеров автоматизацию массовых звонков, благодаря чему обзванивают россиян, чаще всего выбирая жителей крупных городов с большим присутствием бизнеса.

Главный специалист отдела комплексных систем защиты информации компании «Газинформсервис» Дмитрий Овчинников связывает резкий рост числа спам-звонков в России с тем, что сейчас не составляет труда быстро и достаточно дёшево организовать массовую доставку любой рекламы аудитории, ещё не охваченной интернетом, тем более, что в открытый доступ поступило достаточно много слитых баз данных. Старый канал рассылки спама — почта — за последние годы получил надёжную защиту, в социальных сетях тоже налажена борьба с навязчивыми рассылками, поэтому спамеры переключились на телефонную аудиторию.

По словам Овчинникова, именно жители городов-миллионников чаще всего оставляют свои сотовые номера при проведении рекламных акций, регистрации бонусных карт и т.д. А аналитик Kaspersky Who Calls Владимир Григорьев отметил, что часто спам-звонки поступают тем, кто дал согласие на получение маркетинговых рассылок. Из их номеров формируются базы данных, которые нередко «утекают» в Сеть через недобросовестных сотрудников или после хакерского взлома.

Как сообщил доцент Финансового университета при правительстве России и кандидат экономических наук Петр Щербаченко, чаще всего спам-звонки посвящены рекламе финансовых продуктов, страхования, недвижимости, а также различных услуг (стоматологии, медицины и так далее). Владимир Григорьев также относит к спаму роботизированные обзвоны с рекламой товаров или услуг, звонки с напоминаниями о задолженностях, предложениями принять участие в соцопросах и т.д.

Целью массовых обзвонов может быть сбор личной информации и финансовых данных. Согласно данным Kaspersky Who Calls, в первом квартале 2023 года доля российских пользователей, которым поступали телефонные звонки с неизвестных номеров с возможными мошенническими целями, увеличилась на 3 п.п. по сравнению с первой четвертью 2022 года до 29 %.

«При этом злоумышленники используют не только “классические” звонки, но и массово переключаются на обзвоны в мессенджерах, используют многоступенчатые схемы и нетривиальные легенды, чтобы запутать пользователей», — говорит Григорьев.

Для защиты от назойливой рекламы Дмитрий Овчинников советует абонентам сотовых операторов подключать дополнительные функции АОН, а также устанавливать на смартфоны специальное ПО. В свою очередь, Петр Щербаченко призывает проявлять осторожность, предоставляя свои телефонные номера на веб-сайтах или в различных письменных формах, а также избегать разглашения персональной информации в Сети.

Также не рекомендуется в принципе использовать свой основной номер телефона при онлайн-регистрациях — лучше предоставлять дополнительные номера, что значительно снизит объём назойливой рекламы.

Впрочем, эксперты считают, что в ближайшем будущем объём спама будет только расти. «По данным Kaspersky Who Calls, с телефонным спамом сталкиваются порядка 95 % пользователей. Мы не видим предпосылок к тому, чтобы объём таких звонков уменьшился в ближайшее время», — сообщил Владимир Григорьев.

«Эпидемия» закончится только тогда, когда операторы сотовой связи разработают антиспам-системы с высокой степенью защиты, уверен Овчинников.

Судья федерального суда в Восточном округе Калифорнии отклонил иск Республиканского национального комитета (RNC) против Google из-за обвинений в дискриминационной фильтрации спама в Gmail.

Источник изображения: diedryreyes3456 / Pixabay

RNC утверждал, что Google намеренно отправляла политические письма RNC в папку со спамом у пользователей Gmail. Это, по мнению RNC, привело к значительному снижению объема пожертвований. В своёй жалобе RNC ссылался на исследование Северокаролинского государственного университета (NCSU), которое показало, что Gmail чаще маркировал письма от республиканских организаций как спам. Однако Мухаммад Шахзад (Muhammad Shahzad), один из авторов исследования, сообщил, что его результаты были искажены. Он подчеркнул, что исследование проверяло только стандартные настройки электронной почты.

Судья окружного суда США Даниэль Калабретта (Daniel Calabretta) охарактеризовал иск RNC как спорный, но отклонил претензии RNC. Он указал на отсутствие убедительных доказательств того, что фильтрация Google проводилась с плохими намерениями. Google, в свою очередь, заявила, что многие из отфильтрованных писем были классифицированы как спам из-за жалоб пользователей. Компания также указала на проблемы с аутентификацией домена RNC.

Судья также подчеркнул, что письма республиканцев могут быть классифицированы как сомнительный контент, основываясь на Законе о борьбе со спамом (CAN-SPAM Act). Этот закон был принят с целью предотвращения нежелательных коммерческих сообщений, предоставляя рекомендации по их отправке и предусматривая санкции за нарушение. Кроме того, судья указал на раздел 230 Закона о порядочности в сфере коммуникаций (Communications Decency Act), который играет ключевую роль в интернет-регулировании в США.

Этот раздел предоставляет интернет-сервисам иммунитет от ответственности за контент, созданный их пользователями. Это означает, что если Google классифицирует определённые письма как спам, основываясь на действиях или жалобах пользователей, компания может быть защищена от юридической ответственности благодаря этому разделу закона.

Важно отметить, что в прошлом году Google создала специальный канал для политических рассылок, которым RNC, по слухам, не воспользовался. Компания заявила в январе о своём намерении закрыть этот канал, одновременно просив отклонить иск RNC. Ранее Федеральная избирательная комиссия отклонила жалобу республиканцев на практику фильтрации электронной почты Google.

Этот случай ставит в центр внимания не только вопросы технической фильтрации контента, но и более глубокие проблемы, связанные с политическим влиянием и ответственностью крупных технологических компаний. Решение суда оставило республиканцам возможность внести поправки для доказательства недобросовестности Google. В будущем подобные дела могут стать отправной точкой для пересмотра или уточнения законодательства в области цифровых коммуникаций.

Социальная сеть Twitter готовится ограничить количество личных сообщений, которые неверифицированные пользователи могут отправлять ежедневно. В сообщении компании сказано, что это необходимо, «чтобы уменьшить количество спама» на платформе. При этом пользователи, оплатившие подписку Twitter Blue, по-прежнему смогут отправлять неограниченное количество сообщений.

Источник изображения: PhotoMIX-Company / Pixabay

На данный момент неизвестно, сколько именно личных сообщений смогут отсылать пользователи соцсети. Согласно имеющимся данным, данное нововведение может быть реализовано уже на этой неделе. Официальные представители Twitter пока никак не комментируют этот вопрос.

Глава Twitter Илон Маск (Elon Musk) ещё до покупки компании заявлял о намерении бороться со спамом на площадке, в случае успешного завершения сделки. «Мы победим спам-ботов или умрём, пытаясь сделать это», — написал миллиардер в своём аккаунте в апреле прошлого года. Длительная оценка количества спам-сообщений в соцсети также привела к задержке процесса покупки компании, но в конечном счёте сделка состоялась в том же году. Очевидно, ограничение по количеству отправляемых в день сообщений является не только шагом на пути борьбы со спамом, но и инструментом продвижения платной подписки Twitter Blue.