Twitter хотел зарабатывать как OnlyFans, но не справился с модерацией

Весной 2022 года в Twitter хотели провести радикальные перемены. Не один год сервис спокойно относился к обилию материалов для взрослых на платформе, и компания всерьёз задумалась о монетизации этого контента по принципу платных подписок, как это сделано на OnlyFans. Однако планам не суждено было сбыться из-за неспособности платформы оперативно удалять запрещённый контент, сообщает The Verge.

Источник изображения: Photo Mix / pixabay.com

Если бы проект удалось запустить, Twitter, конечно, потерял бы многих рекламодателей, однако это с лихвой могла бы компенсировать выручка от создателей контента для взрослых: только в этом году доход OnlyFans может достичь $2,5 млрд — это около половины выручки Twitter в 2021 году. Руководство сервиса микроблогов поначалу сочло идею удачной, тем более, что многие авторы OnlyFans продвигают свои каналы именно в Twitter. Поэтому на реализацию идеи были выделены ресурсы, а сам проект получил название ACM (Adult Content Monetization — «Монетизация контента для взрослых»).

Для проработки проекта был сформирован отдел Red Team из 84 человек. И очень быстро, уже в апреле 2022 года, сотрудники отдела пришли к выводу, что Twitter неспособен обеспечить безопасную продажу подписок на материалы для взрослых, потому что платформа не контролировала и до сих пор не контролирует публикацию противозаконного контента. Как выяснилось, у компании попросту отсутствуют инструменты, с помощью которых можно проверить, достигли ли совершеннолетнего возраста как создатели, так и потребители контента для взрослых. И в мае, то есть уже после начала эпопеи с покупкой Twitter Илоном Маском (Elon Musk) реализация проекта была отложена на неопределённый срок.

Сотрудники Red Team заявили, что запуск ACM только усугубит проблему, потому что на платформе станут публиковать больше материалов для взрослых, а значит, вырастет и количество незаконного контента. Однако после приостановки работы над проектом руководство, прекрасно осведомлённое о сути проблемы, всё ещё ничего не делает для её решения. Известно о ней стало за 15 месяцев до этого, когда компания поручила другой команде экспертов начать работу по оздоровлению контента в Twitter. Тогда выяснилось, что имеющиеся в распоряжении компании средства обнаружения материалов, содержащих жестокое обращение с детьми, утратили актуальность и эффективность.

Источник изображения: Edar / pixabay.com

При этом технологические гиганты вроде Google и Facebook✴ относятся к проблеме намного серьёзнее: в 2019 году Марк Цукерберг (Mark Zuckerberg) хвастался, что подконтрольный ему Facebook✴ только на безопасность тратит больше, чем зарабатывает Twitter. Технологические платформы поддерживают друг друга в этой борьбе: одним из основных инструментов является сервис PhotoDNA, созданный Microsoft в 2009 году. Однако эта система реагирует только на известные запрещённые материалы.

В отличие от других крупных компаний, уже разработавших собственные решения, сотрудникам Twitter приходится вручную пытаться обнаруживать контент, который пропустил PhotoDNA, а основным рабочим инструментом компании является некий комплекс RedPanda, который сегодня уже устарел и лишился поддержки. Системы на базе машинного обучения в распоряжении Twitter до сих пор не могут обнаруживать запрещённые материалы в любом из доступных форматов. А модераторы не всегда справляются со своими задачами — в одном из случаев видеозапись с незаконным содержанием оставалась на платформе более 23 часов, даже после того, как пользователи отправляли на него жалобы. Хотя, по словам представительницы компании Кейти Росборо (Katie Rosborough), Twitter ещё в феврале 2021 года значительно увеличила свои вложения в выявление подобных материалов, и даже сегодня, когда компания ужесточила свою кадровую политику, по данному профилю значатся открытыми четыре вакансии.

Впрочем, и достигнутого компания может не удержать. 23 августа Twitter объявила, что отдел по борьбе с вредоносным контентом объединяется с отделом, ответственным за борьбу со спам-ботами. На эту меру компания пошла, конечно же, из-за того, что Илон Маск обвинил руководство Twitter в предоставлении недостоверной информации по вопросу спама на платформе. Возможно, бизнесмен напрасно решил, что данный вопрос является наиболее важным. И возможно, что проблемы Twitter с Илоном Маском только начинаются.