TikTok начал автоматически помечать контент, созданный с помощью ИИ

TikTok объявил о запуске новой системы автоматической маркировки контента. Если контент был сгенерирован с помощью ИИ, то такие видео будут помечаться специальным ярлыком. Это коснется как материалов, созданных непосредственно в TikTok с использованием инструментов искусственного интеллекта, так и загруженных из других сервисов, например из OpenAI.

Маркировка будет производиться с помощью технологии Content Credentials от Коалиции за происхождение и подлинность контента (Coalition for Content Provenance and Authenticity, C2PA). Эта система прикрепляет к файлам специальные метаданные, позволяющие однозначно определить, что контент был создан при участии ИИ. Благодаря интеграции Content Credentials в TikTok, соответствующие видеоролики будут автоматически получать отметку «Создано ИИ».

По словам руководителя отдела операций, доверия и безопасности TikTok Адама Прессера (Adam Presser), нововведение призвано повысить прозрачность для пользователей и помочь им отличить контент с ИИ от обычного. Кроме того, компания надеется, что автоматическая маркировка частично снимет давление и с самих авторов в плане раскрытия использования инструментов ИИ.

Компания подчеркивает, что является первой платформой для видео, внедрившей Content Credentials. Ранее о поддержке этой технологии заявляли Microsoft, Adobe и OpenAI. Ожидается, что вскоре к ним присоединится и Google.

Также в TikTok пообещали активно бороться с использованием инструментов ИИ для создания фейковых и вводящих в заблуждение видео, особенно в контексте выборов. Компания напомнила, что ее политика категорически запрещает подобный контент вне зависимости от наличия маркировки.

В целом новая система автоматической маркировки выглядит многообещающе и не только поможет повысить прозрачность, но и будет выявлять потенциально опасный контент, сгенерированный нейросетями.