Ошибки неизбежны: модерация в YouTube с помощью ИИ усилится на время пандемии

YouTube будет больше полагаться на искусственный интеллект для модерирования видео во время пандемии Covid-19, поскольку многие из рецензентов службы отправились домой. Это означает, что видео может быть удалено с сайта исключительно потому, что оно помечено ИИ как потенциально нарушающее политику, в то время как обычно оно может быть перенаправлено человеку-рецензенту.

Alex Castro / The Verge

Модераторы-люди, как правило, работают из офисов для проверки видеоматериалов. В частности, для такой крупной компании, как YouTube, разрешение на выполнение этой работы вне пределов жёстко контролируемой корпоративной среды сопряжено с риском раскрытия конфиденциальных пользовательских данных. Это означает, что в случае сокращения штатов в офисах процесс модерирования людьми неизбежно замедлится.

Из-за бо́льшей зависимости от ИИ, по словам YouTube, будут чаще допускаться ошибки. В конечном итоге может быть удалено больше видеозаписей, включая некоторые ролики, которые могут не нарушать политику компании. Другие материалы не будут продвигаться или отображаться в поиске и рекомендациях, пока не пройдут проверку людьми.

YouTube обещает, что ИИ почти не будет выдавать страйки, которые могут привести к бану (за исключением видео, которое с высокой степенью вероятности противоречит политике компании). Как всегда, создатели могут обжаловать решения, но YouTube предупреждает, что этот процесс тоже будет отложен из-за сокращения штата.