Новости Software

Meta разработала ИИ-алгоритм для оперативной реакции на новые виды вредоносного контента

Компания Meta, ранее известная как Facebook, заявила о создании системы искусственного интеллекта, способной более быстро адаптироваться к новым видам вредоносного контента, включая посты, призывающие отказываться от вакцинации от COVID-19. При этом ИИ обнаружит не только очевидно вредоносные материалы, но и скрытую дезинформацию.

Источник: geralt/pixabay.com

Источник: geralt / pixabay.com

Если обычно для обучения искусственного интеллекта требуются огромные массивы данных, и процесс обработки информации может занимать месяцы, то технология Few-Shot Learner нуждается лишь в небольшой подборке данных — вредоносный контент будет автоматически распознаваться уже через несколько недель.

Например, в правилах социальной сети может быть ограничена публикация постов, сообщающих о вреде вакцин от COVID-19, включая утверждения о том, что вакцина меняет ДНК. При этом некоторые пользователи перефразируют заявления в вопросы вроде «Вакцина или средство изменения ДНК?» или даже используют кодовые слова для того, чтобы скрыть смысл высказываний от машин. По данным Meta, новая технология позволит обнаружить контент, который пытаются спрятать от искусственного интеллекта.

«Если мы отреагируем быстрее, то сможем принять меры или модерировать контент более своевременно. В конечном счёте главной целью является безопасность пользователей», — говорят в Meta.

Создание новой системы ИИ поможет социальной сети избежать критики, в том числе от президента США Джо Байдена (Joe Biden) — многие считают, что Meta делает недостаточно для борьбы с дезинформацией.

Источник: geralt/pixabay.com

Источник: geralt / pixabay.com

По данным Meta, компания протестировала новую систему, и та смогла распознавать контент, который не в состоянии «увидеть» обычные алгоритмы ИИ. Утверждается, что после внедрения новой разработки в Facebook и Instagram процент просмотров вредоносных материалов существенно снизился. Few-Shot Learner «изучила» более 100 языков, поэтому может определять дезинформацию даже там, где данных для тренировки ИИ гораздо меньше, чем в англоязычном сегменте.

Поскольку Facebook намерена строить метавселенную, модерация контента в виртуальном пространстве станет более сложной задачей, но, в конце концов, Meta ожидает, что алгоритмы Few-Shot Learner можно будет применить и там — главной задачей является эффективное обучение компьютеров на всё меньшем количестве сведений.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
Прежде чем оставить комментарий, пожалуйста, ознакомьтесь с правилами комментирования. Оставляя комментарий, вы подтверждаете ваше согласие с данными правилами и осознаете возможную ответственность за их нарушение.
Все комментарии премодерируются.
Комментарии загружаются...
window-new
Soft
Hard
Тренды 🔥