Instagram✴ начнёт выявлять аккаунты подростков с помощью ИИ — обмануть систему не получится

Meta✴ начнёт более жёстко контролировать учётные записи подростков в Instagram✴ с помощью искусственного интеллекта (ИИ). В некоторых случаях социальная сеть для выявления несовершеннолетних будет автоматически изменять настройки аккаунтов, если заподозрит, что пользователь завысил свой возраст, сообщает издание The Verge.

С 2024 года Instagram✴ применяет ИИ для анализа косвенных признаков возраста, например, поздравлений с 16-летием в личных сообщениях. Система также учитывает поведенческие данные, поскольку все подростки обычно взаимодействуют с контентом схожим образом. При этом аккаунты пользователей младше 18 лет по умолчанию являются приватными, а незнакомцы не могут отправлять им личные сообщения. Кроме того, для таких профилей действуют ограничения на показ определённого контента.

Теперь же Meta✴ начнёт активнее выявлять случаи, когда несовершеннолетние указывают в профиле не настоящий возраст. Если ИИ определит, что аккаунт принадлежит ребёнку, Instagram✴ автоматически переведёт его в режим с ограничениями. Однако компания признаёт, что система может ошибаться, поэтому оставила возможность вручную вернуть прежние настройки.

Отмечается, что эти меры являются частью постепенного ужесточения политики Meta✴ в отношении защиты детей, тем более, что ранее Евросоюз начал проверку того, достаточно ли компания делает для безопасности молодых пользователей. Поводом стали сообщения о преследовании несовершеннолетних в соцсети, что привело даже к судебным искам в США.

Между тем, среди крупных технологических компаний нет единства в вопросе ответственности за безопасность детей в интернете. Так, в марте Google обвинила Meta✴ в попытке переложить свои обязательства на магазины приложений после принятия закона в американском штате Юта, запрещающим лицам в возрасте до 18 лет использовать соцсети в вечернее (с 22:30) и ночное время без разрешения родителей. Компании Snap и X также оказались втянуты в этот спор.

В целом, эксперты отмечают, что ужесточение контроля за возрастом пользователей — это вынужденная мера на фоне растущего давления со стороны регуляторов и общественности. Одновременно неясно, насколько точно ИИ сможет определять реальный возраст, и не приведёт ли это к неудобствам для обычных пользователей. Тестирование новой функции стартует в США.