Поиск Google начал подменять заголовки новостей сгенерированными ИИ — и не гнушается искажением смысла

Поисковая система Google начала заменять оригинальные заголовки новостных статей на варианты сгенерированные искусственным интеллектом. Ранее подобная практика была внедрена в ленту Google Discover, теперь изменения коснулись и традиционной выдачи. Издание The Verge обнаружило несколько случаев, когда Google заменял их авторские заголовки на собственные, при этом иногда искажая их смысл.

В качестве примера приводится ситуация, когда заголовок статьи о тестировании «ИИ-инструмента для обмана во всём, который не оправдал ожиданий студента», был сокращён алгоритмом до фразы, звучащей как название продукта: «Инструмент ИИ для обмана во всём». Из-за этого у читателя могло сложиться ложное впечатление, что издание рекомендует этот инструмент, хотя в оригинальном заголовке речь шла не об этом.

Представители Google Дженнифер Кутц (Jennifer Kutz), Мэллори Де Леон (Mallory De Leon) и Нед Адрианс (Ned Adriance) сообщили, что наблюдаемое явление представляет собой «небольшой» эксперимент, который пока не одобрен для полноценного запуска. Они отказались уточнить масштаб тестирования, но отметили, что изменения касаются не только новостных ресурсов, но и других веб-сайтов. Кутц пояснила, что цель состоит в определении контента, который мог бы стать полезным заголовком, соответствующим запросу пользователя.

Несмотря на заверения, существует опасение, что эксперимент перерастёт в постоянную функцию, пишет The Verge. Например, ранее Googleуже заявляла, что сгенерированные ИИ-заголовки в Discover являются тестом, но позже утвердила их как функцию, «повышающую отклик пользователей». При этом компания не объяснила, почему перестаёт учитывать правила для заголовков, которые сама же рекомендовала использовать изданиям.

Традиционно поисковик Google вносил лишь незначительные правки в названия, например, обрезал их длину. Ситуация сегодня отличается тем, что алгоритм создаёт текст с нуля, несмотря на то, что издания тратят много времени и сил на создание честных и интересных заголовков без кликбейта. Журналисты сравнили это с книжным магазином, который срывает обложки с книг и меняет названия.

Отмечается, что пока изменённые заголовки встречаются редко и не содержат столь грубых ошибок, как в ленте Google Discover, где ранее сообщалось о неверных характеристиках консоли PlayStation Portal или отмене запрета на дроны в США. Однако издания опасаются, что текущий тест является предвестником более серьёзных изменений.