«Грокипедия» стала редактируемой — и начался хаос

Проект Grokipedia от компании xAI Илона Маска (Elon Musk) перешёл в стадию открытого редактирования, однако текущая реализация механизма вызывает серьёзные вопросы с точки зрения надёжности, прозрачности и устойчивости к манипуляциям. Изначально запущенная в октябре с 800 000 статей, написанных чат-ботом Grok, платформа была закрыта для внешних правок и критиковалась за пристрастность, включая расистские формулировки, лесть в адрес Маска и дословное копирование материалов из Wikipedia.

С обновлением до версии Grokipedia 0.2 любой пользователь теперь может вносить изменения в информацию. Для этого достаточно выделить фрагмент текста, нажать кнопку Suggest Edit и ввести предложенную правку с источниками. Однако окончательное решение о внесении изменений принимает сам ИИ-ассистент, известный своей предвзятостью и неточностями, отмечает The Verge.

В отличие от Wikipedia, где редактирование сопровождается детальными логами, системой уведомлений, правилами оформления и сообществом модераторов, Grokipedia не предоставляет ни руководств для редакторов, ни понятного интерфейса для отслеживания изменений. Система отображает лишь общее число одобренных правок (на момент публикации — 22 319), при этом скрывая, какие именно правки были внесены, на каких страницах и кем предложены.

Лог одобрений доступен только через неудобное всплывающее окно без функций сортировки или поиска. При этом ИИ демонстрирует противоречивость, например, в статье, касающейся семьи Маска редакторы предлагали корректно отразить гендерную идентичность его дочери, но Grok вносил изменения фрагментарно, оставляя в тексте смесь старых и новых формулировок.

Чат-бот также по-разному реагирует на похожие по смыслу запросы и, в зависимости от формулировки, может как отклонить, так и принять одну и ту же правку. Особенно тревожной выглядит в Grokipedia уязвимость статей на чувствительные темы. В частности, в логах обнаружены отклонённые, но настойчиво повторяющиеся предложения исказить данные о Холокосте или представить Гитлера исключительно как художника.