Substack начал помечать публикации, написанные ИИ — чтобы защититься от «гонки на выживание»

Платформа Substack представила инструмент на базе технологи Pangram, позволяющий оценить вероятность использования искусственного интеллекта при создании публикаций. Новая функция помогает читателям оценить, какой объём статьи был сгенерирован нейросетью и имеет ли смысл тратить время на её чтение.

Предлагаемая функция, активируемая через пункт Scan for AI text, анализирует материалы длиннее 100 слов, охватывая не только основные публикации, но и заметки, ответы и комментарии. Разработчики Pangram позиционируют свой детектор как вспомогательный инструмент для читателей, стремящихся оценить природу происхождения прочитанного. При этом система выдаёт лишь вероятностную оценку, не разделяя тексты на категории «качественный» или «некачественный».

Одновременно платформа представила инструмент How I make this, с помощью которого авторы смогут рассказать читателям о процессе подготовки своих материалов. Также авторы получат возможность самостоятельно проверять черновики и сообщать о случаях некорректной работы детектора.

По словам сооснователя и генерального директора Substack Криса Беста (Chris Best), Pangram определяет лишь вероятность использования ИИ при создании текста, однако не способен оценить объём человеческого участия или установить, применялся ли искусственный интеллект только в качестве вспомогательного инструмента.

В Substack считают, что подобные проверки должны укрепить доверие между авторами и читателями, тогда как распространение недостоверного или полностью сгенерированного контента может негативно сказаться на репутации авторов. «Платформы, поощряющие фальшь, приведут к гонке на выживание», — пишет Бест. Инструмент уже доступен в веб-версии Substack и приложении для iOS, тогда как поддержка Android появится позднее.