Сегодня стало невозможно определить, действительно ли публикации в соцсетях пишут люди, или это делают чат-боты с искусственным интеллектом, пожаловался в соцсети X глава компании OpenAI Сэм Альтман (Sam Altman).
Источник изображения: Mariia Shalabaieva / unsplash.com
Альтман обратил на это внимание, когда изучал на платформе Reddit сообщения, посвящённые сервисам написания программного кода при помощи ИИ — Anthropic Claude Code и OpenAI Codex. Пользователи сетевого сообщества создали в нём столько тем о своём переходе с Claude Code на Codex, что Альтман задумался, сколько из этих публикаций создали реальные люди. Он отметил несколько тенденций, из-за которых написанные человеком и ИИ посты становится отличать друг от друга всё труднее.
Люди и сами всё чаще начинают копировать языковой стиль ИИ, в результате чего граница между ними размывается в обе стороны. Блогеры и энтузиасты, которые проводят в сети чрезвычайно много времени (Extremely Online), стали действовать сообща, одновременно публикуя схожие материалы, потому что к этому их подталкивают алгоритмы соцсетей. Это проявляется, например, в стандартных циклах трендов: сначала новые продукты встречаются с воодушевлением, которое в одночасье сменяется столь же единодушной критикой; а также в том, что большинство авторов в соцсетях в погоне за монетизацией публикуют эксцентрические посты, за которыми всё меньше просматривается искренность.
Источник изображения: ilgmyzin / unsplash.com
В умелых руках все эти механизмы обращаются в «астротурфинг» — имитацию общественной поддержки того или иного мнения, — и этот эффект со стороны конкурентов OpenAI, отметил господин Альтман, довелось испытать на себе. Одним из его проявлений глава компании назвал шумиху вокруг не самого удачного запуска флагманской большой языковой модели GPT-5. Вскоре после её выхода Альтман провёл на Reddit серию вопросов и ответов, в которой признал наличие некоторых проблем, но не смог восстановить прежний уровень доверия. «В итоге возникает ощущение, что ИИ-Twitter и ИИ-Reddit стали какими-то неестественными, чего год или два назад не было», — пожаловался глава OpenAI.
Установить долю написанных ИИ публикаций на Reddit действительно непросто, но она может оказаться значительной: если верить материалам исследования, проведённого специализирующейся на вопросах кибербезопасности компанией Imperva, в 2024 году более половины всего интернет-трафика создал не человек, и дело здесь преимущественно в ИИ-моделях. По одной из версий, Альтман обратился к этому вопросу потому, что OpenAI готовит собственную соцсеть, но едва ли и она сможет гарантировать, что на этой платформе тоже массово не заведутся боты с ИИ.
