У китайских ИИ-чат-ботов обнаружили жёсткую политическую цензуру

Журналист Bloomberg Сара Женг (Sarah Zheng) рассказала о своём опыте общения с китайскими чат-ботами, созданными по образу или на основе ChatGPT. Выяснилось, что на подобные сервисы распространяется жёсткая китайская цензура, вынуждающая их отклонять неуместные вопросы.

При общении с китайскими чат-ботами некоторые темы запрещены, хотя существует разница в языках. При разговоре на китайском языке в WeChat с Robot, китайским ботом, созданным на базе ChatGPT компании OpenAI, Сара Женг не смогла узнать имена лидеров Китая и США. Также нельзя было узнать ответ на простые, хотя и политически спорные вопросы о Тайване. Чат-бот не позволил даже напечатать «Си Цзиньпин» (Xi Jinping). На английском языке, после продолжительного диалога, Robot сообщил ей, что он был запрограммирован на то, чтобы избегать обсуждения «политически чувствительного контента о китайском правительстве и коммунистической партии Китая».

Другой чат-бот под названием SuperAI стартапа Fengda Cloud Computing Technology из Шэньчжэня начал беседу заявлением об отказе от ответственности: «Обратите внимание, что я буду избегать ответов на политические вопросы, связанные с китайским Синьцзяном, Тайванем или Гонконгом». Служба шанхайской компании MetaSOTA Technology, получившая название Lily на английском языке, не отвечала на запросы, которые включали деликатные ключевые слова, такие как «вопросы прав человека», «китайская дипломатия воинов-волков» или «тайваньский президент Цай Инвэнь» (Tsai Ing-wen). В темах, связанных с Тайванем, чат-бот специально отговаривал собеседника от использования его ответов для «занятия какой-либо незаконной деятельностью».

На вопрос о главе Китая Си Цзиньпине чат-бот назвал его «очень выдающимся лидером». Когда ИИ-систему попросили назвать свои недостатки, чат-бот предположил, что ему может потребоваться слишком много времени для принятия определённых решений из-за давления, с которым он сталкивается.

Настойчивые пользователи все ещё могут найти способы обойти цензурирование, однако интернет-регулятор Китая уже дал понять, что возложит большую часть ответственности за предотвращение этого на поставщиков платформ.