Китай тоже боится неконтролируемого ИИ — Пекин назвал дипфейки и «умных троллей» угрозой безопасности страны

Развитие отрасли искусственного интеллекта, как можно понять из новой публикации Financial Times, вызывает беспокойство не только у властей США и американских стартапов, но и с китайской стороны. Власти КНР считают, что ИИ способен представлять риск для политической и социальной безопасности страны.

Издание приводит слова министра безопасности КНР Чень Исиня (Chen Yixin): «Враждебные силы и люди со скрытыми мотивами злоупотребляют технологиями генеративного ИИ, создавая дипфейки в аудио- и видеоформе, текстовые сообщения и изображения, и используют армии умных троллей, чтобы дёшево и в массовых объёмах фабриковать политические слухи, сеять вредоносную информацию и разжигать вражду». По его словам, подобная активность может справедливо считаться атакой на общественное мнение с применением «интеллектуального оружия» против Китая, напрямую угрожая политической, институциональной и идеологической безопасности страны. Кроме того, чиновник относит к факторам риска использование китайскими компаниями ИИ-моделей западной разработки, поскольку это может привести к утечке чувствительной информации за пределы КНР.

В отличие от проявлений сознательности со стороны некоторых западных разработчиков ИИ, слова китайского министра не соседствуют с предупреждениями о возможности истребления человечества и призывами к осознанному замедлению развития соответствующих технологий. Напомним, если с апокалиптическими предупреждениями на прошлой неделе выступили некоторые покинувшие OpenAI и Anthropic разработчики, то с призывами замедлить развитие ИИ ради всеобщей безопасности в той или иной мере согласились руководители обеих компаний и Илон Маск (Elon Musk). Единственной серьёзной проблемой, которая не позволит США добровольно замедлить прогресс в сфере ИИ, американские политики и представители отрасли считают позицию Китая, который может не согласиться на реализацию аналогичных мер со своей стороны. Печатные органы Коммунистической партии Китая выступили с критикой заявления главы Anthropic Дарио Амодеи (Dario Amodei) о том, что «лидерство страны в сфере ИИ может представлять смертельную опасность не только для США, но и мира в целом». По мнению китайской стороны, высказывания Амодеи объясняются коммерческими интересами Anthropic.

По данным нескольких источников, в Пекине растёт беспокойство по поводу способности западных ИИ-моделей и связанных с ними агентов взламывать средства защиты информации и причинять вред инфраструктуре. Китайские чиновники уже затрагивали тему безопасности ИИ в переговорах со своими американскими коллегами и представителями бизнеса в США. В частности, китайская сторона призывает американцев не запрещать использование китайских ИИ-моделей с открытым исходным кодом. При этом китайским компаниям с государственным участием из сферы финансов и здравоохранения уже запрещается использовать зарубежные технологии и программные средства, поэтому говорить о полной открытости китайской системы к западным решениям тоже не приходится.