Глава Anthropic назвал Китай главным препятствием для замедления развития передового ИИ

Глава Anthropic Дарио Амодеи (Dario Amodei) признал, что его инициатива по сдерживанию прогресса в сфере искусственного интеллекта сталкивается с серьёзным геополитическим барьером. По его словам, самая сложная дилемма заключается в том, что конкурирующие державы, в первую очередь Китай, могут отказаться соблюдать подобные ограничения ради получения военного преимущества.

Амодеи озвучил свою позицию в эфире программы Sunday Morning на канале CBS News. Он отметил, что долгосрочной целью должно стать совместное установление «ограничения скорости» для развития ИИ-технологий. Однако руководитель Anthropic выразил скептицизм относительно реализуемости этой идеи, поскольку стимулы к опережению соперников и получению стратегического превосходства слишком велики. Несмотря на сомнения в успехе, он подчеркнул, что попытки договориться необходимо предпринимать.

Публичное заявление последовало за публикациями, в которых Амодеи призывал компании замедлить темпы улучшения наиболее продвинутых моделей. Этот шаг стал реакцией на растущую обеспокоенность внутри отрасли: ранее исследователи предупредили о потенциале технологии причинить катастрофический вред. Ситуацию также усугубил уход из Anthropic сотрудника Джейкоба Коксона (Jacob Coxon), который объяснил своё решение страхом перед тем, что компания и её главный конкурент OpenAI «играют в рулетку с нашими жизнями».

На фоне внутренних дискуссий в США китайские стартапы активно наращивают возможности своих нейросетей, составляя конкуренцию таким лидерам рынка, как OpenAI и Anthropic. В то же время китайский лидер Си Цзиньпин (Xi Jinping) на саммите БРИКС в Индии призвал создать основанную на консенсусе глобальную систему управления ИИ. Власти Китая также объявили о планах помочь в формировании открытого сообщества разработчиков искусственного интеллекта в рамках блока, который сейчас объединяет 11 стран, включая Россию.

Anthropic и OpenAI одновременно готовятся к возможным первичным публичным размещениям акций, хотя ни одна из компаний пока не назвала официальную дату IPO. Глава OpenAI Сэм Альтман (Sam Altman) заявил, что компания, вероятно, не выйдет на биржу в этом году, в том числе из-за вопросов безопасности. При этом, несмотря на напряжённые отношения с Амодеи, который в конце 2020 года покинул OpenAI и основал Anthropic, Альтман поддержал его предложение, заявив о необходимости «сдерживать темп развития передовых систем».

Инициативу главы Anthropic также поддержали другие известные представители отрасли. Председатель совета директоров Google DeepMind Демис Хассабис (Demis Hassabis) заявил, что эссе Амодеи указывает на правильное направление, хотя конкретные детали ещё предстоит проработать. Илон Маск (Elon Musk), возглавляющий Tesla и SpaceX, также положительно отнёсся к предложению замедлить развитие передовых ИИ-систем.