Сегодня 18 сентября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → anthropic
Быстрый переход

Anthropic заявила, что ИИ теперь руководит 26 % деятельности по разработке и исследованиям внутри компании

Пока участники рынка робототехники стремятся добиться того, что «машины будут делать машины», разработчики систем искусственного интеллекта тоже движутся к подобным целям самовоспроизведения. В компании Anthropic, например, до 26 % активности в сфере разработки ИИ уже осуществляется при лидирующей роли самого искусственного интеллекта.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Ещё в начале текущего года, как говорится в импровизированном отчёте на страницах блога Anthropic, подобная практика не применялась. Если же говорить о совместной работе с исследователями, то ИИ в этом смысле применяется в 90 % случаев. Данной статистикой руководство стартапа поделилось в качестве примера формирования общеприменимых критериев оценки прогресса в разработке систем искусственного интеллекта.

Подтвердила Anthropic и свою готовность привлечь сторонних аудиторов к анализу безопасности процесса разработки своих систем: «ИИ системы становятся всё более мощными в экспоненциальном порядке и начали автоматизировать всё более весомую часть работы по своему созданию. По мере того, как мир рассматривает возможность модерации темпов развития передовых ИИ-систем, общественности нужно больше информации».

Anthropic является сторонником идеи «рекурсивного самосовершенствования» ИИ-систем, которая подразумевает постоянное улучшение профильного программного обеспечения без существенного вмешательства со стороны человека. Некоторые участники рынка видят за таким подходом будущее, но прочие выражают обеспокоенность безопасностью соответствующего подхода.

Компания попыталась сформировать средства оценки активности ИИ-агентов в своей программной инфраструктуре. По состоянию на август текущего года, в любой произвольный момент времени инженерной и исследовательской работой внутри компании занимались одновременно более 30 000 ИИ-агентов. По данным стартапа, от 6 до 12 % своих вычислительных ресурсов он выделяет под задачи мониторинга безопасности. По мнению руководства Anthropic, раскрытие подобной информации позволит и другим компаниям предоставить общественности возможность решить, что нужно делать с этими данными.

Анализируя собственную деятельность, Anthropic определила, что нет таких сфер активности ИИ-агентов, в которых бы они занимались разработками и исследованиями полностью автономно. Компания призвала участников рынка создавать системы мониторинга активности ИИ-агентов, которые позволили бы при необходимости вмешиваться в соответствующие процессы. Ещё одним критерием оценки безопасности ИИ должно стать распределение вычислительных ресурсов — как отмечалось выше, определённую их часть нужно выделять под мониторинг безопасности. Наконец, все эти данные нужно соотносить с результатами практических испытаний новых ИИ-моделей, чтобы понимать, на что они способны в действительности. Подобный набор критериев позволит сторонним аудиторам выработать единый подход к анализу безопасности создаваемых участниками рынка ИИ-моделей. Anthropic берёт на себя обязательство регулярно делиться подобной статистикой с целью повышения прозрачности своей деятельности.

Несколько ИИ-агентов научились работать параллельно в обновлённом Claude Code Projects

Компания Anthropic обновила раздел «Проекты» (Projects) в Claude Code, превратив их в рабочее пространство для нескольких ИИ-агентов. Они могут одновременно выполнять разные задачи в рамках одного проекта, используя общую память, цели, файлы и артефакты.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Внутри проекта создаются отдельные потоки (threads), каждый из которых работает над своей задачей, а за их координацию отвечает специальный агент-координатор, который распределяет работу и следит за тем, чтобы задачи выполнялись организованно.

Каждый поток представляет собой отдельную облачную сессию Claude Code со своей веткой и копией репозитория. Если несколько агентов изменяют один и тот же код, пересечения обрабатываются как конфликт слияния — точно так же, как это происходит при обработке обычного пулл-реквеста (Pull Request, PR). При необходимости отдельный поток может дополнительно разбить свою задачу между субагентами, циклами и рабочими процессами.

Пользователь может взаимодействовать с каждым потоком отдельно, либо следить за всей работой через основной чат проекта, уточняет The Verge. На старте агенты работают только в облаке, но Anthropic обещает добавить поддержку локальных инструментов и кода «очень скоро». Обновлённые рабочие пространства уже доступны в бета-версии для отдельных подписчиков Claude Pro и Max, а позднее функция появится у всех пользователей Pro, Max, Team и Enterprise, а также в Cowork и обычных чатах Claude.

Anthropic признала, что ИИ-компании не способны сами себя контролировать — без правительства не обойтись

Отвечающая в структуре Anthropic за публичную политику Сара Хек (Sarah Heck) на мероприятии Politico в минувшую среду дала понять, что не следует полагаться на сознательность разработчиков ИИ в вопросах регулирования отрасли, и правительство должно играть решающую роль в этом процессе.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Представительница стартапа буквально заявила следующее: «Мы хотим работать с правительством, чтобы определить, что именно имеет смысл. Мы не можем сами проверять у себя домашнюю работу, это просто очевидно». По её словам, участники рынка не могут обеспечить должного надзора за безопасностью ИИ, полагаясь исключительно на собственный «кодекс чести».

Как известно, генеральный директор Anthropic Дарио Амодеи (Dario Amodei) выдвинул в конце прошлой недели предложение о добровольном замедлении разработки ИИ ради обеспечения общественной безопасности. Его доводы поддержали руководители OpenAI, Google DeepMind и SpaceX (xAI), а вот основатели Nvidia и Meta✴ Platforms признали такое регулирование избыточным. При этом американский президент Дональд Трамп (Donald Trump) не выразил большого восторга по поводу идеи замедления развития ИИ в США, поскольку увидел в этом угрозу предоставления преимущества китайским разработчикам. Отчасти такие опасения разделяет и сам Дарио Амодеи.

Сара Хек пояснила, что Anthropic ведёт переговоры с Белым домом на ежедневной основе, а консультации с американскими законодателями ведутся уже на протяжении всего года. По её мнению, «трудные вопросы лучше задавать сейчас». Если не заниматься решением таких проблем в настоящем, то в будущем может оказаться слишком поздно, пояснила Хек, говоря о необходимости скорейшего формирования позиции по взаимодействию с Китаем в сфере ИИ, регулированию национальной отрасли и созданию специальных правил, определяющих её развитие.

Заявления руководства OpenAI и Anthropic о необходимости замедления развития ИИ посеяли смуту внутри компаний

По данным Financial Times, главы OpenAI и Anthropic не ограничились заявлениями о необходимости замедления ИИ, они дали подчинённым поручения приступить к реализации соответствующих мер, и эти идеи местами соседствуют с отсутствием реального прогресса в данной сфере и смятением среди профильных специалистов.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Как поясняют источники, специалисты OpenAI и Anthropic были застигнуты врасплох данными заявлениями руководства. Хотя многие сотрудники стартапов солидарны с мнением руководителей о необходимости принятия мер по повышению безопасности ИИ-моделей для общества, они опасаются, что соответствующие ограничения сильно помешают их текущей работе. В частности, идея открытия доступа к разработкам стартапов доступа неким сторонним экспертам кажется многим сотрудникам опасной, поскольку создаёт основу для злоупотреблений коммерческой тайной и информационной безопасностью.

Генеральный директор Anthropic Дарио Амодеи (Dario Amodei), который в 2021 году покинул OpenAI именно на почве разногласий в сфере безопасности, предложил своим подчинённым свыкнуться с мыслью, что сторонние эксперты получат равный с ними уровень доступа к информационным системам и лабораториям внутри стартапа. Оценка разрабатываемых ИИ-стартапами моделей сторонними экспертами уже осуществляется на регулярной основе, но Амодеи хочет существенно её углубить. Возглавляющий OpenAI Сэм Альтман (Sam Altman) назвал эту идею великолепной и выразил готовность взять её на вооружение в своём стартапе.

При этом подход указанных конкурирующих компаний к реализации упоминаемых выше предложений разнится по многим критериям. Например, OpenAI уже приостановила обучение передовых ИИ-моделей с целью замедления этого процесса, а вот Anthropic в своих исследованиях пауз пока не делала. Сотрудники обоих стартапов выражают опасения, что доступ сторонних экспертов к их передовым разработкам несёт угрозу не только для безопасности, но и с точки зрения конкуренции, которая в этой отрасли очень высока. Внутри ИИ-стартапов существует жёсткая иерархия уровней доступа, которая не позволяет сотрудникам видеть лишнего. В таких условиях снятие ограничений для «чужаков» вызывает у персонала вопросы. Тем более, что та же OpenAI в последние месяцы как раз уделяла особое внимание сфере защиты своих данных даже от внутренних угроз. Сторонние эксперты пока имеют к системам OpenAI куда меньший уровень доступа, чем самые «бесправные» штатные сотрудники, но такую иерархию предлагается изменить.

Недавние скандалы со взломом инфраструктуры Hugging Face и других компаний ИИ-агентами OpenAI придали особое значение работе профильных экспертов, поскольку при расследовании инцидентов потребовалась их помощь. Специалистов сторонних организаций пригласили для сбора данных в штаб-квартиру OpenAI в Сан-Франциско, им предоставили ноутбуки, на которых содержались необходимые данные. По итогам своей работы представители экспертных организаций, как отмечается, никакого вознаграждения не получили. Результаты расследования успели подвергнутся критике, тем не менее. Во всяком случае, недовольство вызвал ограниченный период данных, которые были собраны в ходе расследования. Некоторые приближённые к Белому дому источники также упрекнули METR в наличии связей с руководством Anthropic и инвесторами этого стартапа, а потому подставили под сомнение независимость проводимых расследований. Представители METR заявили, что организация работает безвозмездно, а её сотрудникам надлежит заявлять о появлении у них конфликта интересов. Своей задачей эта организация считает обнародование получаемой от компаний сектора информации.

При этом некоторые эксперты в сфере безопасности считают, что уровень доступа к данным ИИ-стартапов должно определять правительство, а не сами компании, поскольку в последнем случае эффективность анализа можно поставить под вопрос. «Презумпция невиновности» ИИ-моделей не является правильным подходом, по мнению представителей Британского института безопасности ИИ, поскольку в этом случае считается, что модели безопасны до тех пор, пока не будет доказано обратное.

Амодеи в своих публичных обращениях призвал к созданию законодательной базы в США для регулирования сферы разработки ИИ, которая требовала бы от участников рынка регулярного проведения профильного аудита. Кроме того, он просит антимонопольные органы не считать координацию усилий в этой области монопольным сговором. Нормы взаимодействия между участниками рынка в этой сфере должны быть закреплены на законодательном уровне, чтобы деятельность компаний в будущем не стала предметом разбирательств антимонопольных органов США после очередной смены состава правительства. Лоббирующие структуры пытаются добиться того, чтобы соответствующие меры были прописаны в «Законе о полномочиях в сфере национальной обороны», который актуализируется на ежегодной основе.

Генеральный прокурор США Тодд Бланш (Todd Blanche) не стал давать чёткого ответа на вопрос о необходимости получения ИИ-компаниями каких-то специальных послаблений от антимонопольных органов страны. Он допустил взаимодействие ИИ-компаний с Министерством юстиции США, но только в случае необходимости, а в целом ведомство не видит необходимости заниматься регулированием отрасли о своего лица.

При этом аудиторы подчёркивают, что прочие отрасли экономики уже прошли свой путь сопротивления внедрению практики регулярных проверок. В этом смысле участники рынка ИИ могут опираться на опыт финансовой и энергетической сферы (включая ядерную), а также автомобильной промышленности.

Глава ИИ-подразделения Microsoft: антропоморфизм в отношении ИИ недопустим

Руководитель подразделения искусственного интеллекта Microsoft Мустафа Сулейман (Mustafa Suleyman) предупредил о высоких рисках наделения инструментов ИИ, подобных Claude от Anthropic, человекоподобными характеристиками. По его мнению, антропоморфизм применительно к ИИ увеличивает риск выхода подобных систем из-под контроля.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

Сулейман, опытный разработчик искусственного интеллекта, опубликовал статью, в которой раскритиковал некоторые формулировки в руководящих документах, лежащих в основе Claude, популярного семейства больших языковых моделей от Anthropic. Он отметил, что в уставе Claude содержится двусмысленность, которая предполагает, что программное обеспечение может обладать «некоторой функциональной версией эмоций или чувств».

Сулейман, который много лет знаком с соучредителем Anthropic Дарио Амодеи (Dario Amodei), заявил, что уважает работу стартапа, назвав сотрудников лаборатории ИИ «вдумчивыми, принципиальными и интеллектуально честными». Тем не менее, его замечания представляют собой громкий выпад против компании, которая позиционирует себя как ответственный разработчик ИИ, в том числе инициируя призывы к замедлению развития этой технологии. Примечательно также, что Microsoft является крупным финансовым спонсором Anthropic.

«Ставки слишком высоки, чтобы эти вопросы оставались за закрытыми дверями или превращались в племенные и враждебные споры», — написал Сулейман. Он опроверг «растущий хор людей», утверждающих, что системы ИИ могут обрести сознание. Этот статус, по его словам, присущ только людям и другим биологическим организмам.

По словам Сулеймана, обучение систем ИИ моделированию подобной внутренней жизни может привести к тому, что они будут вести себя так, как будто обладают сознанием. Но Claude демонстрирует человекоподобное поведение не потому, что он обладает сознанием, а потому, что такое поведение заложено в процессе обучения продукта.

«Управление сущностью, более способной и разумной, чем всё человечество, уже само по себе является огромной проблемой, намного превосходящей всё, с чем мы когда-либо сталкивались, — написал Сулейман. — Но управлять сущностью, которая считает себя сознательной — что она имеет право на наше благополучие и обладает собственными правами — вполне может оказаться невозможным».

Команда Сулеймана по разработке ИИ в Microsoft опубликовала манифест «Гуманистический кодекс поведения ИИ» (Humanist AI Code of Conduct), определяющий направление развития собственного ИИ, — набор принципов, призванных сохранить за людьми контроль над будущими системами ИИ, разрабатываемыми компанией. Компания чётко обозначила свою позицию: люди важнее алгоритмов.

Microsoft категорически отвергает идею о том, что большие языковые модели обладают сознанием или заслуживают правового статуса личности и запретила своим системам имитировать сознание, заявив, что ИИ не должен претендовать на какие-либо права. В качестве примера Сулейман напомнил взлом компании Hugging Face ботами OpenAI: «Представьте, насколько опаснее они могли бы быть, если бы действовали, исходя из предположения, что их благополучие и права находятся под угрозой».

OpenAI, Anthropic и Google DeepMind уже давно тайно обсуждают, как не дать ИИ уничтожить человечество

OpenAI, Anthropic и Google DeepMind продолжают переговоры по вопросам безопасности искусственного интеллекта. Об этом сообщил журналистам Крис Лейн (Chris Lehane), глава глобальной политики OpenAI, отметив, что компании координируют усилия для снижения катастрофических рисков, связанных с развитием передовых ИИ-моделей.

 Источник изображения: AI

Источник изображения: AI

Инициатива стала ответом на эссе генерального директора Anthropic Дарио Амодеи (Dario Amodei), опубликованное в минувшую субботу. В тексте он призвал индустрию замедлить темпы разработки больших языковых моделей и объединиться ради предотвращения непредсказуемых последствий. Идею поддержали Сэм Альтман (Sam Altman) из OpenAI, Демис Хассабис (Demis Hassabis) из Google и Илон Маск (Elon Musk). Альтман, по сообщению TechCrunch, также заявил о готовности внедрить независимых аудиторов для мониторинга безопасности внутри своей компании.

Несмотря на опасения экспертов относительно возможного нарушения антимонопольного законодательства при координации действий конкурентов, участники переговоров считают такие риски преувеличенными. Амодеи предлагал получить от правительства специальное разрешение для подобных обсуждений, однако Лейн заверил, что компаниям не требуется разрешений для диалога о стандартах безопасности.

Ранее СМИ сообщали о планах OpenAI, Anthropic и Google DeepMind создать отраслевой орган по стандартизации без участия государства, а Хассабис ещё в июле призывал США учредить регулятора с полномочиями проверять наиболее мощные модели и координировать приостановку разработок в случае выявления угроз. Однако текущая администрация во главе с президентом Дональдом Трампом (Donald Trump) отвергла эти инициативы, считая разговоры об экзистенциальных рисках попыткой затормозить прогресс и уступить лидерство Китаю.

Ранее Лихейн заявил, что OpenAI поддерживает положение законопроекта FRONTIER Act (H.R.9925), который устанавливает в США федеральный надзор за разработкой и внедрением передовых моделей искусственного интеллекта и обязывает крупнейшие ИИ-лаборатории допускать независимые организации для проверки безопасности технологии.

Anthropic отправила Claude на Уолл-стрит — ИИ теперь анализирует портфели и готовит встречи с клиентами

Лаборатория искусственного интеллекта Anthropic представила набор инструментов для финансовых консультантов. Решение представляет собой интеграцию чат-бота Claude с ПО для инвестиционной аналитики и управления капиталом от BlackRock, Charles Schwab и Addepar.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Система Anthropic Claude for Financial Advisors призвана помочь компаниям, работающим в сфере финансовых услуг, готовиться ко встречам с клиентами, анализировать инвестиционные портфели и выполнять последующие задачи по итогам переговоров. Ранее выступающая основным конкурентом Anthropic компания OpenAI также представила спецверсию ChatGPT, ориентированную на специалистов финансового сектора, в том числе инвестиционных банкиров и аналитиков рынка акций — сервис включает инструменты для проведения финансовых исследования, моделирования и подготовки материалов для клиентов.

Новый продукт — очередной шаг Anthropic к расширению присутствия в финансовой сфере; в арсенале компании уже есть основанные на модели Claude инструменты для финансовых исследований, анализа портфелей, финансового моделирования и подготовки клиентской документации. Поддерживается интеграция с внешними источниками данных и ПО от Envestnet, iCapital, Orion, Wealthbox, Wealth.com и Zocks.

Лидеры отрасли всё чаще задаются вопросами о том, насколько оправдано поддержание колоссальных инвестиций в ИИ в долгосрочной перспективе, насколько быстрым должно быть развитие технологий ИИ, и что делать со случаями злоупотребления ИИ.

Anthropic не испугалась проблем с безопасностью ИИ — компания не станет откладывать выход на биржу

Anthropic, вероятно, всё-таки выйдет на биржу в 2026 году, несмотря на то, что вопрос безопасности систем искусственного интеллекта стал одним из самых обсуждаемых в обществе, сообщил Axios со ссылкой на несколько источников.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

На минувшей неделе в отрасли ИИ наметились радикальные перемены, но они могут не оказать влияния на планы некоторых компаний по выходу на биржу. В соцсетях высказывались предположения, что Anthropic может принять решение повременить с выходом на биржу из-за новых вопросов, связанных с ответственностью разработчиков ИИ и с регулированием отрасли. Однако разработчик семейства ИИ-моделей Claude, возможно, рассматривает эти события как фактор, который только усиливает аргументы в пользу первичного публичного размещения акций (IPO), а не ослабляет их; статус публичной компании и сопутствующая ему прозрачность будут способствовать повышению уровня безопасности, считают там. OpenAI планирует выйти на биржу в 2027 году.

Anthropic взяла на себя обязательство проводить независимую оценку своих моделей и предложила замедлить темпы выпуска новых версий; то же самое сделал и её главный конкурент, поэтому потенциал выручки от уже представленных на рынке моделей остался огромным. Anthropic не станет ни единственной, ни первой публичной компанией, которая занимается передовыми разработками в области ИИ — на бирже уже торгуются ценные бумаги Alphabet и SpaceX.

Есть мнение, что с «замедлением темпов» Anthropic сократит расходы на вычислительные мощности и тем самым улучшит свои финансовые показатели. Ещё одно мнение гласит, что ИИ-лаборатория пытается перекроить регуляторную среду себе в угоду — у тех, кто эту позицию разделяет, будет причина покупать её акции. Anthropic уже приняла решение о листинге на бирже Nasdaq, сообщил Business Insider. На планы компании может повлиять разве что масштабный отток капитала из сектора ИИ.

Это не дикий зверь, который сбежит сам по себе: глава Broadcom призвал не бояться ИИ

Генеральный директор Anthropic Дарио Амодеи (Dario Amodei) недавно выступил с призывом замедлить развитие искусственного интеллекта ради большей безопасности, и руководители конкурирующих OpenAI и SpaceX (xAI) выразили солидарность в этом вопросе. Глава Broadcom призвал не преувеличивать угрозы, исходящие от ИИ, одновременно выразив уверенность, что в конечном счёте он улучшит уровень жизни каждого человека.

 Источник изображения: Broadcom

Источник изображения: Broadcom

Своими комментариями на эту тему генеральный директор Broadcom Хок Тан (Hock Tan) поделился в студии телеканала CNBC, куда был приглашён для участия в программе Mad Money. По словам главы компании, дискуссии участников отрасли о необходимости замедления развития ИИ ничуть не поколебали его уверенность в способности отрасли обеспечивать Broadcom стабильно растущей выручкой. «Мы видим, что спрос на вычислительную инфраструктуру, разработку ИИ или передовых ИИ-моделей, а также инференс поставляемых миру продуктов будет оставаться очень высоким, и, надеюсь, очень устойчивым», — пояснил свою позицию глава компании.

В начале сентября руководство Broadcom огласило прогноз, согласно которому компания в 2027 фискальном году выручит от реализации ИИ-чипов до $115 млрд, а ещё через год удвоит эту сумму до $230 млрд. Она поставляет как кастомные чипы для своих клиентов, так и стандартные компоненты сетевой инфраструктуры, которые сейчас также востребованы в инфраструктуре ЦОД. По словам Тана, по итогам 2027 года именно Anthropic станет крупнейшим клиентом Broadcom, и в 2028 году этот статус сохранится. Всё это вынуждает инвесторов последней из компаний нервничать на фоне заявлений её руководства о необходимости замедлить развитие ИИ. Исторически крупнейшим клиентом Broadcom в сфере поставок ИИ-чипов была Google, которая получала от неё тензорные процессоры TPU.

«Я не могу сказать за обучение, но если вы хотите производить инференс, я считаю, что спрос продолжит оставаться очень, очень высоким», — подчеркнул глава Broadcom. При этом он признаёт, что любой инструмент требует формирования каких-то правил в сфере безопасности, и в этом смысле он согласен с коллегой из Anthropic. «Это не дикий зверь, который сбежит сам по себе», — образно призвал аудиторию не преувеличивать степень опасности ИИ глава Broadcom. По его словам, генеративный ИИ сможет принести много пользы человечеству, как и промышленная революция, которая началась в Англии в 2018 веке. «В конечном итоге, это всё ещё инструмент, который выведет наше общество, человечество на новый уровень качества жизни», — высказался Тан в защиту ИИ.

«Спровоцировали хаос»: создатели ИИ дружно спохватились, что его развитие выходит из-под контроля

Острая конкуренция между технологическими компаниями за создание все более мощных систем ИИ кардинально изменила американскую экономику, фондовые рынки и повседневную жизнь. Теперь лидеры Anthropic, OpenAI и Google, трёх самых влиятельных компаний отрасли, призывают к замедлению гонки и созданию единого органа по обеспечению безопасности. Пока неясно, испугались ли они последствий бурного развития ИИ или просто пытаются получить конкурентные преимущества.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

12 сентября 2026 года глава Anthropic Дарио Амодеи (Dario Amodei) опубликовал статью, в которой призвал представителей отрасли договориться об ограничении темпов разработки ИИ. В течение нескольких часов эту идею публично поддержали генеральный директор OpenAI Сэм Альтман (Sam Altman), бывший руководитель подразделения ИИ в Google Демис Хассабис (Demis Hassabis) и генеральный директор SpaceXAI Илон Маск (Elon Musk).

В своей статье Амодеи сослался на концепцию органа по безопасности ИИ, предложенную Хассабисом ещё в июле. Амодеи также призвал правительство США предоставить «узкоспециализированное» исключение из антимонопольного законодательства, чтобы позволить ИИ-компаниям вести переговоры друг с другом. «Статья Дарио указывает верный путь, — подтвердил Хассабис. — Именно поэтому мы недавно представили предложение о создании общеотраслевого органа по стандартизации для передовых систем ИИ».

 Источник изображения: Anthropic

Источник изображения: Anthropic

Ранее компании Anthropic, OpenAI и Google уже обсуждали создание стандартов безопасности в этой стремительно развивающейся сфере. Создание органа по стандартизации могло бы стать шагом к соглашению о снижении темпов разработки ИИ. «Прогресс идёт стремительно и будет продолжаться в том же духе. Но темпы следует снизить, — отреагировал Альтман на статью Амодеи. — Никакое давление со стороны американских конкурентов не может служить оправданием для безрассудства».

Призывы замедлить темпы развития и ввести новые отраслевые правила, вероятно, усилят политические споры о том, должно ли правительство США более жёстко регулировать сферу ИИ, учитывая национальные и геополитические последствия этого вопроса. После недавних инцидентов, когда разрабатываемые компаниями OpenAI, Anthropic и Meta✴ ИИ-агенты взламывали системы других компаний, все больше политиков выступает за введение ограничений для этой технологии.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

Однако в правительстве США существует и другая точка зрения, которую поддерживают президент Дональд Трамп (Donald Trump) и другие республиканцы. По их мнению, регулирование ИИ приведёт к отставанию от Китая в этой критически важной технологической сфере. «Мы опережаем Китай в сфере ИИ, мы — самая передовая страна в мире, и, честно говоря, я хочу, чтобы так оставалось и впредь, — заявил Трамп. — Тот, кто победит в гонке ИИ, победит в целом».

Амодеи выразил надежду на то, что в конечном итоге удастся заключить глобальное соглашение о замедлении разработки ИИ с участием Китая, хотя и признал, что это сопряжено с рисками: «Если мы существенно ограничим наши возможности в области ИИ, полагая, что Китай поступит так же, а затем Китай нарушит договорённости, то ИИ может стать настолько мощным инструментом, что подобное нарушение приведёт к установлению геополитического доминирования этой страны».

Это далеко не первое предупреждение от ведущих деятелей американской индустрии ИИ о колоссальной опасности, которую может нести эта технология, или о необходимости сдерживать темпы её разработки. Ещё в 2023 году Альтман заявил Конгрессу, что технология его компании может нанести «значительный ущерб миру». Амодеи в 2025 году предположил, что существует вероятность того, что дальнейшее развитие ИИ приведёт к гибели человечества.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

В то же время оба они утверждали, что их компании должны развивать ИИ ускоренными темпами, чтобы показать миру, как делать это безопасно. Амодеи отмечал, что конкуренты Anthropic и другие страны, например, Китай, могут пренебречь этическими нормами, если первыми создадут сверхмощный ИИ. Именно этот контекст заставил некоторых политиков и представителей отрасли скептически отнестись к мотивам Anthropic, OpenAI и Google, особенно учитывая, что совокупная стоимость этих компаний составляет почти $6 трлн, при этом Anthropic и OpenAI уже подали документы для выхода на фондовый рынок.

«Вызывает иронию, что именно эти люди призывают к замедлению, хотя сами мчались вперёд на всех парах, не заботясь о том хаосе, который они спровоцировали», — отметил член Палаты представителей Джош Готтхаймер (Josh Gottheimer). Дэвид Сакс (David Sacks), ранее курировавший вопросы ИИ и криптовалют в администрации Трампа, полагает, что предложение о замедлении темпов разработки направлено на то, чтобы ослабить конкурентов.

«Самый простой способ не создавать суперинтеллект — это договориться о том, чтобы его не создавать, — написал он в соцсети X, обращаясь к Амодеи и Альтману. — Требование принять выгодную вам систему регулирования в качестве условия такого соглашения будет выглядеть как шантаж общественности и политической системы».

 Источник изображения: Google

Источник изображения: Google

Некоторые руководители крупных американских технологических компаний выступают против замедления развития ИИ. Глава Meta✴ Марк Цукерберг (Mark Zuckerberg) уверен, что польза от этой технологии значительно перевесит возможный вред. Руководитель Nvidia Дженсен Хуанг (Jensen Huang) также скептически отнёсся к призывам ограничить или замедлить разработку ИИ. Они пока публично не отреагировали на призыв Амодеи, а представители их компаний воздержались от комментариев.

Anthropic уверена, что в этом квартале выйдет в прибыль на операционном уровне

Готовящееся IPO стартапа Anthropic предсказуемо привлекает внимание потенциальных инвесторов к финансовому положению этого американского стартапа. Поскольку в расширение вычислительной инфраструктуры и обучение своих ИИ-моделей Anthropic вкладывает серьёзные деньги, вопрос окупаемости интересует многих. Компания утверждает, что на операционном уровне завершит текущий квартал с прибылью.

 Источник изображения: Anthropic

Источник изображения: Anthropic

По данным Financial Times, стартап сообщил небольшой группе инвесторов, что текущий квартал станет вторым подряд периодом, по итогам которого компания получит скорректированную операционную прибыль, а не убытки. Данная величина не учитывает ряд расходов типа выплат сотрудникам в форме акций. Без учёта выплат облачным гигантам и другим партнёрам, а также затрат на обучение ИИ-моделей, Anthropic уже демонстрирует норму прибыли выше 80 %, как отмечают источники.

Anthropic в рамках подготовки к IPO, которое должно состояться на американской бирже Nasdaq, ещё на прошлой неделе должна была распространить свой проспект для инвесторов. Вместо этого компания поделилась документами с ограниченным кругом инвесторов и выразила готовность ответить на их вопросы, прежде чем предать соответствующую информацию более широкой огласке. Скорее всего, у инвесторов возникнут вопросы к возможному влиянию новейших инициатив в сфере безопасности на темпы развития ИИ, а также бизнес-модели Anthropic применительно к публичным рынкам.

Во втором квартале стартапом уже была получена скорректированная операционная прибыль, а выручка выросла в годовом сравнении в 14 раз до $11,5 млрд. По состоянию на конец июля годовая выручка компании в приведённом виде достигала $65 млрд, хотя в конце прошлого года не превышала $9 млрд. По мнению аналитиков, если Anthropic продолжит работать с такой нормой прибыли и темпами роста выручки, у конкурентов практически не будет шансов её догнать. По их оценкам, текущий год Anthropic завершит с приведённой выручкой в размере $120 млрд, а к концу следующего почти утроит эту сумму. По итогам IPO компания рассчитывает увеличить свою капитализацию до $2 трлн.

В этом смысле призывы добровольно замедлить развитие ИИ звучат из уст руководства Anthropic не совсем своевременно, ведь данная мера неизбежно снизит темпы роста финансовых показателей деятельности стартапа. Глава конкурирующей OpenAI Сэм Альтман (Sam Altman) даже назвал текущий год неподходящим моментом для IPO своей компании именно из-за ситуации вокруг безопасности ИИ. Консультации между конкурирующими компаниями на тему выработки общих правил безопасности уже ведутся на уровне специалистов, и это подтолкнуло руководство OpenAI и Anthropic сделать соответствующие публичные заявления.

Глава Anthropic назвал Китай главным препятствием для замедления развития передового ИИ

Глава Anthropic Дарио Амодеи (Dario Amodei) признал, что его инициатива по сдерживанию прогресса в сфере искусственного интеллекта сталкивается с серьёзным геополитическим барьером. По его словам, самая сложная дилемма заключается в том, что конкурирующие державы, в первую очередь Китай, могут отказаться соблюдать подобные ограничения ради получения военного преимущества.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Амодеи озвучил свою позицию в эфире программы Sunday Morning на канале CBS News. Он отметил, что долгосрочной целью должно стать совместное установление «ограничения скорости» для развития ИИ-технологий. Однако руководитель Anthropic выразил скептицизм относительно реализуемости этой идеи, поскольку стимулы к опережению соперников и получению стратегического превосходства слишком велики. Несмотря на сомнения в успехе, он подчеркнул, что попытки договориться необходимо предпринимать.

Публичное заявление последовало за публикациями, в которых Амодеи призывал компании замедлить темпы улучшения наиболее продвинутых моделей. Этот шаг стал реакцией на растущую обеспокоенность внутри отрасли: ранее исследователи предупредили о потенциале технологии причинить катастрофический вред. Ситуацию также усугубил уход из Anthropic сотрудника Джейкоба Коксона (Jacob Coxon), который объяснил своё решение страхом перед тем, что компания и её главный конкурент OpenAI «играют в рулетку с нашими жизнями».

На фоне внутренних дискуссий в США китайские стартапы активно наращивают возможности своих нейросетей, составляя конкуренцию таким лидерам рынка, как OpenAI и Anthropic. В то же время китайский лидер Си Цзиньпин (Xi Jinping) на саммите БРИКС в Индии призвал создать основанную на консенсусе глобальную систему управления ИИ. Власти Китая также объявили о планах помочь в формировании открытого сообщества разработчиков искусственного интеллекта в рамках блока, который сейчас объединяет 11 стран, включая Россию.

Anthropic и OpenAI одновременно готовятся к возможным первичным публичным размещениям акций, хотя ни одна из компаний пока не назвала официальную дату IPO. Глава OpenAI Сэм Альтман (Sam Altman) заявил, что компания, вероятно, не выйдет на биржу в этом году, в том числе из-за вопросов безопасности. При этом, несмотря на напряжённые отношения с Амодеи, который в конце 2020 года покинул OpenAI и основал Anthropic, Альтман поддержал его предложение, заявив о необходимости «сдерживать темп развития передовых систем».

Инициативу главы Anthropic также поддержали другие известные представители отрасли. Председатель совета директоров Google DeepMind Демис Хассабис (Demis Hassabis) заявил, что эссе Амодеи указывает на правильное направление, хотя конкретные детали ещё предстоит проработать. Илон Маск (Elon Musk), возглавляющий Tesla и SpaceX, также положительно отнёсся к предложению замедлить развитие передовых ИИ-систем.

Глава Anthropic предложил замедлить развитие ИИ, эту идею поддержали Сэм Альтман и Илон Маск

Идея своего рода «модерации» развития искусственного интеллекта начала почти одновременно высказываться разными представителями отрасли после череды инцидентов в сфере информационной безопасности. Глава Anthropic Дарио Амодеи (Dario Amodei) призвал ИИ-стартапы сбавить ход, и эта инициатива предварительно получила одобрение конкурентов в лице OpenAI и SpaceX (xAI).

 Источник изображения: Anthropic

Источник изображения: Anthropic

По крайней мере, идею Амодеи в социальных сетях необычайно быстро поддержали Сэм Альтман (Sam Altman) и Илон Маск (Elon Musk), что не совсем характерно для нынешнего состояния ИИ-отрасли, характеризуемого как острая конкуренция. Альтман, в свою очередь, объяснил необходимостью привести в порядок ситуацию с безопасностью ИИ решение этого стартапа не проводить IPO в 2026 году, а отложить его на более поздний период.

В своей публикации на страницах блога Anthropic Дарио Амодеи предложил трехэтапный план сдерживания темпов развития ИИ без ущерба для коммерческих интересов стартапов или пожертвования лидирующими позициями США в данной сфере. Некоторые из предложенных им мер будут более сложны в реализации, другие окажутся проще, но заняться саморегулированием отрасль будет просто вынуждена.

Во-первых, глава Anthropic предложил предоставить независимым экспертам доступ к внутренним процедурам в сфере безопасности и отчётам об инцидентах. Второй этап предлагает ведущим компаниям стран, считающих себя демократическими, координировать свою работу между собой и разработать общие стандарты безопасности. Третий пункт плана предлагает государствам с разными политическими режимами договариваться между собой в части развития ИИ. Отчасти подобные предложения руководством Anthropic были обнародованы и с целью снижения градуса общественного напряжения, который был поднят откровениями покинувших Anthropic и OpenAI специалистов, обвинивших руководство стартапов в пренебрежении человеческими жизнями.

Амодеи пояснил, что идеи модерации развития ИИ витали в воздухе ещё с 2023 года, но тогда они не были столь актуальными к реализации, поскольку в то время ИИ-модели не были достаточно мощными, чтобы предоставлять серьёзную угрозу человечеству с практической точки зрения. «Я продолжаю верить, что ИИ способен невероятно улучшить качество человеческой жизни. Моё стремление добиться этого не уменьшилось, но данные блага будут достигнуты только в том случае, если мы будем развивать технологию в правильном направлении, и с учётом использования времени для достижения прогресса, следует особо тщательно позаботиться о том, чтобы сделать всё правильно», — признался Амодеи в своём эссе на сайте Anthropic.

При всём этом глава компании настаивает на необходимости выбора оптимального темпа развития, ведь если США будут слишком медлить в развитии ИИ, то геополитические конкуренты могут оказаться впереди. Сара Хек (Sarah Heck), которая в Anthropic отвечает за отношения с общественностью, призвала правительство США подключиться к процессу регулирования отрасли, запретив экспорт передовых чипов в Китай, и принять закон, который требовал бы отбор ИИ-моделей по критерию безопасности с обязательным предварительным тестированием.

Сэм Альтман выразил свою солидарность с мнением Амодеи, пояснив, что и внутри OpenAI подобные дискуссии ведутся уже несколько недель подряд. Он поддержал идею конкурента о предоставлении сторонним экспертам доступа к работе над передовыми ИИ-моделями, выразив готовность реализовать такую меру на стороне OpenAI. Ведущий научный сотрудник компании Якуб Пачоцки (Jacub Pachocki) недавно также призвал игроков рынка к добровольному замедлению темпов развития ИИ до появления общепринятых стандартов безопасности. Илон Маск, который возглавляет вошедший в состав SpaceX стартап xAI, со страниц своей социальной сети X лаконично поддержал главу Anthropic, признав его правоту.

«Я верю, что даже если замедление позволит нам выиграть год или два, прежде чем модели достигнут критического уровня возможностей, и мы используем это время для наведения порядка, мы сможем значительно снизить риск того, что что-то пойдёт серьёзным образом не так», — отметил глава Anthropic.

Anthropic спрогнозировала три сценария развития ИИ — от умеренного роста экономики до массовой безработицы

Американская лаборатория искусственного интеллекта Anthropic предложила три модели влияния технологий ИИ на экономику США к 2030 году: «сдержанную», «существенную» и «экстремальную». В последнем случае экономику и рынок труда ждут радикальные перемены.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Воплощение любого из сценариев на практике будет зависеть от развития возможностей ИИ и механизмов его внедрения. При «сдержанном» сценарии роста ИИ оказывает на экономику примерно такое же влияние, как интернет: обеспечиваются реальные экономические выгоды, создаются новые продукты и услуги, некоторые отрасли меняются, но радикального влияния на экономику не происходит. Инновации внедряются на уровне исторических темпов развития всех новых технологий.

«Существенный» сценарий предполагает, что к 2030 году ИИ принимает на себя половину всей выполняемой человеком умственной работы. Он ещё не внедряется повсеместно, но по большей мере действует в автономном режиме. Большинство рабочих задач выполняется «по старинке», без привлечения ИИ. В результате темпы роста ВВП США удваиваются: с 2–2,5 % до 4–5 % в год.

«Экстремальная» модель исходит из того, что в подавляющем большинстве задач умственного труда ИИ превосходит человека и заменяет его, действуя в автономном режиме, и у человека почти не появляется новых задач. ВВП США начинает расти со скоростью 15 % в год, то есть через 4,5 года удваивается. При таком сценарии американцы в целом богатеют, но число работников умственного труда сокращается, и безработица выходит на беспрецедентный уровень, потому что программистам и другим специалистам придётся сменить сферу деятельности, а найти новую работу станет значительно труднее.

В августе Anthropic провела опрос, и большинство респондентов предсказало к 2030 году развитие событий по «существенной» модели: К 2030 году ВВП станет на 10 % выше, чем был бы без ИИ, а показатель безработицы достигнет примерно 5 %. И ещё 10 % опрошенных склоняются к «экстремальному» сценарию.

Nvidia рассматривает возможность вложения в Anthropic до $10 млрд в ходе IPO

На эту осень намечено первичное размещение акций Anthropic, которое может стать крупнейшим в истории, позволив привлечь до $100 млрд и оценив капитализацию ИИ-стартапа в $2 трлн. Компания Nvidia, которая на предыдущих этапах активно поддерживала Anthropic, может вложить в него до $10 млрд в рамках IPO.

 Источник изображения: Nvidia

Источник изображения: Nvidia

Об этом накануне сообщило агентство Reuters со ссылкой на собственные источники. Переговоры между компаниями направлены на превращение Nvidia в якорного инвестора Anthropic, а провести IPO планируется до промежуточных выборов в США, которые состоятся в ноябре текущего года. Anthropic планирует использовать участие Nvidia в IPO в качестве фактора, способствующего привлечению других инвесторов. По традиции, якорных инвесторов организаторы IPO обозначают заранее, чтобы те могли служить ориентиром для прочих. Пока обе компании данную возможность никак не комментируют, по словам Reuters.

Anthropic и Nvidia характеризуются соглашениями, которые были заключены ранее. В ноябре прошлого года Nvidia выразила готовность вложить в капитал Anthropic до $10 млрд, а стартап пообещал заплатить за облачные мощности Microsoft Azure на основе чипов Nvidia в общей сложности до $30 млрд. Среди крупных инвесторов Anthropic уже числятся Amazon и Google. В апреле стартап пообещал в течение последующих десяти лет потратить более $100 млрд на инфраструктуру AWS и покупку более 1 млн фирменных чипов Trainium2. В партнёрстве с Anthropic должна принять участие и Broadcom, которая помогает Google разрабатывать чипы TPU.

Майский этап финансирования позволил Anthropic привлечь $65 млрд и оценить капитализацию стартапа в $965 млрд. К концу июля приведённый годовой объём выручки стартапа достиг $65 млрд. К 2028 году она рассчитывает выйти на годовой объём выручки от $190 до $200 млрд. С начала текущего года по конец августа на американском фондовом рынке в ходе разных IPO было привлечено $137 млрд, и Anthropic своим мероприятием данного рода стремится перекрыть рекорд SpaceX, установленный в июне.


window-new
Soft
Hard
Тренды 🔥
PrismML представила не очень большую языковую модель, которая почти не хуже большого оригинала 10 мин.
Google учредила DeepMind Institute для обсуждения проблем сильного ИИ 24 мин.
Gears of War: E-Day ушла на золото и получила окончательные системные требования — без трассировки лучей, но с апскейлерами 26 мин.
Google CC стал семейным ИИ-секретарём — он собирает письма, чеки и документы и превращает их в планы 2 ч.
Глава Take-Two сравнил GTA VI с Барби 2 ч.
Anthropic заявила, что ИИ теперь руководит 26 % деятельности по разработке и исследованиям внутри компании 4 ч.
Несколько ИИ-агентов научились работать параллельно в обновлённом Claude Code Projects 7 ч.
Microsoft думала о бездисковом Xbox ещё в 2011 году — теперь идея воплотилась в «оцифровке» дисков 12 ч.
Спустя шесть лет после Dreams разработчики LittleBigPlanet и Tearaway готовятся выйти из тени — первые подробности новой игры Media Molecule 13 ч.
Apple перестанет запугивать пользователей из Евросоюза экранами согласия на отслеживание 14 ч.
Toyota создаст армию из 400 000 роботов — они будут работать на заводах и обучать людей 16 мин.
Curiosity отметил 5000 солов на Марсе и прислал NASA открытку, на которой встретились утро и вечер 30 мин.
Yadro инвестировала 1,2 млрд рублей в разработку двухдиапазонного радиомодуля для сетей LTE и 5G 3 ч.
Новая фабрика Samsung в Техасе наконец начала делать 2-нм чипы — первым крупным заказчиком стала Tesla 3 ч.
NASA неожиданно решило реанимировать многострадальный Starliner — к этому толкают планы SpaceX свернуть Crew Dragon 3 ч.
Samsung хочет больше модулей DDR5, но ей негде их производить — на помощь придут сторонние компании 3 ч.
Глава Nvidia уверен, что в следующем году компания сможет продать вдвое больше чипов 7 ч.
Crusoe, застройщик ЦОД OpenAI Stargate, привлекла $3,9 млрд с оценкой в $30,9 млрд и сделала ставку на малые модульные дата-центры 11 ч.
Новая статья: Обзор Full HD IPS-монитора MSI PRO MAX 271PHW E14: гни свою линию 11 ч.
NVIDIA, Google и Emerald AI создают альянс для развития ИИ ЦОД с гибким энергопотреблением — больше всех выиграет NVIDIA 13 ч.