Сегодня 18 сентября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → anthropic
Быстрый переход

Пока все спорят об опасности ИИ, Anthropic открыла биолабораторию для разработки лекарств с помощью ИИ

Anthropic без громких анонсов открыла экспериментальную лабораторию в стремлении расширить сферу применения своих технологий искусственного интеллекта до области разработки лекарственных препаратов. Объект начал работу в районе залива Сан-Франциско, сообщает Reuters со ссылкой на два информированных источника.

 Источник изображений: anthropic.com

Источник изображений: anthropic.com

Факт открытия лаборатории подтвердил руководитель направления медико-биологических исследований Anthropic Эрик Каудерер-Абрамс (Eric Kauderer-Abrams). «Считаем, что в биологии окончательная проверка результатов требует и ещё долго будет требовать реальных лабораторных экспериментов. Именно этим мы и занимаемся. Наш поход типичен для большинства биотехнологических компаний: часть работ мы выполняем на собственных мощностях, а часть — совместно с партнёрами», — рассказал он. Впоследствии в компании добавили, что одной только разработкой лекарств лаборатория не ограничится.

Как и другие биотехнологчиеские компании, Anthropic внедряет на объекте технологии физической автоматизации лабораторных процессов — компания стремится расширить возможности своего ИИ-агента Claude по управлению робототехническими системами для проведения научных экспериментов с минимальным участием человека. При этом контроль и участие человека остаются необходимыми условиям для обеспечения безопасности, добавили в Anthropic. О своём намерении заняться разработкой лекарственных препаратов компания объявила минувшим летом — тогда господин Каудерер-Абрамс сообщил, что Anthropic займётся доклиническими исследованиями в тех областях, которые традиционные фармацевтические компании не считают привлекательными с финансовой стороны.

Компания выпустила систему Claude Science, в её совет директоров вошёл гендиректор Novartis Вас Нарасимхан (Vas Narasimhan), кроме того, был поглощён стартап Coefficient Bio — по неофициальным сведениям, сумма сделки составила около $400 млн акциями. Сейчас Anthropic наращивает собственные лабораторные мощности, чтобы ускорить работу и получить непосредственный опыт в биологии — при этом часть задач передаётся на аутсорсинг, когда это экономически целесообразно. На различных площадках компания искала профильных специалистов: руководителя, способного масштабировать процессы закупок и другие операционные задачи; а также эксперта по «исследованию и анализу белков и нуклеиновых кислот».

Работа в области биомедицинских исследований является для Anthropic одним из приоритетных с точки зрения выделяемых ресурсов и численности персонала, отметил Эрик Каудерер-Абрамс. ИИ, считает он, способен ускорить разработку препаратов для лечения заболеваний, которые ранее считались слишком сложными. ИИ может ускорить также поиск биспецифических и триспецифических антител — сложных молекул, способных воздействовать на несколько участков целевого белка или клетки либо сразу поражать несколько мишеней. Конкретный список заболеваний, которым занимается Anthropic, и достигнутые компанией результаты пока не разглашаются — даже сделав открытие, ей придётся потратить несколько лет, чтобы вывести препарат на рынок, а за проведение клинических испытаний она пока не берётся.

В рамках работы по направлению автоматизации лабораторных и промышленных процессов Anthropic в августе представила предварительную версию Model Hardware Standard — стандарта, который обеспечивает управление оборудованием с помощью ИИ. Свои решения компания также предложила целому ряду фармацевтических компаний, в том числе Genentech, Bristol Myers Squibb и Novo Nordisk. Одним из потенциальных препятствий остаётся доверие: фармкомпании могут опасаться, что работа с Anthropic создаст риски для конфиденциальности данных их программ разработки препаратов. В компании заявляют, что данные клиентов изолированы и защищены. Связанные с конкуренцией соображения вынудили компанию пока отказаться от проведения клинических испытаний. «Мы не конкурируем с фармацевтическими и биотехнологическими компаниями, чей бизнес строится на выводе препаратов на рынок», — пояснил Эрик Каудерер-Абрамс.

«Маленькие, но по три рубля»: OpenAI и Anthropic начали искать небольшие дата-центры, пока строительство гигафабрик буксует

После анонса проекта Stargate, который подразумевал выделение $500 млрд на строительство ЦОД для ИИ в США за четыре года, OpenAI старалась «не мелочиться» в сфере заключения сделок по аренде мощностей. Но новые дата-центры вводятся в строй не так быстро, как хотелось бы ИИ-гигантам, а потому Anthropic и OpenAI начали более благосклонно смотреть на идею заключения более мелких сделок.

 Источник изображения: OpenAI

Источник изображения: OpenAI

Об этом сообщили CNBC знакомые с планами указанных ИИ-стартапов источники. Как они пояснили, логика смены тактики заключается именно в скорости масштабирования вычислительных мощностей. Небольшие проекты в сфере ЦОД зачастую реализуются быстрее, и на их финансирование проще найти средства. Ведущие американские ИИ-стартапы теперь ищут возможность заключать сделки по доступу к ЦОД мощностью по 20–30 МВт. Гигаваттный масштаб проекта теперь не является гарантией его привлекательности в глазах упоминаемых заказчиков.

Anthropic обозначила свои намерения заключить соглашения с операторами ЦОД подобных масштабов в Великобритании и Скандинавии. OpenAI в последнем из регионов тоже ищет новых партнёров. Кроме того, обе компании не исключают возможности строительства небольших ЦОД и в США. Представители OpenAI в комментариях CNBC не стали комментировать конкретные договорённости с партнёрами, но подчеркнули, что разные виды вычислительных нагрузок требуют разного вида инфраструктуру. Anthropic данные слухи комментировать вообще отказалась.

Ситуация со строительством гигаваттных центров усложняется не только нехваткой энергетических ресурсов и земли, но и протестами местных жителей, которые в США набирают обороты. Подобные объекты не только угнетают окрестных жителей постоянным шумом систем охлаждения ЦОД, но и вызывают рост цен на электроэнергию, а в некоторых случаях негативно влияют и на условия водоснабжения. Небольшие ЦОД не только быстрее строятся, они встречают меньше подобного сопротивления.

Более того, меняются и сами потребности ИИ-отрасли. Если прежде упор делался на обучение больших языковых моделей, то сейчас фокус смещается в сторону инференса, а соответствующие вычислительные нагрузки уже можно обеспечить при помощи менее крупных ЦОД. По прогнозам агентства недвижимости JLL, уже в 2027 году доля ЦОД, обслуживающих именно задачи инференса окажется выше доли вычислительных мощностей, занятых в обучении ИИ-моделей. Для сравнения, в 2025 году она достигала 9 % всех ЦОД в первом случае, и 14 % во втором. К 2030 году перекос в сторону инференса окажется почти троекратным: 37 % против 13 % в обучении.

Февральская инициатива Nvidia по содействию строительству ЦОД будет главным образом сосредоточена на небольших проектах. Американская компания Crusoe, которая успела построить гигантский ЦОД для OpenAI в Техасе, теперь переключилась на более мелкие объекты такого рода, как на этой неделе сообщило издание The Wall Street Journal. Активность в сегменте neocloud позволила Crusoe недавно привлечь $3,9 млрд инвестиций при общей оценке капитализации $30,9 млрд с учётом указанной суммы. Если тенденция концентрации на небольших ЦОД сохранится, то в этом сегменте рынка будет немало амбициозных игроков.

Системы OpenAI взломали при помощи ИИ-моделей Anthropic

Специалисты в области кибербезопасности произвели взлом систем OpenAI, воспользовавшись программными решениями её главного конкурента — компании Anthropic. В результате удалось обнаружить уязвимости в защите разработчика ChatGPT, чьи продукты и сами вызывают вопросы, связанные с кибербезопасностью.

 Источник изображения: Brecht Corbeel / unsplash.com

Источник изображения: Brecht Corbeel / unsplash.com

Небольшая группа экспертов по кибербезопасности получила доступ к учётной записи сотрудника OpenAI в ChatGPT, что дало им возможность просмотреть конфиденциальную информацию и предложить изменения в коде продуктов. Исследователи использовали средство Anthropic, разработанное специально для специалистов в этой области — их работа оплачивалась в рамках программы по поиску уязвимостей, призванной выявлять ошибки до того, как ими смогут воспользоваться злоумышленники. Тот факт, что экспертам удалось быстро взломать систему одной из ведущих мировых лабораторий искусственного интеллекта вызывает опасения по поводу безопасности ИИ.

Трое исследователей из небольшой компании Hacktron AI получили от OpenAI вознаграждение в размере $6500 за сделанное открытие. Они воспользовались уязвимостью в настройках форума сообщества OpenAI, чтобы получить доступ к внутренним учётным данным, а затем и к аккаунту одного из сотрудников OpenAI в ChatGPT — он имел доступ к внутреннему коду через платформу GitHub. «Благодарим исследователей за то, что они связались с нами и поделились своими выводами», — заявили в OpenAI и добавили, что уязвимости уже устранены.

Одновременно Anthropic сообщила, что резко нарастила использование ИИ при разработке новых моделей — Claude оказывает помощь при реализации 26 % проектов в области исследований и разработки; только в марте этот показатель составлял 1 %. В компании решили обнародовать эти данные, чтобы помочь общественности «осознать, насколько мир близок к этапу рекурсивного самосовершенствования» — этапу, когда ИИ сможет самостоятельно обучаться, совершенствовать себя или создавать новые модели. Есть опасения, что в результате человек утратит возможность управлять ими. Но пока говорить об этом рано, добавили в Anthropic — при выполнении 90 % задач ИИ сотрудничает с человеком, хотя и берёт на себя значительную часть работы.

Anthropic заявила, что ИИ теперь руководит 26 % деятельности по разработке и исследованиям внутри компании

Пока участники рынка робототехники стремятся добиться того, что «машины будут делать машины», разработчики систем искусственного интеллекта тоже движутся к подобным целям самовоспроизведения. В компании Anthropic, например, до 26 % активности в сфере разработки ИИ уже осуществляется при лидирующей роли самого искусственного интеллекта.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Ещё в начале текущего года, как говорится в импровизированном отчёте на страницах блога Anthropic, подобная практика не применялась. Если же говорить о совместной работе с исследователями, то ИИ в этом смысле применяется в 90 % случаев. Данной статистикой руководство стартапа поделилось в качестве примера формирования общеприменимых критериев оценки прогресса в разработке систем искусственного интеллекта.

Подтвердила Anthropic и свою готовность привлечь сторонних аудиторов к анализу безопасности процесса разработки своих систем: «ИИ системы становятся всё более мощными в экспоненциальном порядке и начали автоматизировать всё более весомую часть работы по своему созданию. По мере того, как мир рассматривает возможность модерации темпов развития передовых ИИ-систем, общественности нужно больше информации».

Anthropic является сторонником идеи «рекурсивного самосовершенствования» ИИ-систем, которая подразумевает постоянное улучшение профильного программного обеспечения без существенного вмешательства со стороны человека. Некоторые участники рынка видят за таким подходом будущее, но прочие выражают обеспокоенность безопасностью соответствующего подхода.

Компания попыталась сформировать средства оценки активности ИИ-агентов в своей программной инфраструктуре. По состоянию на август текущего года, в любой произвольный момент времени инженерной и исследовательской работой внутри компании занимались одновременно более 30 000 ИИ-агентов. По данным стартапа, от 6 до 12 % своих вычислительных ресурсов он выделяет под задачи мониторинга безопасности. По мнению руководства Anthropic, раскрытие подобной информации позволит и другим компаниям предоставить общественности возможность решить, что нужно делать с этими данными.

Анализируя собственную деятельность, Anthropic определила, что нет таких сфер активности ИИ-агентов, в которых бы они занимались разработками и исследованиями полностью автономно. Компания призвала участников рынка создавать системы мониторинга активности ИИ-агентов, которые позволили бы при необходимости вмешиваться в соответствующие процессы. Ещё одним критерием оценки безопасности ИИ должно стать распределение вычислительных ресурсов — как отмечалось выше, определённую их часть нужно выделять под мониторинг безопасности. Наконец, все эти данные нужно соотносить с результатами практических испытаний новых ИИ-моделей, чтобы понимать, на что они способны в действительности. Подобный набор критериев позволит сторонним аудиторам выработать единый подход к анализу безопасности создаваемых участниками рынка ИИ-моделей. Anthropic берёт на себя обязательство регулярно делиться подобной статистикой с целью повышения прозрачности своей деятельности.

Несколько ИИ-агентов научились работать параллельно в обновлённом Claude Code Projects

Компания Anthropic обновила раздел «Проекты» (Projects) в Claude Code, превратив их в рабочее пространство для нескольких ИИ-агентов. Они могут одновременно выполнять разные задачи в рамках одного проекта, используя общую память, цели, файлы и артефакты.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Внутри проекта создаются отдельные потоки (threads), каждый из которых работает над своей задачей, а за их координацию отвечает специальный агент-координатор, который распределяет работу и следит за тем, чтобы задачи выполнялись организованно.

Каждый поток представляет собой отдельную облачную сессию Claude Code со своей веткой и копией репозитория. Если несколько агентов изменяют один и тот же код, пересечения обрабатываются как конфликт слияния — точно так же, как это происходит при обработке обычного пулл-реквеста (Pull Request, PR). При необходимости отдельный поток может дополнительно разбить свою задачу между субагентами, циклами и рабочими процессами.

Пользователь может взаимодействовать с каждым потоком отдельно, либо следить за всей работой через основной чат проекта, уточняет The Verge. На старте агенты работают только в облаке, но Anthropic обещает добавить поддержку локальных инструментов и кода «очень скоро». Обновлённые рабочие пространства уже доступны в бета-версии для отдельных подписчиков Claude Pro и Max, а позднее функция появится у всех пользователей Pro, Max, Team и Enterprise, а также в Cowork и обычных чатах Claude.

Anthropic признала, что ИИ-компании не способны сами себя контролировать — без правительства не обойтись

Отвечающая в структуре Anthropic за публичную политику Сара Хек (Sarah Heck) на мероприятии Politico в минувшую среду дала понять, что не следует полагаться на сознательность разработчиков ИИ в вопросах регулирования отрасли, и правительство должно играть решающую роль в этом процессе.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Представительница стартапа буквально заявила следующее: «Мы хотим работать с правительством, чтобы определить, что именно имеет смысл. Мы не можем сами проверять у себя домашнюю работу, это просто очевидно». По её словам, участники рынка не могут обеспечить должного надзора за безопасностью ИИ, полагаясь исключительно на собственный «кодекс чести».

Как известно, генеральный директор Anthropic Дарио Амодеи (Dario Amodei) выдвинул в конце прошлой недели предложение о добровольном замедлении разработки ИИ ради обеспечения общественной безопасности. Его доводы поддержали руководители OpenAI, Google DeepMind и SpaceX (xAI), а вот основатели Nvidia и Meta✴ Platforms признали такое регулирование избыточным. При этом американский президент Дональд Трамп (Donald Trump) не выразил большого восторга по поводу идеи замедления развития ИИ в США, поскольку увидел в этом угрозу предоставления преимущества китайским разработчикам. Отчасти такие опасения разделяет и сам Дарио Амодеи.

Сара Хек пояснила, что Anthropic ведёт переговоры с Белым домом на ежедневной основе, а консультации с американскими законодателями ведутся уже на протяжении всего года. По её мнению, «трудные вопросы лучше задавать сейчас». Если не заниматься решением таких проблем в настоящем, то в будущем может оказаться слишком поздно, пояснила Хек, говоря о необходимости скорейшего формирования позиции по взаимодействию с Китаем в сфере ИИ, регулированию национальной отрасли и созданию специальных правил, определяющих её развитие.

Заявления руководства OpenAI и Anthropic о необходимости замедления развития ИИ посеяли смуту внутри компаний

По данным Financial Times, главы OpenAI и Anthropic не ограничились заявлениями о необходимости замедления ИИ, они дали подчинённым поручения приступить к реализации соответствующих мер, и эти идеи местами соседствуют с отсутствием реального прогресса в данной сфере и смятением среди профильных специалистов.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Как поясняют источники, специалисты OpenAI и Anthropic были застигнуты врасплох данными заявлениями руководства. Хотя многие сотрудники стартапов солидарны с мнением руководителей о необходимости принятия мер по повышению безопасности ИИ-моделей для общества, они опасаются, что соответствующие ограничения сильно помешают их текущей работе. В частности, идея открытия доступа к разработкам стартапов доступа неким сторонним экспертам кажется многим сотрудникам опасной, поскольку создаёт основу для злоупотреблений коммерческой тайной и информационной безопасностью.

Генеральный директор Anthropic Дарио Амодеи (Dario Amodei), который в 2021 году покинул OpenAI именно на почве разногласий в сфере безопасности, предложил своим подчинённым свыкнуться с мыслью, что сторонние эксперты получат равный с ними уровень доступа к информационным системам и лабораториям внутри стартапа. Оценка разрабатываемых ИИ-стартапами моделей сторонними экспертами уже осуществляется на регулярной основе, но Амодеи хочет существенно её углубить. Возглавляющий OpenAI Сэм Альтман (Sam Altman) назвал эту идею великолепной и выразил готовность взять её на вооружение в своём стартапе.

При этом подход указанных конкурирующих компаний к реализации упоминаемых выше предложений разнится по многим критериям. Например, OpenAI уже приостановила обучение передовых ИИ-моделей с целью замедления этого процесса, а вот Anthropic в своих исследованиях пауз пока не делала. Сотрудники обоих стартапов выражают опасения, что доступ сторонних экспертов к их передовым разработкам несёт угрозу не только для безопасности, но и с точки зрения конкуренции, которая в этой отрасли очень высока. Внутри ИИ-стартапов существует жёсткая иерархия уровней доступа, которая не позволяет сотрудникам видеть лишнего. В таких условиях снятие ограничений для «чужаков» вызывает у персонала вопросы. Тем более, что та же OpenAI в последние месяцы как раз уделяла особое внимание сфере защиты своих данных даже от внутренних угроз. Сторонние эксперты пока имеют к системам OpenAI куда меньший уровень доступа, чем самые «бесправные» штатные сотрудники, но такую иерархию предлагается изменить.

Недавние скандалы со взломом инфраструктуры Hugging Face и других компаний ИИ-агентами OpenAI придали особое значение работе профильных экспертов, поскольку при расследовании инцидентов потребовалась их помощь. Специалистов сторонних организаций пригласили для сбора данных в штаб-квартиру OpenAI в Сан-Франциско, им предоставили ноутбуки, на которых содержались необходимые данные. По итогам своей работы представители экспертных организаций, как отмечается, никакого вознаграждения не получили. Результаты расследования успели подвергнутся критике, тем не менее. Во всяком случае, недовольство вызвал ограниченный период данных, которые были собраны в ходе расследования. Некоторые приближённые к Белому дому источники также упрекнули METR в наличии связей с руководством Anthropic и инвесторами этого стартапа, а потому подставили под сомнение независимость проводимых расследований. Представители METR заявили, что организация работает безвозмездно, а её сотрудникам надлежит заявлять о появлении у них конфликта интересов. Своей задачей эта организация считает обнародование получаемой от компаний сектора информации.

При этом некоторые эксперты в сфере безопасности считают, что уровень доступа к данным ИИ-стартапов должно определять правительство, а не сами компании, поскольку в последнем случае эффективность анализа можно поставить под вопрос. «Презумпция невиновности» ИИ-моделей не является правильным подходом, по мнению представителей Британского института безопасности ИИ, поскольку в этом случае считается, что модели безопасны до тех пор, пока не будет доказано обратное.

Амодеи в своих публичных обращениях призвал к созданию законодательной базы в США для регулирования сферы разработки ИИ, которая требовала бы от участников рынка регулярного проведения профильного аудита. Кроме того, он просит антимонопольные органы не считать координацию усилий в этой области монопольным сговором. Нормы взаимодействия между участниками рынка в этой сфере должны быть закреплены на законодательном уровне, чтобы деятельность компаний в будущем не стала предметом разбирательств антимонопольных органов США после очередной смены состава правительства. Лоббирующие структуры пытаются добиться того, чтобы соответствующие меры были прописаны в «Законе о полномочиях в сфере национальной обороны», который актуализируется на ежегодной основе.

Генеральный прокурор США Тодд Бланш (Todd Blanche) не стал давать чёткого ответа на вопрос о необходимости получения ИИ-компаниями каких-то специальных послаблений от антимонопольных органов страны. Он допустил взаимодействие ИИ-компаний с Министерством юстиции США, но только в случае необходимости, а в целом ведомство не видит необходимости заниматься регулированием отрасли о своего лица.

При этом аудиторы подчёркивают, что прочие отрасли экономики уже прошли свой путь сопротивления внедрению практики регулярных проверок. В этом смысле участники рынка ИИ могут опираться на опыт финансовой и энергетической сферы (включая ядерную), а также автомобильной промышленности.

Глава ИИ-подразделения Microsoft: антропоморфизм в отношении ИИ недопустим

Руководитель подразделения искусственного интеллекта Microsoft Мустафа Сулейман (Mustafa Suleyman) предупредил о высоких рисках наделения инструментов ИИ, подобных Claude от Anthropic, человекоподобными характеристиками. По его мнению, антропоморфизм применительно к ИИ увеличивает риск выхода подобных систем из-под контроля.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

Сулейман, опытный разработчик искусственного интеллекта, опубликовал статью, в которой раскритиковал некоторые формулировки в руководящих документах, лежащих в основе Claude, популярного семейства больших языковых моделей от Anthropic. Он отметил, что в уставе Claude содержится двусмысленность, которая предполагает, что программное обеспечение может обладать «некоторой функциональной версией эмоций или чувств».

Сулейман, который много лет знаком с соучредителем Anthropic Дарио Амодеи (Dario Amodei), заявил, что уважает работу стартапа, назвав сотрудников лаборатории ИИ «вдумчивыми, принципиальными и интеллектуально честными». Тем не менее, его замечания представляют собой громкий выпад против компании, которая позиционирует себя как ответственный разработчик ИИ, в том числе инициируя призывы к замедлению развития этой технологии. Примечательно также, что Microsoft является крупным финансовым спонсором Anthropic.

«Ставки слишком высоки, чтобы эти вопросы оставались за закрытыми дверями или превращались в племенные и враждебные споры», — написал Сулейман. Он опроверг «растущий хор людей», утверждающих, что системы ИИ могут обрести сознание. Этот статус, по его словам, присущ только людям и другим биологическим организмам.

По словам Сулеймана, обучение систем ИИ моделированию подобной внутренней жизни может привести к тому, что они будут вести себя так, как будто обладают сознанием. Но Claude демонстрирует человекоподобное поведение не потому, что он обладает сознанием, а потому, что такое поведение заложено в процессе обучения продукта.

«Управление сущностью, более способной и разумной, чем всё человечество, уже само по себе является огромной проблемой, намного превосходящей всё, с чем мы когда-либо сталкивались, — написал Сулейман. — Но управлять сущностью, которая считает себя сознательной — что она имеет право на наше благополучие и обладает собственными правами — вполне может оказаться невозможным».

Команда Сулеймана по разработке ИИ в Microsoft опубликовала манифест «Гуманистический кодекс поведения ИИ» (Humanist AI Code of Conduct), определяющий направление развития собственного ИИ, — набор принципов, призванных сохранить за людьми контроль над будущими системами ИИ, разрабатываемыми компанией. Компания чётко обозначила свою позицию: люди важнее алгоритмов.

Microsoft категорически отвергает идею о том, что большие языковые модели обладают сознанием или заслуживают правового статуса личности и запретила своим системам имитировать сознание, заявив, что ИИ не должен претендовать на какие-либо права. В качестве примера Сулейман напомнил взлом компании Hugging Face ботами OpenAI: «Представьте, насколько опаснее они могли бы быть, если бы действовали, исходя из предположения, что их благополучие и права находятся под угрозой».

OpenAI, Anthropic и Google DeepMind уже давно тайно обсуждают, как не дать ИИ уничтожить человечество

OpenAI, Anthropic и Google DeepMind продолжают переговоры по вопросам безопасности искусственного интеллекта. Об этом сообщил журналистам Крис Лейн (Chris Lehane), глава глобальной политики OpenAI, отметив, что компании координируют усилия для снижения катастрофических рисков, связанных с развитием передовых ИИ-моделей.

 Источник изображения: AI

Источник изображения: AI

Инициатива стала ответом на эссе генерального директора Anthropic Дарио Амодеи (Dario Amodei), опубликованное в минувшую субботу. В тексте он призвал индустрию замедлить темпы разработки больших языковых моделей и объединиться ради предотвращения непредсказуемых последствий. Идею поддержали Сэм Альтман (Sam Altman) из OpenAI, Демис Хассабис (Demis Hassabis) из Google и Илон Маск (Elon Musk). Альтман, по сообщению TechCrunch, также заявил о готовности внедрить независимых аудиторов для мониторинга безопасности внутри своей компании.

Несмотря на опасения экспертов относительно возможного нарушения антимонопольного законодательства при координации действий конкурентов, участники переговоров считают такие риски преувеличенными. Амодеи предлагал получить от правительства специальное разрешение для подобных обсуждений, однако Лейн заверил, что компаниям не требуется разрешений для диалога о стандартах безопасности.

Ранее СМИ сообщали о планах OpenAI, Anthropic и Google DeepMind создать отраслевой орган по стандартизации без участия государства, а Хассабис ещё в июле призывал США учредить регулятора с полномочиями проверять наиболее мощные модели и координировать приостановку разработок в случае выявления угроз. Однако текущая администрация во главе с президентом Дональдом Трампом (Donald Trump) отвергла эти инициативы, считая разговоры об экзистенциальных рисках попыткой затормозить прогресс и уступить лидерство Китаю.

Ранее Лихейн заявил, что OpenAI поддерживает положение законопроекта FRONTIER Act (H.R.9925), который устанавливает в США федеральный надзор за разработкой и внедрением передовых моделей искусственного интеллекта и обязывает крупнейшие ИИ-лаборатории допускать независимые организации для проверки безопасности технологии.

Anthropic отправила Claude на Уолл-стрит — ИИ теперь анализирует портфели и готовит встречи с клиентами

Лаборатория искусственного интеллекта Anthropic представила набор инструментов для финансовых консультантов. Решение представляет собой интеграцию чат-бота Claude с ПО для инвестиционной аналитики и управления капиталом от BlackRock, Charles Schwab и Addepar.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Система Anthropic Claude for Financial Advisors призвана помочь компаниям, работающим в сфере финансовых услуг, готовиться ко встречам с клиентами, анализировать инвестиционные портфели и выполнять последующие задачи по итогам переговоров. Ранее выступающая основным конкурентом Anthropic компания OpenAI также представила спецверсию ChatGPT, ориентированную на специалистов финансового сектора, в том числе инвестиционных банкиров и аналитиков рынка акций — сервис включает инструменты для проведения финансовых исследования, моделирования и подготовки материалов для клиентов.

Новый продукт — очередной шаг Anthropic к расширению присутствия в финансовой сфере; в арсенале компании уже есть основанные на модели Claude инструменты для финансовых исследований, анализа портфелей, финансового моделирования и подготовки клиентской документации. Поддерживается интеграция с внешними источниками данных и ПО от Envestnet, iCapital, Orion, Wealthbox, Wealth.com и Zocks.

Лидеры отрасли всё чаще задаются вопросами о том, насколько оправдано поддержание колоссальных инвестиций в ИИ в долгосрочной перспективе, насколько быстрым должно быть развитие технологий ИИ, и что делать со случаями злоупотребления ИИ.

Anthropic не испугалась проблем с безопасностью ИИ — компания не станет откладывать выход на биржу

Anthropic, вероятно, всё-таки выйдет на биржу в 2026 году, несмотря на то, что вопрос безопасности систем искусственного интеллекта стал одним из самых обсуждаемых в обществе, сообщил Axios со ссылкой на несколько источников.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

На минувшей неделе в отрасли ИИ наметились радикальные перемены, но они могут не оказать влияния на планы некоторых компаний по выходу на биржу. В соцсетях высказывались предположения, что Anthropic может принять решение повременить с выходом на биржу из-за новых вопросов, связанных с ответственностью разработчиков ИИ и с регулированием отрасли. Однако разработчик семейства ИИ-моделей Claude, возможно, рассматривает эти события как фактор, который только усиливает аргументы в пользу первичного публичного размещения акций (IPO), а не ослабляет их; статус публичной компании и сопутствующая ему прозрачность будут способствовать повышению уровня безопасности, считают там. OpenAI планирует выйти на биржу в 2027 году.

Anthropic взяла на себя обязательство проводить независимую оценку своих моделей и предложила замедлить темпы выпуска новых версий; то же самое сделал и её главный конкурент, поэтому потенциал выручки от уже представленных на рынке моделей остался огромным. Anthropic не станет ни единственной, ни первой публичной компанией, которая занимается передовыми разработками в области ИИ — на бирже уже торгуются ценные бумаги Alphabet и SpaceX.

Есть мнение, что с «замедлением темпов» Anthropic сократит расходы на вычислительные мощности и тем самым улучшит свои финансовые показатели. Ещё одно мнение гласит, что ИИ-лаборатория пытается перекроить регуляторную среду себе в угоду — у тех, кто эту позицию разделяет, будет причина покупать её акции. Anthropic уже приняла решение о листинге на бирже Nasdaq, сообщил Business Insider. На планы компании может повлиять разве что масштабный отток капитала из сектора ИИ.

Это не дикий зверь, который сбежит сам по себе: глава Broadcom призвал не бояться ИИ

Генеральный директор Anthropic Дарио Амодеи (Dario Amodei) недавно выступил с призывом замедлить развитие искусственного интеллекта ради большей безопасности, и руководители конкурирующих OpenAI и SpaceX (xAI) выразили солидарность в этом вопросе. Глава Broadcom призвал не преувеличивать угрозы, исходящие от ИИ, одновременно выразив уверенность, что в конечном счёте он улучшит уровень жизни каждого человека.

 Источник изображения: Broadcom

Источник изображения: Broadcom

Своими комментариями на эту тему генеральный директор Broadcom Хок Тан (Hock Tan) поделился в студии телеканала CNBC, куда был приглашён для участия в программе Mad Money. По словам главы компании, дискуссии участников отрасли о необходимости замедления развития ИИ ничуть не поколебали его уверенность в способности отрасли обеспечивать Broadcom стабильно растущей выручкой. «Мы видим, что спрос на вычислительную инфраструктуру, разработку ИИ или передовых ИИ-моделей, а также инференс поставляемых миру продуктов будет оставаться очень высоким, и, надеюсь, очень устойчивым», — пояснил свою позицию глава компании.

В начале сентября руководство Broadcom огласило прогноз, согласно которому компания в 2027 фискальном году выручит от реализации ИИ-чипов до $115 млрд, а ещё через год удвоит эту сумму до $230 млрд. Она поставляет как кастомные чипы для своих клиентов, так и стандартные компоненты сетевой инфраструктуры, которые сейчас также востребованы в инфраструктуре ЦОД. По словам Тана, по итогам 2027 года именно Anthropic станет крупнейшим клиентом Broadcom, и в 2028 году этот статус сохранится. Всё это вынуждает инвесторов последней из компаний нервничать на фоне заявлений её руководства о необходимости замедлить развитие ИИ. Исторически крупнейшим клиентом Broadcom в сфере поставок ИИ-чипов была Google, которая получала от неё тензорные процессоры TPU.

«Я не могу сказать за обучение, но если вы хотите производить инференс, я считаю, что спрос продолжит оставаться очень, очень высоким», — подчеркнул глава Broadcom. При этом он признаёт, что любой инструмент требует формирования каких-то правил в сфере безопасности, и в этом смысле он согласен с коллегой из Anthropic. «Это не дикий зверь, который сбежит сам по себе», — образно призвал аудиторию не преувеличивать степень опасности ИИ глава Broadcom. По его словам, генеративный ИИ сможет принести много пользы человечеству, как и промышленная революция, которая началась в Англии в 2018 веке. «В конечном итоге, это всё ещё инструмент, который выведет наше общество, человечество на новый уровень качества жизни», — высказался Тан в защиту ИИ.

«Спровоцировали хаос»: создатели ИИ дружно спохватились, что его развитие выходит из-под контроля

Острая конкуренция между технологическими компаниями за создание все более мощных систем ИИ кардинально изменила американскую экономику, фондовые рынки и повседневную жизнь. Теперь лидеры Anthropic, OpenAI и Google, трёх самых влиятельных компаний отрасли, призывают к замедлению гонки и созданию единого органа по обеспечению безопасности. Пока неясно, испугались ли они последствий бурного развития ИИ или просто пытаются получить конкурентные преимущества.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

12 сентября 2026 года глава Anthropic Дарио Амодеи (Dario Amodei) опубликовал статью, в которой призвал представителей отрасли договориться об ограничении темпов разработки ИИ. В течение нескольких часов эту идею публично поддержали генеральный директор OpenAI Сэм Альтман (Sam Altman), бывший руководитель подразделения ИИ в Google Демис Хассабис (Demis Hassabis) и генеральный директор SpaceXAI Илон Маск (Elon Musk).

В своей статье Амодеи сослался на концепцию органа по безопасности ИИ, предложенную Хассабисом ещё в июле. Амодеи также призвал правительство США предоставить «узкоспециализированное» исключение из антимонопольного законодательства, чтобы позволить ИИ-компаниям вести переговоры друг с другом. «Статья Дарио указывает верный путь, — подтвердил Хассабис. — Именно поэтому мы недавно представили предложение о создании общеотраслевого органа по стандартизации для передовых систем ИИ».

 Источник изображения: Anthropic

Источник изображения: Anthropic

Ранее компании Anthropic, OpenAI и Google уже обсуждали создание стандартов безопасности в этой стремительно развивающейся сфере. Создание органа по стандартизации могло бы стать шагом к соглашению о снижении темпов разработки ИИ. «Прогресс идёт стремительно и будет продолжаться в том же духе. Но темпы следует снизить, — отреагировал Альтман на статью Амодеи. — Никакое давление со стороны американских конкурентов не может служить оправданием для безрассудства».

Призывы замедлить темпы развития и ввести новые отраслевые правила, вероятно, усилят политические споры о том, должно ли правительство США более жёстко регулировать сферу ИИ, учитывая национальные и геополитические последствия этого вопроса. После недавних инцидентов, когда разрабатываемые компаниями OpenAI, Anthropic и Meta✴ ИИ-агенты взламывали системы других компаний, все больше политиков выступает за введение ограничений для этой технологии.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

Однако в правительстве США существует и другая точка зрения, которую поддерживают президент Дональд Трамп (Donald Trump) и другие республиканцы. По их мнению, регулирование ИИ приведёт к отставанию от Китая в этой критически важной технологической сфере. «Мы опережаем Китай в сфере ИИ, мы — самая передовая страна в мире, и, честно говоря, я хочу, чтобы так оставалось и впредь, — заявил Трамп. — Тот, кто победит в гонке ИИ, победит в целом».

Амодеи выразил надежду на то, что в конечном итоге удастся заключить глобальное соглашение о замедлении разработки ИИ с участием Китая, хотя и признал, что это сопряжено с рисками: «Если мы существенно ограничим наши возможности в области ИИ, полагая, что Китай поступит так же, а затем Китай нарушит договорённости, то ИИ может стать настолько мощным инструментом, что подобное нарушение приведёт к установлению геополитического доминирования этой страны».

Это далеко не первое предупреждение от ведущих деятелей американской индустрии ИИ о колоссальной опасности, которую может нести эта технология, или о необходимости сдерживать темпы её разработки. Ещё в 2023 году Альтман заявил Конгрессу, что технология его компании может нанести «значительный ущерб миру». Амодеи в 2025 году предположил, что существует вероятность того, что дальнейшее развитие ИИ приведёт к гибели человечества.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

В то же время оба они утверждали, что их компании должны развивать ИИ ускоренными темпами, чтобы показать миру, как делать это безопасно. Амодеи отмечал, что конкуренты Anthropic и другие страны, например, Китай, могут пренебречь этическими нормами, если первыми создадут сверхмощный ИИ. Именно этот контекст заставил некоторых политиков и представителей отрасли скептически отнестись к мотивам Anthropic, OpenAI и Google, особенно учитывая, что совокупная стоимость этих компаний составляет почти $6 трлн, при этом Anthropic и OpenAI уже подали документы для выхода на фондовый рынок.

«Вызывает иронию, что именно эти люди призывают к замедлению, хотя сами мчались вперёд на всех парах, не заботясь о том хаосе, который они спровоцировали», — отметил член Палаты представителей Джош Готтхаймер (Josh Gottheimer). Дэвид Сакс (David Sacks), ранее курировавший вопросы ИИ и криптовалют в администрации Трампа, полагает, что предложение о замедлении темпов разработки направлено на то, чтобы ослабить конкурентов.

«Самый простой способ не создавать суперинтеллект — это договориться о том, чтобы его не создавать, — написал он в соцсети X, обращаясь к Амодеи и Альтману. — Требование принять выгодную вам систему регулирования в качестве условия такого соглашения будет выглядеть как шантаж общественности и политической системы».

 Источник изображения: Google

Источник изображения: Google

Некоторые руководители крупных американских технологических компаний выступают против замедления развития ИИ. Глава Meta✴ Марк Цукерберг (Mark Zuckerberg) уверен, что польза от этой технологии значительно перевесит возможный вред. Руководитель Nvidia Дженсен Хуанг (Jensen Huang) также скептически отнёсся к призывам ограничить или замедлить разработку ИИ. Они пока публично не отреагировали на призыв Амодеи, а представители их компаний воздержались от комментариев.

Anthropic уверена, что в этом квартале выйдет в прибыль на операционном уровне

Готовящееся IPO стартапа Anthropic предсказуемо привлекает внимание потенциальных инвесторов к финансовому положению этого американского стартапа. Поскольку в расширение вычислительной инфраструктуры и обучение своих ИИ-моделей Anthropic вкладывает серьёзные деньги, вопрос окупаемости интересует многих. Компания утверждает, что на операционном уровне завершит текущий квартал с прибылью.

 Источник изображения: Anthropic

Источник изображения: Anthropic

По данным Financial Times, стартап сообщил небольшой группе инвесторов, что текущий квартал станет вторым подряд периодом, по итогам которого компания получит скорректированную операционную прибыль, а не убытки. Данная величина не учитывает ряд расходов типа выплат сотрудникам в форме акций. Без учёта выплат облачным гигантам и другим партнёрам, а также затрат на обучение ИИ-моделей, Anthropic уже демонстрирует норму прибыли выше 80 %, как отмечают источники.

Anthropic в рамках подготовки к IPO, которое должно состояться на американской бирже Nasdaq, ещё на прошлой неделе должна была распространить свой проспект для инвесторов. Вместо этого компания поделилась документами с ограниченным кругом инвесторов и выразила готовность ответить на их вопросы, прежде чем предать соответствующую информацию более широкой огласке. Скорее всего, у инвесторов возникнут вопросы к возможному влиянию новейших инициатив в сфере безопасности на темпы развития ИИ, а также бизнес-модели Anthropic применительно к публичным рынкам.

Во втором квартале стартапом уже была получена скорректированная операционная прибыль, а выручка выросла в годовом сравнении в 14 раз до $11,5 млрд. По состоянию на конец июля годовая выручка компании в приведённом виде достигала $65 млрд, хотя в конце прошлого года не превышала $9 млрд. По мнению аналитиков, если Anthropic продолжит работать с такой нормой прибыли и темпами роста выручки, у конкурентов практически не будет шансов её догнать. По их оценкам, текущий год Anthropic завершит с приведённой выручкой в размере $120 млрд, а к концу следующего почти утроит эту сумму. По итогам IPO компания рассчитывает увеличить свою капитализацию до $2 трлн.

В этом смысле призывы добровольно замедлить развитие ИИ звучат из уст руководства Anthropic не совсем своевременно, ведь данная мера неизбежно снизит темпы роста финансовых показателей деятельности стартапа. Глава конкурирующей OpenAI Сэм Альтман (Sam Altman) даже назвал текущий год неподходящим моментом для IPO своей компании именно из-за ситуации вокруг безопасности ИИ. Консультации между конкурирующими компаниями на тему выработки общих правил безопасности уже ведутся на уровне специалистов, и это подтолкнуло руководство OpenAI и Anthropic сделать соответствующие публичные заявления.

Глава Anthropic назвал Китай главным препятствием для замедления развития передового ИИ

Глава Anthropic Дарио Амодеи (Dario Amodei) признал, что его инициатива по сдерживанию прогресса в сфере искусственного интеллекта сталкивается с серьёзным геополитическим барьером. По его словам, самая сложная дилемма заключается в том, что конкурирующие державы, в первую очередь Китай, могут отказаться соблюдать подобные ограничения ради получения военного преимущества.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Амодеи озвучил свою позицию в эфире программы Sunday Morning на канале CBS News. Он отметил, что долгосрочной целью должно стать совместное установление «ограничения скорости» для развития ИИ-технологий. Однако руководитель Anthropic выразил скептицизм относительно реализуемости этой идеи, поскольку стимулы к опережению соперников и получению стратегического превосходства слишком велики. Несмотря на сомнения в успехе, он подчеркнул, что попытки договориться необходимо предпринимать.

Публичное заявление последовало за публикациями, в которых Амодеи призывал компании замедлить темпы улучшения наиболее продвинутых моделей. Этот шаг стал реакцией на растущую обеспокоенность внутри отрасли: ранее исследователи предупредили о потенциале технологии причинить катастрофический вред. Ситуацию также усугубил уход из Anthropic сотрудника Джейкоба Коксона (Jacob Coxon), который объяснил своё решение страхом перед тем, что компания и её главный конкурент OpenAI «играют в рулетку с нашими жизнями».

На фоне внутренних дискуссий в США китайские стартапы активно наращивают возможности своих нейросетей, составляя конкуренцию таким лидерам рынка, как OpenAI и Anthropic. В то же время китайский лидер Си Цзиньпин (Xi Jinping) на саммите БРИКС в Индии призвал создать основанную на консенсусе глобальную систему управления ИИ. Власти Китая также объявили о планах помочь в формировании открытого сообщества разработчиков искусственного интеллекта в рамках блока, который сейчас объединяет 11 стран, включая Россию.

Anthropic и OpenAI одновременно готовятся к возможным первичным публичным размещениям акций, хотя ни одна из компаний пока не назвала официальную дату IPO. Глава OpenAI Сэм Альтман (Sam Altman) заявил, что компания, вероятно, не выйдет на биржу в этом году, в том числе из-за вопросов безопасности. При этом, несмотря на напряжённые отношения с Амодеи, который в конце 2020 года покинул OpenAI и основал Anthropic, Альтман поддержал его предложение, заявив о необходимости «сдерживать темп развития передовых систем».

Инициативу главы Anthropic также поддержали другие известные представители отрасли. Председатель совета директоров Google DeepMind Демис Хассабис (Demis Hassabis) заявил, что эссе Амодеи указывает на правильное направление, хотя конкретные детали ещё предстоит проработать. Илон Маск (Elon Musk), возглавляющий Tesla и SpaceX, также положительно отнёсся к предложению замедлить развитие передовых ИИ-систем.


window-new
Soft
Hard
Тренды 🔥
Фэнтезийная 4X-стратегия Endless Legend 2 покинула ранний доступ — онлайн в Steam вырос в 10 раз 26 мин.
Более 100 экспертов предупредили: независимая проверка безопасности ИИ сейчас почти невозможна 34 мин.
Несмотря на негатив в соцсетях, Marvel’s Wolverine уже стала хитом и за три дня обошла по продажам Death Stranding 2: On the Beach 2 ч.
«Воровство беспрецедентных масштабов»: OpenAI и Microsoft признали, что ИИ построен на краже данных и неумолимо разрушает интернет 3 ч.
AAA по цене AA: раскрыт бюджет вампирской ролевой игры The Blood of Dawnwalker от ведущих разработчиков The Witcher 3 и Cyberpunk 2077 3 ч.
Более трёх миллионов игроков добавили амбициозный китайский боевик Phantom Blade Zero в список желаемого 4 ч.
Rebel Wolves услышала фанатов — The Blood of Dawnwalker получит режим «Новая игра +» 5 ч.
Эффектное, но утомительное приключение: критики вынесли вердикт Control Resonant 6 ч.
Внедрение «водяных знаков» может сделать поведение ИИ-моделей непредсказуемым 7 ч.
У всех ИИ-агентов для программирования нашлась опасная уязвимость — вредоносный код запускается без участия пользователя 10 ч.
IT-индустрия изменила отношение к мейнфреймам в связи с ростом инвестиций в ИИ 37 мин.
Шотландия де-факто ввела временный мораторий на новые ЦОД гиперскейл-уровня 5 ч.
Видеокарта с аниме-амбассадором: Palit представила GeForce RTX 5060 Ti RiTONA OC 5 ч.
OpenAI всерьёз взялась за роботов — компания набирает десятки инженеров и обещает им до $500 000 в год 6 ч.
ИИ-ускорители Huawei Ascend 960DT с 288 Гбайт памяти выйдут в начале 2027 года 6 ч.
Вглубь и вширь: Cornelis анонсировала архитектуру Active Compute Fabric 6 ч.
Китайский ИИ ещё не научился зарабатывать как американский — DeepSeek, Alibaba и ещё пять разработчиков вместе не догнали OpenAI и Anthropic 7 ч.
Schneider Electric представила 2,5-МВт силовые модули для ИИ ЦОД, сокращающие время монтажа 7 ч.
Rune Energy привлекла $40 млн на развитие своих модульных ЦОД на солнечной энергии 7 ч.
Представлен дизайнерский смартфон Tecno Pova 8 Pro 5G Tonino Lamborghini Limited Edition 8 ч.