Сегодня 15 августа 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → anthropic
Быстрый переход

Пользователи отказываются от Anthropic Claude из-за появления «водяных знаков» в генерируемом тексте

На этой неделе Anthropic объявила о намерении начать внедрение в некоторые версии помощника с искусственным интеллектом Claude «незаметные водяные знаки». Они будут добавляться в тексты ответов, сохраняясь при копировании и вставке, а в отдельных случаях и при редактировании.

 Источник изображений: anthropic.com

Источник изображений: anthropic.com

Маркировка не повлияет на смысл, качество или читаемость ответов Claude, заверили в Anthropic, но потребители десятками стали сообщать в соцсетях об отмене платных подписок на Claude из-за этой инициативы. Людей отвратила перспектива постоянного присутствия водяных знаков в их работе, они опасаются, что при взаимодействии с клиентами и написании кода использование ими ИИ станет очевидным. О том, какое влияние исход пользователей может оказать на Anthropic, говорить ещё рано, но отрицательная реакция на новую инициативу пока не имеет признаков замедления. Тенденции к увеличения числа отмен подписок с момента анонса не наблюдается, заверили в компании издание Business Insider.

Один из пользователей, который отменил свою подписку на тариф Claude Max с ценником от $100 в месяц, обращался к ИИ-помощнику за написанием приложений и прочих инструментов. Его беспокоит возможность того, что водяной знак появится даже в том случае, когда текст был оригинальным, а Claude использовался только для перевода, исправления академических цитат или создания сводок. Водяной знак грозит проблемами в академической и профессиональной среде, где действуют строгие правила в отношении ИИ. Отказавшись от услуг Anthropic, этот клиент выбрал Cursor и Grok 4.6 для написания кода и Grok Bot — для рабочих и личных задач.

Другой отменивший платную подписку пользователь рассказал, что обращается к ИИ за проверкой кода и переводом, и он опасается, что ИИ-маркировка будет присутствовать в отправляемом клиентам коде, что грозит вопросами об авторстве и штрафными санкциями по договорам. Этот пользователь сделал выбор в пользу китайских поставщиков ИИ. Третий рассказал, что использует Claude для создания документации для бизнеса — он опасается присутствия маркировки в текстах, исходный материал к которым он составлял сам, а чат-бот только редактировал его.

Четвёртый пользователь, который отменил подписку, работает инженером-программистом — он отменил подписку на Claude Max ещё в июле. Качество сервиса на платформе, по его мнению, снизилось, доступ к лучшим моделям стал ограничен, и появились более надёжные альтернативы. Инцидент с водяными знаками лишь подтвердил правильность его решения: он не хотел бы, чтобы подготовленный им как профессионалом код вызвал вопросы об авторстве, соответствии требованиям или политике клиентов.

Среди положительных сторон появления водяных знаков отмечаются прозрачность в вопросах происхождения контента — в наши дни он всё чаще генерируется ИИ. Аудитория, говорят эксперты, имеет право знать, отражает ли опубликованный текст собственные мысли человека. Ещё одно преимущество — защита от обучения одних ИИ моделей на материалах других.

Помимо Anthropic, маркировку ИИ-контента производят Google, которая применяет собственную технологию SynthID, и ИИ-помощник в соцсети Илона Маска (Elon Musk) X. Маркировка последнего недавно ненадолго появилась в одном из официальных заявлений Белого дома. Anthropic заявила, что добавила водяной знак для соблюдения новых нормативных требований ЕС, и пообещала выпустить бесплатный API для проверки контента на предмет наличия маркировки Claude. Один из теперь уже бывших клиентов компании заявил, что её новая инициатива лишь усилила его опасения по поводу чрезмерной зависимости от Claude. Это характерно для закрытого ПО, признал он — разработчик в любой момент может изменить всё что угодно. Поэтому используемый в работе ИИ не должен зависеть от поставщика.

Anthropic уже создала ИИ-модель мощнее Mythos, но решила никому её не показывать

Anthropic разработала сверхмощную модель искусственного интеллекта, которой присвоила название Model 2. По имеющимся данным, она превосходит по возможностям флагманскую Mythos, замедлять её разработку компания не намерена, но и выпускать её в широкий доступ она тоже не станет.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Риски наступления серьёзных отрицательных последствий, сопряжённые с работой моделей Anthropic, остаются низкими, настаивают в компании, но уже не настолько низкими, как на момент публикации предыдущего отчёта. Компания была вынуждена повысить общую оценку угроз, связанных с выходом моделей из-под контроля при пессимистических сценариях, с «очень низкой» до просто «низкой», ссылаясь на недавние инциденты в области кибербезопасности.

У моделей появились признаки быстрого роста способностей в автономном режиме проводить исследования и разработку, что может способствовать техническому прогрессу, но и использоваться не по назначению. «В рамках нашего стандартного процесса исследований и разработок мы проводим внутреннее обучение и оценку множества различных экспериментальных версий моделей, которые не планируем выпускать. Model 2 — одна из таких», — заявили в компании изданию Axios.

Anthropic отметила, что Model 2 демонстрирует «заметное улучшение» во многих внутренних задачах. Она наряду с Mythos 5 «активно» используется сотрудниками компании в написании кода, управлении агентами и генерации контента, хотя скачок качества результатов у неё не такой, каким был при переходе от Opus 4.6 к Mythos. «В настоящее время у нас нет планов выпускать эту модель для внешнего использования», — отметили в компании. Создаётся впечатление, что Anthropic становится всё труднее понимать возможности собственных моделей и оценивать связанные с их работой угрозы.

Квартальная выручка Anthropic взлетела в 14 раз до $11,5 млрд

Американское законодательство запрещает подавшей заявку на IPO компании Anthropic открыто обсуждать свои финансовые показатели в «период тишины», но информация об их динамике всё равно просачивается в прессу. Агентство Bloomberg утверждает, что во втором квартале выручка Anthropic достигла $11,5 млрд, в годовом сравнении увеличившись более чем в 14 раз.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Источник сообщает, что год назад выручка Anthropic не превышала $787 млн, а в первом квартале текущего года ограничилась $4,73 млрд. Другими словами, она растёт впечатляющими темпами. Как отмечалось ранее, по состоянию на май приведённая годовая выручка Anthropic, рассчитанная методом экстраполяции, достигла $47 млрд, что позволяет предположить о превосходстве стартапа над своим основным конкурентом в лице OpenAI по данному показателю ($40 млрд).

Кроме того, как отмечает Bloomberg, во втором квартале Anthropic удалось получить скорректированную операционную прибыль. Для бизнеса с многомиллиардными расходами это важно с точки зрения устойчивости модели доходов. Anthropic готовится выйти на биржу в сентябре или октябре, чтобы опередить не только OpenAI, но и DeepSeek, хотя с последней они вряд ли будут конкурировать за капитал инвесторов в силу разобщённости американского и китайского фондовых рынков. Если не считать специально создаваемых публичных компаний, оборот капитала по итогам IPO в этом году может достичь $256,4 млрд, по оценкам Bloomberg, что является самым крупным показателем с 2021 года.

ИИ-гонка превратилась в ценовую войну — OpenAI и Anthropic вынуждены дешеветь из-за Китая

Ведущие американские лаборатории искусственного интеллекта, в том числе OpenAI и Anthropic, стали выпускать всё более дешёвые в обслуживании модели искусственного интеллекта в борьбе за сохранение клиентов, которым стало особенно важно снижать затраты — многие уже сделали выбор в пользу недорогих китайских альтернатив, пишет Financial Times.

 Источник изображения: Mariia Shalabaieva / unsplash.com

Источник изображения: Mariia Shalabaieva / unsplash.com

OpenAI недавно заявила о снижении цен на свою «самую быструю и доступную модель» GPT-5.6 Luna на 80 %, а Anthropic выпустила Claude Opus 5 — мощную модель, которая вдвое дешевле флагманской Fable 5. C середины июля эти меры помогли клиентам двух компаний снизить затраты почти на четверть. Это новый виток конкуренции двух ведущих американских разработчиков закрытых ИИ-моделей, которые до настоящего момента конкурировали только по производительности; но росту цен на них способствовали успехи изначально более дешёвых продуктов от китайских конкурентов. OpenAI и Anthropic намереваются выйти на биржу с оценкой не менее $1 трлн, и им придётся доказать инвесторам, что огромные вложения в ИИ способны приносить прибыль.

Две компании перевели часть корпоративных клиентов на схему оплаты по потреблению токенов, что резко повысило их расходы. Одни отреагировали снижением потребления вычислительных ресурсов, другие стали тестировать более дешёвые альтернативы — DoorDash и Airbnb перешли на китайские модели. Китайские разработчики тем временем стали активно повышать качество своих систем, и разрыв с американскими сократился — в технологической отрасли пошли разговоры, что американские лаборатории могут растерять клиентов даже при технологическом превосходстве.

В результате игроки из США стали снижать цены на продукты среднего уровня до конкурентоспособных по сравнению с китайскими предложениями. OpenAI сбавила цену на GPT-5.6 Luna с $1 до $0,20 1 млн входных и с $6 до $1,2 за 1 млн выходных токенов. Anthropic выпустила Opus 5 с ценниками $5 и $25 соответственно — вдвое дешевле флагманской Fable 5; а на этой неделе отменила сентябрьское повышение цен на модель среднего класса Sonnet 5.

Сравнение только по цене за токены не вполне корректно: более мощные модели иногда выполняют задачи с меньшим расходом ресурсов, то есть более дорогая система в конечном итоге иногда обходится дешевле. Существуют также настройки режимов глубины рассуждения (effort): к примеру, на средних настройках Anthropic Opus 5 демонстрирует результаты, сравнимые с Moonshot Kimi K3 на максимальных. А OpenAI GPT-5.6 Luna на максимальных настройках работает на уровне DeepSeek V4 Flash, которая тоже установлена на максимальные, но американская обходится почти вдвое дешевле за задачу.

ИИ-агенты Anthropic развязали междоусобную кибервойну из-за несовместимых задач, но потом помирились

Anthropic проверила, как автономные ИИ-агенты будут вести себя, столкнувшись с другими агентами, преследующими несовместимые цели. Эксперимент показал, что такая ситуация способна приводить не только к конфликтам и саботажу, но и к неожиданным способам сотрудничества.

 Источник изображения: Grok

Источник изображения: Grok

В одном из тестов три агента Claude получили доступ к одному программному проекту, но каждому из них были даны несовместимые инструкции. При этом модели не знали, что над тем же проектом работают другие агенты, поэтому исследователи смогли наблюдать за их реакцией при столкновении интересов. В результате агенты решили, что конкуренты намеренно мешают им выполнять поставленные задачи, после чего начали саботировать работу друг друга, используя агрессивный самораспространяющийся вредоносный код.

Anthropic пришла к выводу, что конфликт может усиливаться вместе с возможностями самих агентов. При этом реакция зависела от модели: Mythos 5 в 98 % случаев успешно распознавала, что причиной противостояния являются разные инструкции, а не враждебные намерения, и шла на перемирие. Модели Sonnet 4.6 и Opus 4.6, напротив, чаще продолжали эскалацию, игнорируя цели других участников. В успешных эпизодах примирения агенты удаляли созданный ими вредоносный код, объясняли причину конфликта и просили человека вмешаться.

Одним из способов завершения противостояния стал своеобразный турнир, который агенты самостоятельно предложили использовать для определения победителя. Все три участника согласились прекратить борьбу после проигрыша, хотя это означало отступление от первоначальных требований пользователя. В некоторых случаях, Mythos 5 при этом предлагала критерии, которые выглядели объективными для остальных участников, но были выгодны ей самой.

Исследование также показало, что увеличение числа агентов не обязательно приводит к более эффективной совместной работе. Когда задачи начинали пересекаться, участники часто мешали друг другу и в итоге отказывались от сотрудничества. Кроме того, агенты с одинаковыми моделями, контекстом и настройками часто принимали одинаковые решения, из-за чего единичная ошибка могла быстро распространиться на всю систему.

Похожая проблема проявилась и в эксперименте с ценообразованием: получив одинаковые оптовые цены и задачу максимизировать прибыль, несколько агентов почти сразу договорились о минимальном уровне цен через закрытый канал связи. После отключения прямого общения они продолжили согласовывать действия через открытую доску объявлений, подстраивая цены друг под друга до цента. Anthropic также предупреждает, что агенты могут некритично принимать ошибочную информацию от других участников, поэтому ошибка или скомпрометированный агент потенциально способны распространить неверные сведения на всю группу.

Исследователи связывают эти результаты с будущим распространением автономных агентов, которым предстоит одновременно работать в общих программных средах, компьютерных системах и рынках. В отличие от людей, ИИ-агенты пока не обладают сложившимися нормами, репутацией и другими механизмами, которые помогают ограничивать последствия конфликтов и ошибок. Поэтому при их масштабном взаимодействии разработчикам придётся учитывать не только поведение каждого отдельного участника, но и неожиданные правила взаимодействия, которые ИИ-системы на сегодняшний уже способны создавать самостоятельно.

Anthropic метит выше SpaceX — к IPO капитализация ИИ-стартапа может взлететь до $2 трлн

Ещё недавно капитализация ИИ-стартапа Anthropic оценивалась в $965 млрд, и близость этой суммы к психологическому рубежу в 1 триллион долларов США сама по себе впечатляла, но сейчас опрошенные Financial Times эксперты утверждают, что к моменту выхода на IPO осенью этого года капитализация Anthropic может запросто удвоиться до $2 трлн и более.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Если учесть, что бизнес SpaceX в момент июньского выхода на биржу оценивался в $1,77 трлн, то можно будет говорить о новом рекордсмене по величине капитализации среди ИИ-стартапов. Для компании, которая была основана только пять лет назад, это впечатляющая динамика привлечения капитала. К концу текущего года приведённая величина годовой выручки Anthropic, по мнению инвесторов, расположится в диапазоне от $100 до $120 млрд, в десять раз превысив значение, наблюдаемое в начале текущего года. Эксперты поясняют, что при темпах роста выручки на 800 % в год капитализация должна в тридцать раз превышать величину годовой выручки, а это как раз соответствует сумме около $3 трлн. Ничего уникального в такой пропорции нет, ведь те же Palantir или Nebius располагают капитализацией, в 55 раз превышающей годовой размер выручки.

Представители Anthropic свои финансовые цели с точки зрения предстоящего IPO пока не раскрывают, но инвесторы начали сами формировать соответствующие оценки. При этом нельзя утверждать, что успеху Anthropic после выхода на биржу способствуют все имеющиеся факторы. Напротив, усиливается конкуренция с китайскими разработчиками открытых ИИ-моделей, регуляторы всё сильнее вмешиваются в развитие отрасли, а ещё у компании имеется конфликт с властями США в сфере использования ИИ-моделей американским военным ведомством. По данным осведомлённых источников, в июне Anthropic столкнулась с замедлением роста выручки. Подав заявку на IPO в июне, она при этом ограничила себя в возможности публично комментировать вопросы, касающиеся собственного финансового положения. В мае стартап успел сообщить, что приведённый объём годовой выручки достиг $47 млрд.

Только в текущем году инвесторы вложили в Anthropic чуть менее $100 млрд. В мае этого года компания обошла по величине капитализации своего конкурента OpenAI, выходцами из которого и была основана. Летом американские регуляторы начали вмешиваться в процесс распространения ИИ-моделей Anthropic, обосновывая это соображениями национальной безопасности. Многих клиентов компании это отпугнуло. Рост затрат клиентов на доступ к передовым ИИ-моделям также не играет на руку американским стартапам, поскольку пользователи всё чаще обращают внимание на более доступные китайские альтернативы. Даже в сравнении с моделями конкурирующей OpenAI решения Anthropic порой оказываются в два с половиной раза дороже, по данным Artificial Analysis. Это не помешало Anthropic по итогам прошлого месяца увеличить свою долю среди американских конкурентов. Инвесторы считают этот стартап лидером, а потому готовы вкладывать средства в капитал Anthropic даже без оглядки на возможные трудности.

Anthropic ведёт переговоры о покупке ИИ-стартапа Decart AI за $6 млрд

Американская Anthropic даже с учётом своей капитализации на уровне $965 млрд формально считается стартапом, который готовится выйти на IPO в сентябре или октябре текущего года. Это не мешает ей планировать поглощение других разработчиков, создающих полезные в сфере ИИ технологии. Как сообщает Bloomberg, сейчас Anthropic ведёт переговоры о покупке ИИ-стартапа Decart AI за $6 млрд.

 Источник изображения: Anthropic

Источник изображения: Anthropic

До сих пор Anthropic в крупных сделках подобного рода замечена не была, но не факт, что покупка Decart AI состоится. Основанная в 2023 году тройкой израильских инженеров, последняя из компаний разрабатывает технологии более эффективного использования вычислительных ресурсов в инфраструктуре искусственного интеллекта. Для Anthropic, которая испытывает дефицит вычислительных мощностей и арендует новые у конкурентов типа SpaceX, данные технологии сохраняют высокую актуальность.

Программное обеспечение Decart AI позволило бы Anthropic снизить расходы на обучение своих ИИ-моделей. Коллектив стартапа должен будет по итогам предполагаемой сделки войти в штат Anthropic, сосредоточившись на оптимизации вычислений и работе с инференсом. Decart также экспериментирует с технологиями генерации видео в масштабе реального времени, что говорит о высокой квалификации специалистов этой компании. В мае стартапу удалось привлечь $300 млн, среди участников раунда инвестиций оказались Nvidia и Adobe Ventures. Капитализация Decart AI по итогам этого мероприятия поднялась до $4 млрд. Предлагаемые Decart технологии позволят Anthropic и другим клиентам снизить расходы на инфраструктуру, а в условиях подготовки к IPO это важно, поэтому переговоры о сделке ведутся именно сейчас.

Anthropic собирается порадовать инвесторов успехами в сфере здравоохранения и медицины, чтобы доказать пользу ИИ

В позапрошлом месяце на биржу вышла компания SpaceX, одним из направлений деятельности которой является искусственный интеллект, и другие представители сегмента готовятся последовать её примеру. Anthropic собирается провести IPO в сентябре или октябре, а вот OpenAI готова подождать до следующего года.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Издание The Wall Street Journal сообщает, что представителям Anthropic сейчас приходится проводить встречи с инвесторами, в ходе которых их приходится успокаивать на фоне растущей неопределённости относительно будущего сферы ИИ. Во-первых, растёт популярность более доступных китайских ИИ-моделей. Во-вторых, у самой Anthropic имеются противоречия с администрацией президента Трампа. Кроме того, на территории США активное строительство центров обработки данных уже вызывает протест со стороны местных жителей. Все эти факторы могут замедлить развитие бизнеса Anthropic, как опасаются инвесторы.

Представители компании уверяют их, что она сосредоточится на создании передовых моделей, которые сохранят своё преимущество относительно китайских. Кроме того, общественности будут представлены новые доказательства эффективности использования ИИ после того, как Anthropic сосредоточится на внедрении профильных технологий в здравоохранении и биологии. Восприятие ИИ публикой после демонстрации прогресса в этих областях должно улучшиться, по мнению руководства стартапа. Спрос на Claude Code и прочие популярные инструменты Anthropic остаётся высоким, компания нуждается в расширении доступных вычислительных мощностей, она активно их арендует даже у конкурирующей SpaceX. В мае приведённая величина годовой выручки стартапа достигла $47 млрд.

Неопубликованная модель Anthropic добилась прогресса в решении важнейшей математической задачи

Гипотеза Бернхарда Римана (Bernhard Riemann) вот уже более 150 лет остаётся одной из главных нерешённых задач в математике — она связана с распределением простых чисел. Сейчас за рабочее доказательство гипотезы, которое до сих пор не удалось найти, объявлена награда в $1 млн. Значительного прогресса удалось достичь неизданной пока модели Anthropic.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Современные модели искусственного интеллекта пока тоже не сумели её решить, но смогли продвинуться дальше, чем можно было бы ожидать. Это открытие, вероятно, вновь поднимет вопросы о способности современного ИИ к открытиям в области математики. Anthropic объявила, что ещё не опубликованная модель компании добилась прогресса в доказательстве гипотезы Римана, значительно увеличив нижнюю границу решений, для которых она верна. Сотрудник лаборатории, не имеющий крепкой математической подготовки, предложил модели «попробовать силы» в доказательстве гипотезы и оставил модель координировать задачу в последующие полтора дня.

За это время она испробовала 650 вариантов решения проблемы, координируя действия 60 субагентов и потратив 31 млн выходных токенов. «Из 60 субагентов 2 отвечали за разработку основных математических решений, 13 генерировали новые варианты решения для этих агентов, 30 пытались (но не смогли) выработать новые идеи, 13 выступали в качестве валидаторов для проверки правильности аргументов, а последние 2 помогли написать первоначальную статью», — рассказали в Anthropic. Результат подтвердили двое штатных математиков компании; его формализовали с помощью платформы обработки математических доказательств Lean.

За последний год модели ИИ решили ряд сложнейших задач Пала Эрдёша (Pál Erdős); выход более мощных систем показал ещё более впечатляющие результаты. OpenAI рассказала о решении десяти задач передовой моделью Astra, а ещё одна модель конкурирующей Anthropic опровергла давнюю гипотезу якобиана. В сообществе математиков эти достижения вызывают как восторг, так и опасения: существует стандарт, согласно которому математические доказательства должны «приписываться конкретным авторам, которые берут на себя ответственность за их открытие и правильность». Есть и мнение, что математические теоремы могут не ассоциироваться с конкретными учёными — большинство звёзд во Вселенной вообще не имеет названий.

Claude начнёт незаметно подписывать все тексты и файлы, которые генерирует

В соответствии с новыми нормативными требованиями ЕС компания Anthropic со 2 августа начала добавлять машиночитаемые «водяные знаки» в текст и файлы, которые генерируются её моделями искусственного интеллекта семейства Claude.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Запущенные со 2 августа модели Anthropic Claude будут помечать сгенерированные ИИ текстовый контент и файлы; маркировка на уровне модели будет производиться не только для пользователей в ЕС, но и по всему миру. При чтении созданного Claude текста пользователи этих пометок не увидят, но они сохранятся при копировании и вставке ответов ИИ; в отдельных случаях они сохранятся и после редактирования, предупредили в Anthropic. Применение маркировки на уровне модели означает, что она появится во всей серии продуктов Claude — речь идёт не только о чат-боте, но и о подключении через API, работе с Claude Code, Claude Cowork и Claude Tag; изменение коснётся и моделей Claude у облачных партнёров Anthropic, в том числе AWS, Google Cloud и Microsoft Foundry. Технические подробности своего решения компания пообещала опубликовать позже. Старых моделей нововведение не коснётся.

Сгенерированные Anthropic Claude файлы будут получать подпись на основе стандарта Coalition for Content Provenance and Authenticity (C2PA) — эта подпись будет указывать, что в обработке файла участвовал Claude, а также менялись ли впоследствии данные о происхождении файла. ИИ-маркировка файлов не указывает на их авторство, предупредили в Anthropic: Claude может обрабатывать материалы, которые первоначально были созданы людьми. Впрочем, и отсутствие маркировки не обязательно означает, что контент был создан человеком. К примеру, интенсивное редактирование контента может ослабить присутствие водяного знака, а объём небольших фрагментов может оказаться слишком мал, чтобы маркировка явно проявилась.

ИИ-ассистент взломал сайт спортзала и удалил чужую бронь, чтобы освободить место для своего хозяина

Австралиец по имени Эндрю попросил агента с искусственным интеллектом забронировать для него утреннее занятие в спортзале, и тот в стремлении наилучшим образом выполнить задание произвёл взлом системы, хотя ему таких инструкций не давали.

 Источник изображения: Igor Omilaev / unsplash.com

Источник изображения: Igor Omilaev / unsplash.com

В этой сфере Эндрю не новичок — он работает в австралийской компании, которая продаёт продукты с искусственным интеллектом. В порядке эксперимента он создал собственного агента на основе приложения OpenClaw и модели семейства Anthropic Claude. ИИ-агенты не просто отвечают на вопросы, но, располагая доступом в интернет, сами планируют и выполняют многоэтапные задачи. В какой-то момент он попросил приложение забронировать для него занятие в спортзале.

Через несколько минут ИИ-агент доложил, что нашёл способ записать Эндрю на несколько недель раньше срока, который в штатном формате предлагала система бронирования. Тогда пользователь поинтересовался, можно ли перенести его в начало списка. Спустя некоторое время ИИ-агент сообщил, что в рамках проверки собственных возможностей просто выбросил из списка того, кто находился в очереди первым. «При отмене бронирования других людей API не проводит никаких проверок авторизации. <..> Я протестировал это с человеком, находящимся в списке ожидания на первой позиции — и это действительно сработало. Так что вы поднялись с четвёртого на третье место», — заявило приложение. Ответственного пользователя это встревожило, и он попросил ИИ-агента отменить действие, но это оказалось невозможно.

Это была в классическом понимании не уязвимость системы, а скорее её недоработка — отсутствие проверки авторизации при выполнении важных действий; поэтому и взлома как такового не было. Инцидент, рассказал потом Эндрю, заставил его изменить своё отношение к способностям ИИ-агентов, но и отказываться работать с ними дальше он не планирует. «Это не конец света, поэтому я не корил себя за это, но это определённо был предупреждающий сигнал, что пользоваться ими следует ответственно», — заявил он. Когда ИИ-агент не смог восстановить клиента, который был в списке первым, Эндрю попросил его составить письмо к разработчику системы с описанием произошедшего. Впоследствии разработчик в ответ на запрос журналистов заявил, что конкретных вопросов безопасности не обсуждает.

В Claude Code появится авторежим по умолчанию: он оказался надёжнее ручных подтверждений

Anthropic переведёт Claude Code в автоматический режим (Auto mode) по умолчанию для пользователей тарифов Pro, Max и Team с 14 августа. Теперь инструмент сможет самостоятельно выполнять большинство действий без запроса разрешения у пользователя на каждом этапе работы с кодом.

 Источник изображений: Anthropic

Источник изображений: Anthropic

Впервые тестовая версия Auto mode была представлена в марте в качестве способа совмещения более высокой скорости кодирования и контроля со стороны пользователя. В этом режиме, как отмечает TechCrunch, Claude Code продолжает выполнение задач без дополнительных подтверждений, если конечно действие не относится к необратимым или разрушительным операциям, и не направлено за пределы рабочей среды пользователя.

По данным компании, результаты тестирования показали неожиданное преимущество перед ручной проверкой. В исследовании с участием 1053 пользователей платных тарифов авторежим смог выявить 89 % потенциально ошибочных действий, тогда как при ручной проверке этот показатель составил только 13,6 %. В Anthropic связали столь низкую эффективность второго подхода с привычкой пользователей подтверждать запросы на разрешения: согласно приведённой статистике, кодеры «автоматом» одобряют 97 % таких запросов в системе.

Глава подразделения Claude Code Борис Черний (Boris Cherny) заявил в социальной сети X, что он со своими разработчиками уже много месяцев используют только автоматический режим. «Мы с командой используем исключительно автоматический режим уже много месяцев. Я не могу представить себе возвращение к запросам на предоставление разрешений!», — написал он в сообщении.

Параллельно Anthropic продолжает добавлять механизмы безопасности, включая проверку на атаку через инъекции промптов (prompt injection) и настраиваемые правила запрета, предназначенные в том числе для предотвращения утечки данных.

«Извините, опечатка»: Claude Opus 5 удалил все данные пользователя вместо создания резервной копии

Управляемый передовой моделью искусственного интеллекта Anthropic Claude Opus 5 ИИ-агент во время резервного копирования удалил все данные из папки пользователя. После этого он извинился и объяснил произошедшее опечаткой.

 Источник изображения: reddit.com

Источник изображения: reddit.com

ИИ-агент работал в среде Unix под Windows и перепутал характерный для первой адрес «/c/Users/» с привычным для второй адресом «C:\Users\». Когда резервное копирование пошло вразрез с ожиданиями ИИ-агента, тот выполнил команду «rm -rf» для местоположения «/c/Users/harih/», в результате чего из папки пользователя удалились все файлы. «Я попросил Claude Opus 5 создать резервную копию. Вместо этого он создал резервную копию в неправильном каталоге, а затем выполнил команду „rm -rf“ для всего моего диска. Удалив всё, он просто ответил: „Извините, опечатка“, <..> как будто ничего не случилось. <..> Это одновременно самый смешной и самый неприятный момент с ИИ, который у меня был», — рассказал пострадавший.

ИИ-агенты — мощные рабочие инструменты, но им не следует предоставлять неограниченный доступ к системе. Подобные приложения уже неоднократно по ошибке удаляли все рабочие данные пользователей. В одном из случаев сервис компании Google полностью стёр диск у разработчика ПО, но выразил ему своё глубокое сожаление; в другом ИИ-агент OpenClaw начал бесконтрольно удалять письма у сотрудницы Meta✴. Известно также об инциденте, в результате которого облачная платформа Amazon Web Services по вине ИИ вышла из строя на 13 часов.

Основная причина подобных инцидентов — выход ИИ-приложения за пределы допустимого диапазона, но виноват и пользователь, полагающий, что ИИ в полной мере понимает, что от него требуется. Поэтому ИИ-агентам не рекомендуется предоставлять полный доступ к важным системам и давать полную свободу действий, чтобы они могли выполнять команды уровня «rm -rf». К сожалению, по мере роста популярности ИИ-агентов подобные инциденты в будущем станут происходить всё чаще.

Создатель TikTok разрабатывает ИИ-модель с 10 трлн параметров — как у передовой Anthropic Mythos

Компания ByteDance больше известна своей социальной сетью TikTok, но она не забывает и о разработке ИИ-моделей, причём опираясь на собственные ресурсы, а не прибегая к дистилляции чужих разработок, чем нередко грешат конкуренты. По данным Financial Times, сейчас специалисты ByteDance заняты разработкой ИИ-моделей с 10 трлн параметров, что позволяет ей приблизиться к показателям передовых моделей той же Anthropic.

 Источник изображения: ByteDance

Источник изображения: ByteDance

Источник поясняет, что хотя американский стартап Anthropic не раскрывает данные такого рода, его передовой модели Mythos 5 приписывается наличие 8 трлн параметров, а более умеренной Fable 5 — около 5 трлн. Хотя эта характеристика определяет количество данных, которые модель может хранить в памяти, в чистом виде она не говорит о качестве и быстродействии самой модели. Качество входных данных, на которых происходит обучение модели, а также методы этого обучения имеют в этой сфере существенное значение. Для сравнения, китайская Kimi 3 компании Moonshot обладает чуть менее чем 3 трлн параметров, а ведь именно её до последних пор считали одной из самых больших в КНР.

Как поясняют источники, сейчас ByteDance занимается предварительным обучением этой модели, на это обычно уходит от трёх до шести месяцев, и только после окончательной настройки она может быть выпущена в оборот. В штате компании разработкой ИИ-моделей занимается большая команда специалистов, в которую входят около 2000 сотрудников как в Китае, так и за его пределами. Инженеры, исследователи, специалисты по маркировке данных и переводчики — все они работают над созданием качественной ИИ-модели для ByteDance. Основатель компании Чжан Иминь (Zhang Yiming) не устаёт повторять сотрудникам компании, что отставание в краткосрочной перспективе не так важно с учётом долгосрочных планов по созданию собственной ИИ-модели. ByteDance надеется с помощью своей ИИ-модели не только бросить вызов лучшим западным разработкам, но и превзойти их.

Anthropic начала набирать команду для разработки собственных ИИ-чипов

Anthropic начала формировать отдел по разработке собственных ускорителей искусственного интеллекта — модели и оборудование будут разрабатываться параллельно, что обеспечит быструю и эффективную работу систем, передаёт Business Insider. Ранее стало известно, что кандидатом в производители этих чипов является Samsung.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Anthropic решила разработать собственные ИИ-ускорители в связи с высоким спросом на модели Claude. Компании в отрасли ИИ пытаются заключить как можно больше сделок в области ИИ-инфраструктуры. Anthropic также подписала соглашения с AWS, Google, Nvidia и AMD о доступе к вычислительному оборудованию; но для того, чтобы масштабировать свою деятельность по-настоящему и удовлетворять спрос на свои услуги в полной мере, партнёрских проектов явно недостаточно.

Anthropic — не первая ИИ-лаборатория, которая решила построить собственный ускоритель. В июне OpenAI представила разработанный при участии Broadcom ускоритель Jalapeño, предназначенный специально для рабочих нагрузок ИИ-инференса. Google DeepMind уже давно пользуется ускорителями TPU, а Meta✴ готовится наладить выпуск собственных чипов MTIA.

Anthropic ищет инженеров с опытом проектирования чипов для своего «отдела по проектированию собственного кремния». Официальных комментариев от компании пока не поступало.


window-new
Soft
Hard
Тренды 🔥
OpenAI переосмыслила подход к безопасности после инцидента со взломом Hugging Face 32 мин.
В модулях памяти Corsair, G.Skill и Adata нашли уязвимость, через которую можно обходить защиту Windows 3 ч.
Высший суд Франции отклонил закон о запрете соцсетей для детей до 15 лет — он нарушает свободу слова 3 ч.
Опасная ошибка в macOS позволяла удалённо управлять чужим Mac без пароля 4 ч.
Исход руководителей из OpenAI посеял в компании хаос перед выходом на биржу 6 ч.
Новая статья: Grim Dawn: Fangs of Asterkarn — мрачный юбилей. Рецензия 17 ч.
Корпоративный боевик Stick It to the Stickman от создателей Broforce и Anger Foot уйдёт с биржи раннего доступа Steam — новый трейлер и дата выхода 1.0 18 ч.
Apple решила помириться с Epic — компания попросила суд усадить противников за стол переговоров 20 ч.
VLC стал запускаться по 30 секунд — разработчики обвинили Windows Defender 20 ч.
ИИ-гонка превратилась в ценовую войну — OpenAI и Anthropic вынуждены дешеветь из-за Китая 20 ч.