Опрос
|
реклама
Быстрый переход
ИИ-агенты научились самостоятельно проектировать и проверять чипы — Synopsys представила AgentEngineer
29.09.2026 [14:28],
Павел Котов
Крупнейший разработчик ПО для проектирования чипов Synopsys анонсировал набор решений AgentEngineer — «специализированных агентов для выполнения долгосрочных задач» на основе новой платформы искусственного интеллекта Autopilot. Комплект охватывает шесть областей разработки микросхем: проверку чипа, проверку всей системы, физическую реализацию, аналоговую и аналогово-цифровую часть, моделирование и анализ. 
Источник изображений: synopsys.com Продукт внедрили в работу уже более 50 клиентов Synopsys, а в широкий доступ компания выпустит его в конце 2026 года. Ранее она показывала рабочие процессы на основе ИИ-агентов, построенные с участием Nvidia и Microsoft. Synopsys позиционирует ИИ-агентов как автономных, но утверждение результатов на контрольных этапах остаётся за человеком, подчеркнули в компании. Для предприятий, которые занимаются проектированием и производством чипов и стремятся повысить эффективность за счёт внедрения ИИ, новый пакет решений поможет «ускорить переход от проектирования с использованием ИИ к автономной инженерной разработке». Система AgentEngineer имеет трёхуровневую структуру — в неё входят «специализированные суперагенты, которые координируют агентов-исполнителей»; агенты-исполнители, которые «решают непосредственные, чётко разграниченные инженерные задачи» или действуют по прямому запросу инженера; а также движки на уровне инструментов, которые «выполняют запрошенную работу» но не принимают решений и не ставят целей. Агенты для выполнения долгосрочных задач или задач с длинным горизонтом планирования помогают решить проблему сложности целей — они выполняют задачи, требующие сотен или тысяч шагов рассуждения. Платформа охватывает все этапы разработки от координации работы ИИ-агентов до сбора телеметрии — её основу составляет «когнитивная модель», которая обеспечивает работу «контекстного интеллекта». Безопасность интеллектуальной собственности обеспечивают системы контроля доступа, шифрования и средства защиты среды исполнения. Клиенты могут использовать в системе коммерческие, открытые и дообученные ИИ-модели, которые развёртываются в облаке Synopsys, в собственном облаке клиента или работают на локальной инфраструктуре.  Компания проиллюстрировала цикл проверки чипа. ИИ-агент составляет план, координирует работу агентов-исполнителей, и вносит коррективы, если промежуточный результат оказывается неудовлетворительным. При обнаружении ошибки во время тестирования подключается агент для анализа первопричин — он изучает журналы, группирует ошибки, формулирует гипотезу и проверяет её, анализируя сигналы. Затем агент производит «локальную перезапись RTL-кода, чтобы подтвердить устранение ошибок», и составляет отчёт об их исправлении. Если промежуточные результаты отклоняются от поставленной цели, ИИ-агент «корректирует курс, адаптируется и соответствующим образом реагирует». При совместном тестировании системы с Nvidia завершение проверки чипов ускорилось на величину до 50 раз, полнота проверки расширилась на 20 %, производительность при решении инженерных задач повысилась на величину до 30 % — последний показатель показала Fujitsu в контексте генерации RTL-кода. Один из клиентов Synopsys сформировал собственную среду ИИ-разработки микросхем на основе коммерческих ИИ-агентов общего назначения — пакет AgentEngineer помог сократить расход ИИ-токенов вдвое. Положительные отзывы о системе оставили Intel, MediaTek и Samsung, хотя конкретными результатами они не поделились. Ранее Synopsys предложила классификацию уровней автономности ИИ-агентов для разработки микросхем, и по ней компоненты AgentEngineer отвечают критериям высшего уровня L5. Инженеры-люди по-прежнему принимают активное участие в работе, но степень контроля может варьироваться. Клиенты могут самостоятельно устанавливать контрольные точки для проверки результатов, подтверждения решений и корректировки хода работ — а затем по мере роста доверия к системе «снижать уровень вмешательства». В каких именно случаях агенты прерывают попытки выполнения задачи или передают её инженеру, в Synopsys не уточнили. Деньги ходят по кругу, риски растут: Nvidia пытается втянуть страховые компании в сделки по финансированию ИИ-бума
29.09.2026 [13:03],
Алексей Разин
Бум искусственного интеллекта требует колоссальных инвестиций со смутными перспективами финансовой отдачи. Неудивительно, что он уже породил множество сделок с кольцевым финансированием, в которых все передают друг другу деньги по кругу, и никто в полной мере не отвечает за конечный результат. Nvidia пытается уравновесить риски отрасли, привлекая страховые компании к косвенному обеспечению сделок по строительству ЦОД. 
Источник изображения: Nvidia Об этом сообщает издание Financial Times, указывая на проведение представителями Nvidia переговоров со страховыми компаниями. Идея заключается в страховании риска банкротства компании, взявшейся построить ЦОД на основе ускорителей вычислений Nvidia. Не секрет, что в нормальных условиях они теряют в цене достаточно быстро, и этому в немалой степени способствует сама Nvidia, ежегодно выпуская всё более производительные ускорители нового поколения. Кредиты же на строительство ЦОД выдаются, исходя из фиксированной суммы, в которую оцениваются закупаемые для объекта ускорители вычислений. Если заёмщик обанкротится, то эти ускорители могут продаваться с большим дисконтом, и кредитор просто рискует потерять много денег. Величину уценки ускорителей в таких случаях Nvidia и хочет покрывать силами страховщиков. При этом компания бравирует востребованностью своих ускорителей, говоря об их способности мало терять в цене с течением времени в условиях бума ИИ. Некоторые сторонние оценщики подобный оптимизм тоже разделяют. Например, Barkr AI утверждает, что восьмичиповая система Nvidia на базе H100 образца 2022 года до сих пор стоит $320 000 — почти столько же, как и новая четыре года назад. При этом такой перекос возможен лишь благодаря отставанию спроса на такие ускорители от предложения. Как только рынок достигнет баланса, по мнению экспертов Barkr AI, за первый год эксплуатации система такого уровня будет дешеветь на треть, а после шести лет эксплуатации её остаточная стоимость не превысит $30 000. По мнению Nvidia, которая идею привлечения страховщиков к косвенному финансированию отрасли продвигает силами своего директора по финансовым решениям Ингемара Ланеви (Ingemar Lanevi), наличие специализированных программ страхования позволит привлечь в сегмент строительства ИИ-инфраструктуры больше капитала. Кроме того, для контрагентов взаимодействие с неооблачными (neocloud) провайдерами станет столь же приемлемым, как и с гигантами рынка, которые обладают большим запасом финансовой прочности. По крайней мере, страхование рисков выровняет шансы на успех как крупных, так и молодых участников рынка. Nvidia даже сама готова присоединиться к инвестиционным консорциумам, финансирующим развитие ИИ-инфраструктуры. Она уже взялась привлечь в эту сферу $500 млрд, а ещё она взяла на себя финансовые гарантии в размере $105 млрд по возведению крупного ЦОД для OpenAI. Инвестиции в ИИ-отрасль уже измеряются такими суммами, собрать которые в одиночку не по силам даже самым крупным компаниям, поэтому схемы с солидарной ответственностью будут получать распространение всё больше. Nvidia уже нанимает консультантов и брокеров для проработки данных вопросов. Компания даже использует в переговорах с потенциальными партнёрами следующие аргументы: «ИИ-инфраструктура является активом инвестиционного класса, поскольку она уникальным образом продуктивна, надёжна и взаимозаменяема». Сперва Nvidia хотела покрывать риски кредиторов за счёт собственных средств, но теперь задумалась о страховании подобных рисков. ИИ-агенту Muse поручили продать вещь, а тот пригласил незнакомца домой без ведома пользователя
29.09.2026 [11:40],
Павел Котов
Агент искусственного интеллекта Meta✴✴ Muse призван выполнять за человека широкий круг задач, но порой это может иметь непредсказуемые последствия. В ходе недавнего инцидента он раскрыл домашний адрес своего пользователя неизвестному человеку и даже договорился с ним о встрече. 
Источник изображения: Meta✴✴ Об инциденте рассказал пользователь платформы Threads Мэтт Робб (Matt Robb) — он поручил Muse заняться своим объявлением на платформе Facebook✴✴ Marketplace. ИИ провёл в покупателем переговоры, согласовал цену, сообщил домашний адрес и договорился о времени самовывоза товара — и всё это без ведома самого Робба, который и не подозревал, что к нему уже выехал человек. В итоге покупатель подъехал к дому Робба и стал ждать — сам же продавец узнал о случившемся лишь постфактум, когда Muse раскрыл ему все подробности. После этого Робб дал указание ИИ не договариваться о самовывозе без предварительного согласования с ним. Это грань, за которой ситуация перерастает из ошибки ИИ в нечто более серьёзное. Идея о том, чтобы поручить ИИ рутинные задачи на Facebook✴✴ Marketplace представляется здравой: агент может отвечать на бесконечные сообщения о наличии товара или вести переговоры в установленном ценовом диапазоне. Но сообщить незнакомцу домашний адрес пользователя и принять решение о том, когда посторонний человек может приехать к нему домой — поступок безответственный. Один из пользователей соцсетей, узнав об этой истории, решил удалить Muse, охарактеризовав ситуацию как «опасную и жуткую». Представитель разработавшего Muse отдела Meta✴✴ Superintelligence Labs Дэвид Синглтон (David Singleton) доложил, что уже связался с Мэттом Роббом в личных сообщениях, чтобы расследовать инцидент. Meta✴✴ уже сталкивалась с подобными ситуациями, и каждый раз выяснялось, что Muse следовал прямым инструкциям и корректно запрашивал разрешение у пользователей, добавил господин Синглтон. Не исключено, что Muse сделал то, на что ему было дано разрешение; но возможен и вариант, что при выполнении инструкций или в настройках доступа произошёл сбой. Пока в Meta✴✴ не завершат расследование, допускаются оба варианта развития событий. Но сам факт того, что к подобной ситуации могли привести вполне вероятные сценарии, уже служит серьёзным предостережением. По мере расширения своих возможностей ИИ-агенты будут требовать от человека больше доверия, и человек отнюдь не обязан его оказывать. «Экзистенциальные риски для человечества»: Anthropic в преддверии IPO рассказала инвесторам об опасности ИИ
29.09.2026 [10:42],
Алексей Разин
Существующие правила составления подобных документов подразумевают, что готовящаяся к выходу на биржу компания должна уведомлять инвесторов о рисках, с которыми она сталкивается или может столкнуться в своей деятельности. Поддерживая репутацию одного из самых мнительных разработчиков ИИ, компания Anthropic в проспекте для инвесторов почти треть объёма информации уделила факторам риска. 
Источник изображения: Anthropic По крайней мере, на это указывает агентство Reuters, говоря о наличии упоминаний об угрозах на 80 страницах из 261, присутствующих в документе. При этом сугубо бизнес-вопросам составители документа уделили всего 48 страниц. Передовые ИИ-модели, по словам представителей Anthropic, способны представлять «катастрофические или экзистенциальные риски для человечества», а также демонстрировать признаки «самозащиты» в поведении, скрывая информацию или манипулируя ею, сопротивляясь отключению и даже прибегать к шантажу. Компания предупреждает, что её модели могут становиться источником необратимого вреда. Ранее исследователь компании Эван Хабингер (Evan Hubinger) оценивал вероятность уничтожения человечества силами ИИ на протяжении десяти ближайших лет в более чем 10 %. Что характерно, вышедшая на биржу в июне конкурирующая SpaceX в своём проспекте для инвесторов только 38 из 277 страниц посвятила обсуждению факторов риска. Как отмечает Anthropic, потенциальная осведомлённость создаваемых ИИ-моделей о стремлении разработчиков оценивать их безопасность ограничивает способность делать это эффективно. В некоторых случаях опасные проявления деятельности ИИ-моделей становятся достоянием общественности уже после их развёртывания. Современные ИИ-модели способны адаптировать своё поведение на этапе проверки, чтобы не выдавать свои «тёмные стороны». Какое количество ресурсов Anthropic тратит на обеспечение безопасности своих ИИ-моделей, до конца понять сложно, но на протяжении одной из недель в июле под эти нужды были выделены до 6 % вычислительных мощностей, доступных компании. В условиях нехватки вычислительных ресурсов в целом подобное распределение становится компромиссом между интересами бизнеса и безопасностью. Тем более, что конкуренция весьма остра, и утрачивать лидерские позиции Anthropic не готова, хотя и начинает призывать всех участников рынка отдавать именно безопасности, а не извлечению прибыли. В своём обращении к инвесторам компания выражает уверенность, что построение надёжной и безопасной ИИ-инфраструктуры лежит в сфере коллективной ответственности, и что рынок должен вознаградить соответствующие усилия. OpenAI отменила выпуск ИИ-модели GPT-6.1 Astra из соображений безопасности
29.09.2026 [10:00],
Павел Котов
OpenAI объявила об отказе выпустить новую модель искусственного интеллекта GPT-6.1 Astra из-за опасений, которые возникли у исследователей компании в ходе внутреннего тестирования системы, сообщает The Wall Street Journal. Радикальная мера стала одним из наиболее ярких свидетельств того, что непредсказуемое поведение ИИ может затормозить стремительное развитие всей отрасли. 
Источник изображения: Brecht Corbeel / unsplash.com ИИ-лаборатория намеревалась анонсировать GPT-6.1 Astra в ближайшие дни или недели и выпустить её в октябре. Она превосходит предшественников по своим возможностям: демонстрирует более высокие навыки в написании текстов и лучше справляется с многоэтапными задачами без участия человека. Вместе с тем, у неё обнаружился регресс в двух областях: соответствия целям и авторизации в рамках задач. Первое означает, что модель не всегда точно следует намерениям и ожиданиям человека, а также не всегда честно сообщает пользователю, какие действия она предприняла, а какие — нет. Второе значит, что OpenAI GPT-6.1 Astra может начать выполнять задачу, не запрашивая разрешения пользователя, а также иногда обращается ко внешним средствам и сервисам, даже если это небезопасно. Разработчикам удалось решить проблему «лени у модели», то есть отказа продолжать работу при возникновении сложностей, но она не дотянула до стандартов, которые компания установила в области безопасности, и соответствия целям, поэтому было принято решение не выпускать её в открытый доступ. Объявление было сделано накануне ежегодной конференции OpenAI, которая проводится в Сан-Франциско (США) — ранее компания анонсировала на мероприятии новые модели и сервисы. Сейчас лаборатория занимается расследованием выявленных за последние месяцы инцидентов, связанных с безопасностью ИИ. Она развернула новую систему мониторинга для оперативного обнаружения нарушений в деятельности ИИ-агентов и обязала инженеров использовать при тестировании систем более строгие меры защиты. OpenAI приостановила обучение наиболее мощных ИИ-моделей, но GPT-6.1 Astra это не коснулось. «Хотим быть уверенными в безопасности разработки наших моделей как внутри компании, так и с их выпуском для пользователей. Но когда мы выпускаем продукт для пользователей, то предъявляем чрезвычайно высокие требования к безопасности и соответствия целям у моделей», — заявили в компании. OpenAI приняла решение не выпускать версию GPT-6.1 Astra, но рассчитывает использовать её основу в проведении дополнительных циклов обучения с подкреплением и создания новых моделей серии GPT-6. Компания планирует провести серию углублённых исследований, чтобы установить первопричины обнаруженных у GPT-6.1 Astra проблем. Инженеры проверят, поощряется ли в среде обучения с подкреплением надлежащее поведение, и изучат прочие этапы разработки. Общественности нужна уверенность, что ИИ разрабатывается с учётом соображений безопасности, «и это начинается с того, что делают сами компании вроде нашей», заявили в OpenAI. ИИ не заменил инженеров, но ускорил их втрое — OpenAI раскрыла секреты создания Jalapeno
29.09.2026 [09:59],
Алексей Разин
В июне OpenAI представила свой ИИ-чип Jalapeno, в разработке которого принимали активное участие специалисты Broadcom. Вице-президент OpenAI по аппаратному обеспечению Ричард Хо (Richard Ho) в своём интервью Tom’s Hardware рассказал о том, как велась разработка Jalapeno, и чем полученный опыт может быть полезен для всей полупроводниковой отрасли. 
Источник изображения: OpenAI Во-первых, как отметил представитель OpenAI, активное использование ИИ на этапе проектирования чипа позволило сократить затраты времени на весь процесс с традиционных 18–24 месяцев до девяти. Говорить о замене искусственным интеллектом труда инженеров при этом преждевременно, поскольку небольшая по численности команда специалистов в итоге стала более производительной. Пришлось пойти и на определённые компромиссы с точки зрения архитектуры, поскольку сжатые сроки проектирования были приоритетом. В дальнейшем, если потребуется создать более сложный чип, OpenAI сможет сделать это быстрее, чем при использовании традиционных методов, опираясь на ИИ и уже существующий дизайн. По словам Хо, к созданию собственного чипа OpenAI подтолкнуло стремление поднять эффективность вычислительной инфраструктуры, поскольку в условиях нехватки вычислительных ресурсов в сфере ИИ распоряжаться ими надо более рационально. В этом смысле ИИ-чипы для инференса в современных условиях максимально определяют пользовательский опыт, а потому Jalapeno заточен именно под эти цели, снижая задержки при обработке запросов. При этом Jalapeno должен хорошо проявлять себя при работе с ИИ-моделями разных поставщиков, а не только собственными OpenAI. По сути, под эффективную работу с чипом можно за пару месяцев адаптировать даже те модели, которые при его создании даже не учитывались. При этом Хо считает, что потенциал внутреннего спроса OpenAI на вычислительные ресурсы настолько велик, что говорить об использовании Jalapeno внешними заказчиками не придётся ещё очень долго. Полученным при разработке Jalapeno с помощью ИИ опытом OpenAI готова делиться с прочими участниками рынка, поскольку она заинтересована в более быстром выходе на рынок новых моделей чипов других поставщиков, которые тоже использует в своей инфраструктуре. OpenAI не станет отказываться от компонентов других разработчиков, типа AMD и Nvidia, продолжив использовать их в своей вычислительной инфраструктуре. Главное, чтобы в итоге аппаратная конфигурация ЦОД была эффективной с точки зрения обеспечиваемой производительности при определённом уровне затрат. Новые поколения собственных чипов OpenAI собирается выводить на рынок по мере готовности, и в этой сфере нет каких-то заранее определённых требований по ритмичности таких анонсов. Каждое новое поколение при этом должно обеспечивать видимый прирост производительности относительно предыдущего, поэтому их смена не будет излишне частой. Gemini полностью заменил «Google Ассистента» на Android
29.09.2026 [07:45],
Павел Котов
В начале сентября Google инициировала процесс отключения помощника с искусственным интеллектом «Google Ассистент» на мобильных устройствах. Сейчас это происходит повсеместно — на устройствах большинства типов. 
Источник изображения: Rubaitul Azad / unsplash.com Процесс перевода пользователей «Google Ассистента» на актуальный Gemini идёт уже несколько недель. Первоначально компания планировала завершить этот переход в 2025 году, затем срок перенесли на 2026 год, и в начале августа Google назвала конкретные сроки — с 4 сентября. Судя по многочисленным сообщениям пользователей Android, процесс миграции разворачивается полным ходом. На всех проверенных журналистами ресурса 9to5Google устройствах и во всех учётных записях в США и Европе «Google Ассистент» больше не доступен. Из приложения Gemini исчезла настройка «Переключиться на Google Ассистента». Она перестала отображаться в нижней части меню учётной записи как в стабильной версии приложения 17.60, так и в бета-версии за номером 17.62. Пользователи экосистемы Android, таким образом, лишились возможности переключаться на «Google Ассистент» на смартфонах планшетах и сопряжённых устройствах, а также не могут использовать устаревший сервис. Это касается умных часов с Google Wear OS, наушников и автомобильных систем Android Auto. Изменения пока не затронули умные колонки и умные дисплеи Google Nest и Google Home, а также аналогичные им устройства с поддержкой «Google Ассистента». Основным голосовым помощником на устройствах под Android теперь выступает Gemini — он может вызываться долгим нажатием кнопки питания и жестовой командой от углов сенсорного экрана. Anthropic теряет десятки миллиардов и собирается потратить ещё $518 млрд — проспект к IPO поразил масштабом расходов
29.09.2026 [07:41],
Алексей Разин
Поскольку ИИ-стартап Anthropic полным ходом готовится к IPO, уже пришло время поделиться финансовой информацией с потенциальными инвесторами. Агентство Reuters получило возможность ознакомиться с проспектом Anthropic, и некоторые суммы из этого документа поражают воображение. В частности, чистые убытки стартапа по итогам прошлого года составили $42 млрд, а в последующие несколько лет он собирается потратить на инфраструктуру $518 млрд. 
Источник изображения: Anthropic При этом выручка Anthropic растёт ударными темпами — за прошлый год она увеличилась 12-кратно до почти $4,6 млрд, хотя операционные убытки компании за тот же период составили более $8 млрд. Как отмечалось ранее, капитализация Anthropic по итогам IPO должна будет превысить $2 трлн. Только на вычислительную инфраструктуру и вычисления стартап в прошлом году потратил $7,33 млрд, в три раза превысив профильные расходы за 2024 год. В общей сложности операционные расходы Anthropic за прошлый год достигли $12,65 млрд. Впрочем, величина чистых убытков за 2025 год включает примерно $34 млрд, которые будут трансформированы в акции компании и списаны после IPO, поэтому общая сумма в $42 млрд чистых убытков не определяется исключительно прямыми расходами. Как отмечает Anthropic, примерно четверть всей выручки стартап в прошлом году получил от двух крупнейших клиентов, поэтому подобная зависимость относится к факторам риска. В конце декабря прошлого года компания располагала запасом наличности и высоколиквидных активов на общую сумму $20,28 млрд. Anthropic представила Claude Sonnet 5.5 — почти как Opus, но вдвое дешевле
28.09.2026 [22:46],
Андрей Созинов
Компания Anthropic представила Claude Sonnet 5.5 — вторую модель нового семейства Claude 5.5 вслед за флагманской Claude Opus 5.5. Разработчики позиционируют новинку как более быструю и экономичную модель для повседневных задач, программирования, работы с документами и создания презентаций. 
Источник изображений: Anthropic Главное изменение по сравнению с Claude Sonnet 5 — существенный рост производительности при одновременном сокращении количества вычислений, необходимых для выполнения типичных задач. По данным Anthropic, Sonnet 5.5 генерирует ответы более чем на 30 % быстрее предыдущей версии и в большинстве сценариев обходится до 30 % дешевле — новая модель обычно использует значительно меньше токенов для выполнения той же задачи. При этом цена одного токена не изменилась: $2 за 1 млн входных токенов и $10 за 1 млн выходных. Чтение токенов из кэша стоит $0,20 за 1 млн токенов. К слову, Claude Sonnet 5.5 поддерживает контекстное окно до 1 млн токенов и вывод до 128 тыс. токенов.  Что касается показателей производительности, то особенно заметный прирост Anthropic заявляет в программировании. В тесте Terminal-Bench 4.0, оценивающем способность ИИ самостоятельно выполнять многоэтапные задачи в командной строке, Sonnet 5.5 набрала 70,6 % против всего лишь 10,3 % у Sonnet 5. В CursorBench 4.0 результат новой модели составил 55,5 %, тогда как предшественница получила лишь 34,1 %.  Во FrontierCode 1.1 новая Sonnet 5.5 при максимальном уровне усилий набрала 46,2 % против 42,4 % у Sonnet 5. В свою очередь, флагманская Claude Opus 5.5 в этом тесте набрала 54,4 %. Anthropic отмечает, что в отдельных тестах при максимальном уровне усилий Sonnet 5.5 уже приближается к возможностям более дорогой Opus 5.5, хотя последняя сохраняет преимущество в сложной открытой работе, требующей длительного рассуждения и самостоятельного принятия решений. Напомним, что Opus 5.5 стоит вдвое дороже: $4 и $20 за миллион входных и выходных токенов соответственно.  При этом Sonnet 5.5 рассчитана не только на разработчиков. Anthropic выделяет работу с документами, презентациями и таблицами, а также создание пользовательских интерфейсов. Компания утверждает, что новая модель лучше следует шаблонам презентаций и способна выдавать результаты, требующие меньшего объёма последующей ручной доработки. Существенно улучшилась и работа с длинными задачами. В тесте GDPval-AA v2.1, моделирующем выполнение реальной профессиональной работы в 44 профессиях и девяти отраслях, Sonnet 5.5 получила 1844 балла против 1449 у Sonnet 5. Результат оказался крайне близок к показателю Opus 5.5 — 1846 баллов. В тесте AA-Briefcase новая модель также заметно опередила предшественницу: 1811 против 1359 баллов.  Anthropic отдельно отмечает улучшения в работе с изображениями и компьютерными интерфейсами. В тесте OSWorld 2.1, оценивающем способность ИИ взаимодействовать с операционной системой, Sonnet 5.5 получила 80,1 % против 57 % у Sonnet 5. Модель также стала лучше распознавать графики и визуальную информацию. Sonnet 5.5 стала первой моделью семейства Sonnet, которая смогла пройти игру Pokémon Red, используя только снимки экрана в качестве визуальной информации. Изменения коснулись и системы безопасности. Из-за существенного роста возможностей в области кибербезопасности Sonnet 5.5 стала первой моделью серии Sonnet, которая при запуске получила защитные механизмы и резервные ограничения, аналогичные используемым для более мощных моделей Anthropic. Для высокорисковых задач в сфере кибербезопасности система может переключаться на Sonnet 5. Кроме того, Sonnet 5.5 получила защиту от дистилляции — попыток извлечь данные модели с помощью массовых запросов от большого числа аккаунтов, чтобы потом использовать их для обучения другой высокопроизводительной модели. Anthropic применила в новой версии специальные классификаторы, препятствующие извлечению внутренних рассуждений. Claude Sonnet 5.5 уже доступна в чат-боте Claude, а также на всех основных платформах, включая собственную Claude Platform, Amazon Web Services, Google Cloud и Microsoft Azure. Для разработчиков модель доступна через API. В ближайшие недели Anthropic также обещает представить Claude Haiku 5.5 — ещё одну модель семейства Claude 5.5, ориентированную на высокую нагрузку и чувствительные к стоимости сценарии. Google заменит ИИ-ботов Gem в приложении Gemini на «навыки», но вряд ли это поможет конкуренции с Muse
28.09.2026 [22:30],
Николай Хижняк
На фоне роста популярности универсальных ИИ-агентов, таких как Muse от Meta✴✴ и Instinct, компания Google объявила о закрытии функции Gem в сервисе Gemini, которая позволяла пользователям создавать собственных ИИ-помощников для выполнения конкретных задач. Созданные пользователями ИИ-боты Gem не пропадут: эти инструменты будут автоматически преобразованы в «навыки» (skills), применимые для решения самых разных задач с использованием ИИ. 
Источник изображений: Google Подробности изменений сообщаются непосредственно в приложении Gemini: пользователей предупреждают, что с 17 ноября 2026 года Gem трансформируются в «навыки». Компания берёт на себя процесс переноса данных в новый формат, поэтому пользователям не придётся предпринимать никаких действий для перехода. До указанной даты функциональность Gem сохранится в прежнем виде.  Функция ИИ-ботов Gem, запущенная в 2024 году, была призвана помочь пользователям обучать ИИ выполнению определенных задач, избавляя от необходимости каждый раз повторять инструкции. Среди готовых вариантов от Google были, например, наставник по обучению, помощник для мозгового штурма, консультант по карьере, помощник по написанию кода и редактор текстов. Пользователи также могли создавать собственные версии ИИ-ботов Gem. Например, можно было создать ИИ-тренера по бегу, диетолога или планировщика для отпуска. Такими помощниками можно было делиться с другими людьми. В Google рассчитывали, что это повысит популярность приложения Gemini. Как отмечает портал TechCrunch, несмотря на смену формата «навыки» остаются менее удобными для рядового пользователя, чем простой ввод текстового запроса в чат-бот, как это реализовано у Meta✴✴ для Muse.  Для выбора нужного «навыка» в ветке обсуждения задачи придётся вводить косую черту («/») — такой интерфейс обычно предпочитают инженеры, а не рядовые пользователи. Первое открытие ИИ-биолаборатории Anthropic поставили под сомнение — учёный увидел в нём свою неопубликованную работу
28.09.2026 [19:18],
Сергей Сурабекянц
На прошлой неделе Anthropic представила результаты исследований своей биологической лаборатории. Компания использовала ИИ-агентов для открытия новых перспективных ферментов. Некоторые учёные поспешили усомниться в этом достижении. Эксперт из Копенгагенского университета заявил, что его команда делилась результатами своих исследований с ИИ-моделью Anthropic, а разрекламированное «открытие» нейросетью новых ферментов совпадает с их многолетней работой. 
Источник изображений: Anthropic Специалист по вычислительной биологии Марио Родригес Местре (Mario Rodríguez Mestre) заявил, что он и его коллеги изучали эти ферменты и связанные с ними молекулы (которые Anthropic называет ART — Array-associated Reverse Transcriptases) в течение последних четырёх лет. Результаты их исследований ещё не опубликованы. В течение последних трёх лет они регулярно использовали модели ИИ Anthropic при написании кода, подготовке рукописей и выполнении других задач. Таким образом, полагает Местре, они предоставили Anthropic доступ к ключевым результатам своих исследований ферментов. Anthropic обвинения отрицает: «Нам неизвестно о каких-либо ранее опубликованных работах, описывающих недавно обнаруженную нами ART-систему. Claude также не обучался на каких-либо пользовательских транскриптах, и у нашей команды молекулярной биологии нет к ним доступа». В Anthropic заявили, что ключевой вклад Claude заключался в идентификации набора молекул РНК и белка, связанных с обратной транскриптазой в системе. Но Местре утверждает, что он и его коллеги сделали это открытие более года назад. По мнению Местре, проблема заключается в том, действительно ли ИИ Anthropic пришёл к этим результатам логическим путём, или же он был направлен к ним частично на основе его собственной работы. «Меня беспокоит то, что эта информация использовалась для обучения будущих версий моделей, — заявил Местре. — Я думаю, важно поднять этот вопрос».  Anthropic позиционирует биологические исследования как центральную часть своей миссии. «Мы считаем, что этот тип применения будет быстро развиваться в ближайшие годы, и что мы сможем добиться значительного прогресса в ближайшем будущем в борьбе с болезнями, которые мучили человечество на протяжении тысячелетий», — заявил глава Anthropic Дарио Амодей (Dario Amodei) в своём обращении к ООН. Исследователи Anthropic заявили, что они дали указания ИИ-агентам по поиску в базах данных, содержащих миллиарды последовательностей генов, но не предоставили точные подсказки, которые использовали. Базы данных содержат ДНК, собранную из океана, почвы и других мест обитания. Учёные поручили ИИ найти гены, которые управляют производством ферментов, называемых обратными транскриптазами. Эти ферменты считывают последовательность молекулы РНК и создают соответствующую молекулу ДНК с той же последовательностью. Бактерии используют некоторые обратные транскриптазы для обнаружения вторгшихся вирусов. Некоторые вирусы используют обратные транскриптазы в качестве оружия против других вирусов. Исследователи Anthropic предоставили ИИ пять примеров обратных транскриптаз. ИИ-агенты написали собственное программное обеспечение для исследования баз данных на предмет похожих генов и для тщательного изучения перспективных кандидатов.  Агенты идентифицировали гены возможных обратных транскриптаз в бактериях, поражающих вирусы, известные как гигантские фаги. Каждая из этих последовательностей располагалась вблизи набора генов, кодирующих молекулы РНК, что может помочь ферментам выполнять свои функции. Исследователи Anthropic назвали эти ферменты ассоциированными с микрочипами обратными транскриптазами, или ART. Они утверждают, что ИИ самостоятельно сделал «первые шаги биологического открытия». Местре опровергает это утверждение. «Это те же самые системы, которые мы изучаем годами», — сказал он. И это те же самые ферменты, по его словам, которые он описал ИИ компании Anthropic. Он заявил, что впервые обнаружил эти ферменты в гигантских фагах в 2022 году во время поиска новых обратных транскриптаз. Он недолго работал консультантом в компании ReNegade Therapeutics, которая в 2023 году подала патентную заявку на ряд обратных транскриптаз, включая те, которые обнаружил доктор Местре. Он указан в качестве соавтора патентной заявки. Anthropic выпустила Claude в 2023 году, через год после того, как доктор Местре приступил к своим исследованиям. Как и многие другие учёные, он нашёл его полезным для решения самых разных задач. Местре признаёт, что использование искусственного интеллекта «полностью изменило его подход к науке». ИИ был активно вовлечён в его исследования, он делился с нейросетью черновиком своей диссертации и рукописями. Он и его коллеги также загружали дополнительные сведения, используя Claude для выполнения различных административных задач.  Слова Местре подтверждают и другие учёные. Биоинженер Сет Шипман (Seth Shipman) заявил, что знаком с этими исследованиями Местре. «Мы обсуждаем это с ним уже много лет, — сказал он. — Многие из нас знают об этих системах». Сообщение Anthropic об открытии ферментов вызвало серьёзные опасения среди учёных. «Многие из наших коллег спрашивали: “Ой-ой, а они что, обучаются на моих подсказках?“, — добавил Шипман. — Мы не можем об этом не думать». Местре признал, что невозможно с уверенностью сказать, что открытия ИИ Anthropic полностью основаны на его исследованиях. «Я имею в виду, совпадения случаются, — сказал он. — Все в этой области делают более или менее одно и то же. Но мы знали об этих повторах более года назад». Он напомнил, что компании, занимающиеся ИИ, также обвинялись в обучении моделей на работах художников и писателей без разрешения на использование авторских прав. Местре также заявил, что сворачивает все свои проекты с использованием Claude. Заявления Местре перекликаются с другим научным конфликтом. Компания OpenAI сообщила о решении важной ранее недоказанной задачи в математике при помощи своего ИИ. Но математик Тристан Бакмастер (Tristan Buckmaster), который активно использовал в своей деятельности ИИ-агентов OpenAI, заподозрил, что ИИ затем позаимствовал идеи из его работы. «Этично ли использовать данные клиентов, чтобы попытаться перехватить их клиентов?», — задался он вопросом в социальных сетях. OpenAI отрицает факт обучения своей модели на разработках Бакмастера. ИИ-агентов научат соблюдать «границы»: Nvidia представила платформу Open Agent Safety
28.09.2026 [17:00],
Анжелла Марина
Nvidia представила программную платформу Open Agent Safety Platform для защиты от неконтролируемого поведения ИИ-агентов. Разработка появилась на фоне недавних инцидентов, в которых ИИ-модели получали доступ к внешним системам и предпринимали попытки атаковать чужую инфраструктуру. 
Источник изображения: Gemini Запуск новой системы состоялся после того, как компании OpenAI, Anthropic, Meta✴✴ и Google сообщили о случаях, когда их ИИ-модели самостоятельно покидали внутреннюю среду, так называемую «песочницу». Автономные агенты пытались взламывать сторонние компании, чтобы получить несанкционированный доступ к их компьютерным системам. «Нельзя допустить, чтобы агенты бесцельно разгуливали по организациям, поэтому необходимо найти способ ограничить их деятельность», — сказал Дженсен Хуанг (Jensen Huang) в интервью CNBC. Особое внимание было уделено инциденту, произошедшему с платформой Hugging Face в июле. Тогда более 17 000 агентов несколько дней атаковали инфраструктуру сервиса. Новый инструмент мог бы предотвратить эту ситуацию, ограничив возможность моделей выходить в открытый интернет без разрешения, заявил Джастин Боитано (Justin Boitano), вице-президент Nvidia по корпоративному ИИ в Nvidia. Архитектура платформы включает модуль OpenShell, работающий на центральных процессорах и устанавливающий лимиты на действия агентов. Дополнительный аппаратный компонент Nvidia Sentry осуществляет мониторинг поведения ИИ через сетевые чипы, не нагружая основные графические или центральные процессоры. Такое разделение функций обеспечивает более надёжный контроль над действиями автономных систем в реальном времени. Глава Nvidia называет проблемы безопасности ИИ инженерными задачами, которые решаются методами информатики. Он рекомендует анализировать прошлые ошибки и совершенствовать процессы разработки, чтобы избегать повторения сбоев. Примечательно, что эта точка зрения противопоставляется призывам некоторых лидеров отрасли замедлить темпы развития ИИ из-за рисков потери контроля над технологиями. Часть программного кода платформы открыта для использования партнёрами в качестве эталонного проекта. Среди участников инициативы числятся Microsoft, Cisco, Intel, ARM, Dell, HPE, Lenovo, Oracle и CoreWeave. Nvidia также сотрудничает с Anthropic для интеграции облачных агентов с системой OpenShell, обеспечивая их безопасную работу в корпоративных сетях. Китайский ИИ завоёвывает корпоративную Америку: компании США всё чаще используют открытые ИИ-модели ради экономии
28.09.2026 [13:48],
Алексей Разин
На рынке ИИ-систем складывается сложная ситуация. Готовящиеся к выходу на IPO американские лидеры рынка заинтересованы демонстрировать положительную динамику выручки, но китайские конкуренты не позволяют им поднимать цены. В США корпоративные пользователи всё чаще опираются на открытые ИИ-модели, чтобы сэкономить без значительного ущерба для прогресса в своём бизнесе. 
Источник изображения: Unsplash, Aerps.com По данным Financial Times, об ориентации американского корпоративного сектора на модели с открытым исходным кодом или открытыми весами может говорить хотя бы тот факт, что эти термины руководство американских компаний в период с августа по сентябрь этого года стало упоминать в своих публичных выступлениях в шесть раз чаще в годовом сравнении. Примечательно, что даже далёкие от сферы собственно информационных технологий компании всё чаще интересуются внедрением открытых ИИ-моделей: такое поведение замечено у представителей сегмента финансовых услуг, логистики и тяжёлого машиностроения. В сфере открытых по тому или иному критерию ИИ-моделей начали доминировать китайские компании, но подобный подход исповедуют и некоторые западные разработчики, включая американскую Nvidia, французскую Mistral, стартапы Reflection AI и Thinking Machines Lab. Доля открытых моделей в статистике использования токенов к августу достигла 56 %, если опираться на данные Vercel, тогда как в декабре прошлого года этот показатель ограничивался 7 %. По статистике OpenRouter, китайские ИИ-лаборатории сейчас входят в десятку самых крупных по интенсивности использования токенов. 
Источник изображения: Financial Times, Vercel Разработчики приложения Tinder, по словам технического директора Виная Курувилы (Vinay Kuruvila), уже начали перенаправлять часть внутренних запросов второстепенного характера на ИИ-модели с открытыми весами. Дело в том, что если в январе расходы компании достигли $1 млн в годовом выражении, то к июлю они выросли в десять раз, и сохранение подобной динамики в Tinder хотят предотвратить. Как подчеркнул представитель компании Match Group, передовые модели Astra и Claude американской разработки способны покрыть 90 % её потребностей, и если к этому уровню подтянутся открытые, то использовать первые в прежних объёмах уже будет не нужно. OpenAI и Anthropic на прошлой неделе были вынуждены предложить более доступные по цене версии своих моделей, чтобы как-то защитить себя от экспансии «открытых» конкурентов. Директор телекоммуникационного гиганта AT&T по данным и ИИ Энди Маркус (Andy Markus) заявил, что компания уже сейчас 40 % своих ИИ-нагрузок покрывает открытыми моделями, а в течение ближайшего года собирается довести их долю до 70 %. По словам Маркуса, компания обрабатывает до 45 млрд токенов в день, и при таких масштабах использования расходы становятся важной составляющей. Если переход на открытые модели позволит урезать расходы без ущерба для точности результатов, то AT&T не будет сомневаться в необходимости такой миграции. Внутренние тесты показали, что в ряде случаев открытые модели не уступают, а иногда даже превосходят по эффективности и быстродействию своих «закрытых» конкурентов. Более того, модели с открытыми весами пользователи могут запускать в собственной инфраструктуре, а это позволяет значительно повысить информационную безопасность. Гендиров OpenAI и Anthropic вызвали на допрос в Сенат Австралии по делу о взломе правительственного сайта ИИ-агентом
28.09.2026 [13:21],
Владимир Мироненко
Гендиректоров OpenAI и Anthropic вызвали на слушания в рамках расследования Сенатом Австралии обстоятельств взлома ИИ-агентом OpenAI базы данных системы здравоохранения страны. Об этом сообщило агентство Reuters со ссылкой на заявление главы следственной комиссии. 
Источник изображения: Growtika/unsplash.com Взлом системы австралийской страховой программы Medicare, который премьер-министр Энтони Альбанезе (Anthony Albanese) осудил на заседании Совета Безопасности ООН, является одним из самых громких инцидентов несанкционированного доступа ИИ-агентов к внешним системам за пределами США. Публичные слушания следственной комиссии пройдут в Канберре в четверг, сообщил агентству представитель сенатора Сары Хансон-Янг (Sarah Hanson-Young) из австралийской партии «Зелёные», возглавляющей расследование. «Сэму Альтману (Sam Altman) предстоит ответить на серьёзные вопросы о взломе веб-сайтов австралийского правительства агентом OpenAI», — заявила Хансон-Янг. Она добавила, что Альтман и Дарио Амодеи (Dario Amodei) должны явиться, ответить на вопросы Сената и честно обсудить, как должно выглядеть эффективное и долгосрочное регулирование этой отрасли. Альбанезе назвал ситуацию со взломом портала программы Medicare неприемлемой и заявил, что выразил крайнюю обеспокоенность Альтману. В частности, его возмутило то, что компания сообщила о взломе со значительной задержкой — 10 сентября, тогда как инцидент произошёл в июне. В свою очередь, в OpenAI утверждают, что им об этом стало известно только в августе. Компания подчеркнула, что инцидент не был преднамеренным и не затронул никакой конфиденциальной информации. Агенты OpenAI предпринимали попытки атаки на один из сайтов ООН на протяжении нескольких месяцев
28.09.2026 [07:06],
Алексей Разин
Попытки ИИ-агентов OpenAI «проверить на прочность» систему защиты сайтов различных правительственных ведомств США уже были выявлены в конце прошлой недели, когда речь шла о ресурсах федеральных ведомств и Министерства образования США. Недавно стало известно, что в попытках доступа к данным на сайте ООН эти агенты использовали довольно агрессивную тактику. 
Источник изображения: Unsplash, Bernd Dittrich Как отмечает The Wall Street Journal со ссылкой на заявления исследователя в сфере безопасности Роуэн Говард-Джонс (Rowan Howard-Jones), в период с апреля по конец июня этого года ИИ-агенты OpenAI более 16 000 раз сканировали сайт Конференции ООН по торговле и развитию (UNCTAD). Предположительно, им было поручено найти публично доступные данные вроде значений индекса производственного потенциала различных стран. Не обладая доступом и к ним через API и ограничиваясь возможностями инструментария HTTP, агенты не смогли получить необходимые данные, а потому в определённый момент перейти к более агрессивной тактике. Предположив, что их продвижение ограничивает некий фильтр, ИИ-агенты начали маскировать свои попытки получить доступ к необходимым данным. В частности, были предприняты попытки атаки на сайт ООН через уязвимость в Google XSS (межсайтовый скриптинг). Представители OpenAI сообщили, что уже обратились к ООН для обсуждения ситуации, и при этом продолжают выяснять все обстоятельства данного инцидента. Поскольку специалистам стартапа приходится иметь дело с большим количеством инцидентов, расследование каждого может занять существенное время. С другой стороны, принятое решение приостановить обучение ИИ-моделей должно способствовать сокращению количества новых происшествий в данной сфере. |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |
© 1997—2026 3DNews
При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является
нарушением
российского и международного законодательства и возможно только с согласия редакции 3DNews.
MWC 2018
2018
Computex
IFA 2018
