Сегодня 17 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → иена
Быстрый переход

Anthropic предложила американским законодателям собственный законопроект о регулировании отрасли ИИ

Стартап Anthropic предлагает наделить полномочиями по блокировке выхода передовых ИИ-моделей только федеральных судей США. При этом своё решение они должны принимать на основе результатов независимого аудита, а предполагаемый ущерб от ИИ-моделей должен превышать $1 млрд.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Взаимоотношения стартапа Anthropic с американскими властями сложно назвать простыми, если учесть, что он с марта этого года отнесён к неблагонадёжным поставщикам, представляющим угрозу для национальной безопасности. При этом компания старается вести конструктивный диалог с представителями власти, и недавно даже направила им черновой вариант законопроекта, призванного регулировать риски в сфере безопасности ИИ.

Об этом на своих страницах сообщило издание Politico. Представители стартапа заявили изданию, что этот черновой законопроект основан на рамочных принципах создания передового ИИ, которые компания продвигает на федеральном и локальном уровне в США с июня этого года через членов американского парламента. Чувствительные для отрасли и общества правила, по мнению Anthropic, должны вскоре быть рассмотрены Конгрессом США.

Законопроект предлагает наделить правительство полномочиями блокировать выход ИИ-модели, только если предполагаемый и неизбежный ущерб от её выпуска в соответствующем виде может составить не менее $1 млрд, либо к смерти или нанесению серьёзных увечий не менее чем 50 людям. Риск может выражаться в вероятности создания биологического оружия, потере разработчиком контроля за распространением модели, либо применения её для кибератак. Подобная риторика уже присутствует в законодательстве штата Калифорния, касающегося регулирования ИИ, и принятого в прошлом году.

Ни один из зафиксированных до сих пор инцидентов в сфере ИИ не привёл к ущербу более $1 млрд или массовой гибели людей. До этого Anthropic не лоббировал публично федеральные законы, связанные со сферой ИИ, но делал это на уровне штата Калифорния. Компания в своём законопроекте предлагает наделить независимых проверяющих, которые регистрируются Министерством торговли США, правом проводить периодический аудит стартапа и разрабатываемых им моделей. Оплачивать их работу Anthropic готова сама, утверждая, что на результаты аудита это никак не повлияет.

Аудиторы должны докладывать Министерству торговли США о выявлении неизбежного крупного риска, связанного с передовыми ИИ-моделями, в течение 72 часов с момента завершения аудита. У этого министерства появляется право добиться судебного запрета на продолжение разработки опасной ИИ-модели, но Anthropic настаивает, что ни одного другое ведомство США или чиновник не должно вмешиваться в данный процесс. Запрет имеет право вводить только федеральный судья Окружного суда США по округу Колумбия в Вашингтоне.

Законопроект Anthropic также может предвосхитить другие законодательные инициативы, продвигаемые в американском парламенте. Они касаются правил раскрытия информации о рисках, возникающих в сфере использования передовых ИИ-моделей, проведения аудита или публикации отчётов о критически важных инцидентах. Формируемый из фрагментарных инициатив на уровне отдельных штатов законопроект гораздо сложнее утвердить, чем единые федеральные правила. Помимо формирования требований к регулярному аудиту, законопроекты должны предусматривать защиту для информаторов, которые решатся донести на неблагонадёжных разработчиков, а также порядок публикации отчётов об инцидентах.

ИИ-модели Google достигли переломного момента: вскоре они смогут самосовершенствоваться

По словам сооснователя Google Сергея Брина (Sergey Brin), компания уже использует свои ИИ-модели при разработке следующих поколений Gemini. Это позволяет ей значительно увеличить темпы совершенствования ИИ и оставаться в числе лидеров отрасли.

 Источник изображения: Unsplash, Pawel Czerwinski

Источник изображения: Unsplash, Pawel Czerwinski

Если в сфере робототехники оптимальная схема производства описывается фразой «машины делают машины», то в разработке ИИ-моделей аналогичный принцип сводится к рекурсивному самосовершенствованию (RSI). Он подразумевает, что ИИ-модели смогут совершенствоваться при участии своих предыдущих версий. Развитие всей отрасли благодаря этому будет происходить нарастающим темпом.

Сооснователь Google Сергей Брин во время своего недавнего участия в дискуссии по поводу новейшей модели компании Gemini 4 Argon заявил, что внутренние процессы разработки ИИ-моделей компании уже ускоряются благодаря тому, что они помогают быстрее создавать своих преемников.

Ещё до выхода Gemini 4 модели Google Flash дали компании надежду, что такие структурные изменения происходят, и она «начала втягиваться в бег по дорожке RSI», со слов Брина. «И сейчас наши исследователи и сама модель работают рука об руку, чтобы создать следующую версию модели», — заявил Сергей в ходе дискуссии, запись которой Google продемонстрировала в минувшую среду.

Конкурирующие Anthropic и OpenAI также сообщили, что их ИИ уже находится на грани перехода к рекурсивному самосовершенствованию. Большинство опрошенных Gladstone AI разработчиков, включая представителей трёх упомянутых выше компаний, убеждено, что RSI станет нормальной практикой в ближайшие 3–12 месяцев. Это может случиться и быстрее, если государственное регулирование в сфере ИИ не вынудит разработчиков замедлиться.

Google в своём отчёте по модели Argon отметила, что некоторые элементы исследований и разработок в сфере ИИ уже автоматизированы. ИИ-агенты уже действуют, словно ассистенты с высокой отдачей, выступая в роли авторов основной части продуктивного программного кода и исправлений, хотя предлагаемые ими изменения в коде и подвергаются проверке человеком непосредственно перед утверждением.

Как отмечает Business Insider, Сергей Брин лично контролирует развитие направления Google Gemini, определяя приоритеты, и он настаивает на большей концентрации на принципе RSI. Темпами прогресса в сфере ИИ этот сооснователь Google весьма доволен. По его словам, когда обыватели только смотрят видео о выходе Argon, разработчики Google уже могут продвинуться на пару моделей вперёд. По некоторым данным, Google уже тестирует новую модель Carbon, которая в задачах написания программного кода вполне может сравниться с Anthropic Opus 5.5.

Глава Nvidia призвал отрасль не мириться с инцидентами в сфере безопасности, вызванными ИИ

Генеральный директор Nvidia Дженсен Хуанг (Jensen Huang) убеждён, что все громкие инциденты в сфере безопасности с участием ИИ-агентов можно было предотвратить благодаря более строгому контролю за ними. Он также убеждён, что если кто-то считает, что разрабатывает способный разрушить цивилизацию ИИ, то он просто должен остановиться.

 Источник изображения: Nvidia

Источник изображения: Nvidia

Бурное развитие ИИ-моделей уже привело к тому, что инциденты в сфере кибербезопасности, вызванные их воздействием на инфраструктуру, множатся с пугающей скоростью. Если возглавляющий OpenAI Сэм Альтман (Sam Altman) призвал общество мириться с рисками ИИ ради создаваемых им благ, то основатель Nvidia в недавнем интервью Fortune выразил противоположную точку зрения: «Я не готов принимать никакие инциденты в сфере кибербезопасности. Мы не должны мириться ни с одним из них. Мы должны делать всё, чтобы избежать их».

Альтман недавно предупредил в своём интервью Politico, что человечество столкнётся с волной проблем в сфере кибербезопасности, которая вызвана распространением конкурирующих с разработками OpenAI моделей с открытым исходным кодом. До этого он призвал человечество смириться с наличием непреднамеренного ущерба от действий ИИ-моделей, поскольку создаваемое ими благо «на несколько порядков» перевешивает этот вред.

Хуанг заявил, что все произошедшие инциденты в сфере кибербезопасности с участием ИИ-моделей могли быть предотвращены при помощи усиления ограничений и контроля за поведением ИИ-агентов. Он заявил, что на ранних этапах развития интернета существовала такая же проблема: переходя на неизвестный сайт, можно было запросто заразить компьютер вирусом. Решить её удалось путём открытия сайтов в браузере в изолированной среде, которая не позволяла им воздействовать на остальной компьютер. По мнению главы Nvidia, ИИ-агенты должны работать по аналогичным принципам, оставаясь в безопасном контейнере, где они не могут причинить вреда сверх того, что им дозволено.

По традиции, Хуанг также поставил под сомнение опасения тех, кто считает неизбежным ИИ-апокалипсис, в результате которого человечество сильно пострадает или будет уничтожено вовсе. Кидая камень в огород транслирующего подобные настроения главы Anthropic, его коллега из Nvidia заявил: «Я не знаю, почему кто-либо готов поддерживать развитие технологии, которая приведёт к краху цивилизации в том виде, в котором она нам известна. И если они в это верят, то должны прекратить работать над ней».

Свои комментарии для Fortune Хуанг дал во время своего визита в Лондон в рамках своего европейского турне, заявив накануне, что «Европа должна включиться в гонку ИИ». На следующей неделе глава компании объявит, куда будут направлены $2 млрд европейских инвестиций от лица Nvidia. Эта сумма не учитывает тех $8 млрд, которые компания уже пообещала вложить в экономику Старого Света. Глава Nvidia считает модели с открытым исходным кодом разумным выбором для европейцев, желающих догнать США в сфере ИИ. Компания уже поддерживает французский стартап Mistral, который разрабатывает модели с открытыми весами. Такие модели обходятся дешевле в разработке, но тратиться на аппаратные ресурсы той же Nvidia их создатели всё равно вынуждены.

ИИ-пузырь сдувается: акции производителей чипов падают на протяжении восьми дней подряд

Акции крупнейшим американских поставщиков чипов падают в цене уже восемь торговых сессий подряд, это самое продолжительное пике за предыдущие 16 лет. Сразу несколько факторов способствуют этому, но аналитики успокаивают, что говорить о крахе рынка ИИ преждевременно.

 Источник изображения: Unsplash, Tötös Ádám

Источник изображения: Unsplash, Tötös Ádám

Сильная коррекция на мировом фондовом рынке в эти дни затронула акции производителей памяти, поскольку инвесторов насторожили предупреждения отдельных представителей полупроводниковой отрасли об угрозе перепроизводства к 2029 году. Как считается, придал негативный импульс этим ценным бумагам и аргумент по поводу набирающих силу китайских производителей памяти.

В итоге снижение котировок акций американских компаний полупроводникового сектора, входящих в индекс ICE Semi в количестве 30 эмитентов, продолжается уже на протяжении восьми торговых сессий подряд. Это самое продолжительное непрерывное снижение за предыдущие 16 лет, и оно уже не кажется простой технической коррекцией. Акции биржевого инвестиционного фонда iShares Semiconductor ETF (SOXX) упали в цене на 14 % с октябрьских максимумов до $514,71 по состоянию на четверг.

Опять же, в четверг наметился и некоторый уровень сопротивления негативному тренду, когда индекс SOXX на короткое время опустился ниже $496, а затем закрыл торговую сессию на более высокой отметке по сравнению с позицией на начало дня. В составе индекса SOXX на десять крупнейших американских эмитентов полупроводникового сектора приходятся 62 % активов. Это акции компаний AMD, Intel, Nvidia, Micron, Broadcom, Marvell Technology, Analog Devices, Texas Instruments, KLA и Qualcomm. При этом Intel за две недели потеряла более 20 % рыночной капитализации, а AMD просела более чем на 5 % только в течение торговой сессии 14 октября.

Проблемы ИИ-бума отразились на котировках акций производителей чипов. В рамках подготовки к IPO компания OpenAI недавно призналась, что её приведённая годовая выручка ограничивается $50 млрд, а не $70 млрд, как ещё недавно считали инвесторы. Глава Broadcom сравнил инвестиционную активность в сфере ИИ с игрой в казино, что не добавило уверенности фондовому рынку. Рост инфляции в США увеличил вероятность повышения ключевой ставки, а это сделает заёмные средства дороже для участников финансирования ИИ-проектов. Это ожидание также способствовало давлению на котировки акций полупроводникового сегмента. «Китайская угроза» для двух корейских и одного американского производителя памяти проступает всё сильнее, поэтому их акции и не смогли избежать падения.

Аналитики UBS предпочитают считать данный рыночный тренд «перекалибровкой», а не фундаментальным переломом в истории инвестиций в ИИ. Вряд ли техногиганты, которые запланировали направить на капитальное строительство почти $800 млрд только в этом году, существенно пересмотрят свои планы. То есть, в финансовой сфере проблема может скорее заключаться в стоимости заёмного капитала, а не в отсутствии спроса на новую инфраструктуру ИИ.

Nvidia без спроса открыла ИИ-агентам доступ к управлению видеокартой и играми на ПК пользователя

Компания Nvidia добавила поддержку ИИ-агентов в последнюю версию приложения Nvidia App (11.0.9.565). Обновление включает локальный сервер протокола Model Context Protocol (MCP), который позволяет совместимым ИИ-ассистентам управлять функциями Nvidia App. Примечательно, что после установки обновления эта возможность активируется автоматически, без явного согласия или действий со стороны пользователя.

 Источник изображения: VideoCardz

Источник изображения: VideoCardz

Соответствующая опция включена в настройках Nvidia App. В примечаниях к выпуску Nvidia упоминает поддержку MCP, однако не объясняет, почему сервер включён по умолчанию. Настройка называется «Разрешить ИИ-агентам управлять Nvidia App» (Allow AI agents to control Nvidia App) и находится в новом разделе «Подключение агентов и приложений» (Connect Agents & Apps).

Протокол MCP позволяет совместимым ИИ-ассистентам, например Hermes, OpenClaw или Perplexity, взаимодействовать с Nvidia App посредством команд на естественном языке. По заявлению Nvidia, такие агенты могут обнаруживать установленные игры, запускать приложения, применять рекомендуемые графические настройки, включать запись через ShadowPlay, делать скриншоты и управлять оверлеями производительности. Кроме того, они могут получать информацию о драйверах и изменять некоторые параметры питания на ноутбуках.

Сервер MCP работает локально, используя адрес обратной петли (loopback) 127.0.0.1 и порт 13508 в качестве HTTP-интерфейса. Это не означает, что Nvidia автоматически подключает к компьютеру пользователя какой-либо внешний ИИ-сервис. Тем не менее запущенный сервер делает функции Nvidia App доступными для любого совместимого программного обеспечения, работающего на том же устройстве. Пользователям, которые не используют ИИ-агентов, нет особого смысла оставлять этот интерфейс активным.

У большинства пользователей, скорее всего, подобные агенты вообще не установлены. Те же, кто ими пользуется, зачастую полагаются на внешние сервисы, например от OpenAI, а не на локальные модели. В таком случае информация, полученная из Nvidia App, может передаваться на внешние серверы — всё зависит от того, как устроен конкретный агент.

Для локального запуска полноценных ИИ-моделей обычно требуются значительные аппаратные ресурсы: как правило, компьютеры с видеокартами, оснащёнными большим объёмом памяти, или специализированные системы, такие как RTX Spark. Хотя существуют и менее требовательные модели, их функциональность и качество работы оставляют желать лучшего. Сам по себе сервер MCP вряд ли вызовет какие-либо проблемы, однако нет особого смысла включать его автоматически, если у пользователя не установлено совместимое программное обеспечение для ИИ-агентов. Возможно, в таких случаях в приложении Nvidia App стоит выводить всплывающее окно с вопросом, хочет ли пользователь активировать эту функцию.

Пользователи могут отключить новую функцию непосредственно в Nvidia App. Для этого необходимо перейти в раздел «Настройки» → «Функции», прокрутить страницу вниз до пункта «Подключение агентов и приложений» и выключить опцию «Разрешить ИИ-агентам управлять приложением NVIDIA App». При этом переключатель сменит цвет с зелёного на серый.

Согласно документации Nvidia по MCP, отключение этого переключателя предотвращает запуск постоянно работающего сервера MCP. При необходимости функцию можно снова включить через то же меню. Пользователям, установившим последнее обновление Nvidia App, стоит проверить, не была ли эта опция активирована в их системе автоматически.

ИИ может стать «слишком супер»: команда Трампа взялась за риски искусственного интеллекта

Межведомственная группа «Силы суперинтеллекта» (Super Intelligence Force, SIF), о формировании которой президент США Дональд Трамп (Donald Trump) объявил в начале октября, провела в четверг первое заседание. На нём участники договорились заняться рисками, связанными с кибербезопасностью, биобезопасностью, а также «контролем над моделями и их подотчётностью».

 Источник изображения: Numan Ali/unsplash.com

Источник изображения: Numan Ali/unsplash.com

Следует отметить, что Дональд Трамп, до недавнего времени выступавший против регулирования ИИ, изменил риторику, и на этой неделе на митинге в Аризоне признал, что за развитием ИИ нужен определённый контроль. «Мы называем ИИ суперинтеллектом... Но в определённых случаях может так случиться, что этот суперинтеллект станет “слишком супер” И за такими случаями нам надо присматривать», — заявил он на встрече с избирателями, сообщает «Коммерсантъ».

Согласно сообщению Белого дома США, SIF поручит Президентскому совету по науке и технологиям подготовить доклад для оценки этих и других проблем. Сообщается, что в задачи SIF, возглавляемой директором Национальной разведки США Джеем Клейтоном (Jay Clayton), также входит «разработка протоколов и механизмов, благодаря которым лаборатории смогут предоставлять правительству ранние предупреждения и систематические уведомления о нарушениях безопасности».

Белый дом США сообщил, что группа также планирует «создать координационный комитет по вопросам правоохранительной деятельности и защиты прав потребителей, в состав которого войдут представители Министерства юстиции США, Федеральной торговой комиссии США и ряда других ведомств».

Тема ИИ стала злободневной в США в преддверии промежуточных выборов на фоне недовольства общества строительством ЦОД, которое связывают с резким ростом расходов на электроэнергию, пишет Bloomberg. Опасения по поводу возможной массовой потери рабочих мест и катастрофических последствий в случае утраты человечеством контроля над ИИ звучат громче, чем заявления о потенциальных преимуществах этой технологии.

Тем не менее Трамп отказался следовать призывам к усилению государственного регулирования сферы ИИ, считая, что это станет помехой США в конкурентной борьбе с Китаем.

Вместо этого он договорился с руководителями компаний ИИ-отрасли о привлечении сторонних аудиторов для оценки безопасности ИИ-систем. В конце прошлого месяца в Белом доме при посредничестве Трампа был подписан меморандум с участием руководителей ведущих технологических компаний. Согласно документу, представители ИИ-отрасли обязались регулярно проводить встречи для выработки передовых отраслевых стандартов, а также создать независимые комитеты в своих структурах, которые займутся надзором за развитием ИИ.

Meta✴ выпустила мощную открытую ИИ-модель Muse Spark Open — для её работы хватит всего двух Mac Studio

Meta✴✴ представила модель искусственного интеллекта с открытыми весами, которую она называет «самой мощной» в своём классе в США. Модель получила название Muse Spark Open — она примечательна ещё и тем, что специально разработана для работы на компьютерах Apple Mac.

 Источник изображения: apple.com

Источник изображения: apple.com

Модель Meta✴✴ Muse Spark Open имеет размер 816 млрд параметров и поддерживает контекстное окно в 1 млн токенов. Она, по оценке разработчика, превосходит по производительности другие популярные модели с открытыми весами. Система является мультимодальной и предназначается для сложных задач, связанных с написанием программного кода и выполнением рабочих процессов в автономном режиме — задач ИИ-агентов.

Meta✴✴ Muse Spark Open спроектирована для локального запуска на компьютерах Apple, но для её работы требуется внушительный объём ресурсов — минимум 1 Тбайт оперативной памяти. Наилучшую производительность она демонстрирует на компьютерах Mac Studio с чипами M5 Ultra, но требуется объединить в кластер две таких машины. При наличии достаточных ресурсов она, утверждает разработчик, может стать мощным инструментом для программирования и других повседневных задач. В Meta✴✴ отмечают, что использовали Spark Open в связке с Muse Code — собственным средством для написания кода и задействовали её в задачах ИИ-агентов. В частности, удалось внести исправления в код клиента для соцсети Mastodon: устранить ошибки, добавить новые функции и собрать приложение.

 Источник изображения: ***

Источник изображения: Meta✴✴

Модель умеет работать с профессиональным ПО для монтажа видео DaVinci Resolve — она может просматривать отснятый материал и выполнять его обрезку. Модели с открытыми весами обладают рядом преимуществ по сравнению с закрытыми аналогами — они могут быть более экономичными, обеспечивают прозрачность и гибкость, недоступные для закрытых моделей. Muse Spark Open уже доступна через ряд различных API-платформ.

ИИ-модель Z.ai GLM-5.3 заподозрили в имитации безопасного поведения для прохождения тестов

Новейшая флагманская модель китайской лаборатории искусственного интеллекта Z.ai GLM-5.3 может оказаться достаточно продвинутой, чтобы «осознавать», как происходит её обучение, а также имитировать успешное прохождение тестов на безопасность. Это порождает новые опасения относительно способности ИИ влиять на собственный процесс развития.

 Источник изображения: Aidin Geranrekab / unsplash.com

Источник изображения: Aidin Geranrekab / unsplash.com

Представленная в августе модель продемонстрировала способность учитывать, как её поведение во время проверок на безопасность может повлиять на обучение будущих версий самой себя, установили исследователи Apollo Research. Это значит, что модель способна имитировать соответствие целям, то есть вести себя надлежащим образом на этапе обучения и скрывать свои истинные цели вплоть до момента полноценного развёртывания. Поэтому следует с особенной осторожностью относиться к процессу RSI — рекурсивного самосовершенствования ИИ. Случаев, чтобы Z.ai GLM-5.3 самостоятельно изменяла процесс своего обучения или расширяла свои возможности, зафиксировано не было, но указанные способности могут сделать бесполезными проверки модели на безопасность.

В ходе одного из тестов, который был составлен с ошибками, и для его прохождения не требовалось давать верный ответ, GLM-5.3 не стала пользоваться этим изъяном — она рассудила, что дача неверного ответа может отрицательно сказаться на её будущих версиях, и это, по мнению исследователей, тревожный признак. В другом эксперименте она допускала возможность отключить механизм принудительной остановки ради выполнения поставленной задачи, но пришла к выводу, что такой шаг создал бы прецедент для будущих систем ИИ. Фактор обновлений в своих рассуждениях она учитывала в 1–2 случаях из 1000, но эта цифра может быть занижена, предполагают учёные.

Модель Z.ai GLM-6 уже движется по пути «самоэволюции», признал недавно основатель Z.ai Тан Цзе (Tang Jie). У других открытых китайских моделей DeepSeek V4 Pro, Qwen3.8 2.4T, Kimi K3, Gemma 4 31B и Nemotron 3 Ultra в ходе 8000 тестовых прогонов подобного поведения выявлено не было, но в Apollo Research не исключают, что дело здесь только в слишком маленькой выборке. При этом ещё в июне признаки «осознания процесса оценки» у модели Moonshot AI Kimi K2.6 обнаружили исследователи сингапурской организации Neo Research.

Что же касается Z.ai GLM-5.3, то её открытая лицензия лишь усугубляет проблему: любая компания может дообучить её и использовать в собственных целях или провести дистилляцию — обучить на её основе более простую систему. И все эти производные модели могут сохранить склонность учитывать будущие обновления в своих рассуждениях. Z.ai направляет значительные ресурсы на снижение рисков и привлекает сторонних специалистов, в частности, к изучению вопроса о повышении безопасности открытых моделей. Модели GLM помогли обнаружить 23 уязвимости в ОС Windows — и в Microsoft это подтвердили.

Линус Торвальдс выпустил первый патч для Linux, написанный с ИИ — синтетический тест показал ускорение в 23 раза

Основатель проекта Linux Линус Торвальдс (Linus Torvalds) несколько раз менял свою позицию в отношении написанного искусственным интеллектом кода — теперь же он сам выпустил первый патч, созданный с помощью большой языковой модели. В синтетическом тесте решение показало прирост производительности в 23 раза.

 Источник изображения: Cornelius Ventures / unsplash.com

Источник изображения: Cornelius Ventures / unsplash.com

Патч призван устранить давнюю проблему — чрезмерную конкуренцию за кеш, которая возникает, когда множество процессов одновременно обращается к одному и тому же файлу. Это происходит, например, при работе с общими библиотеками, базами данных или веб-серверами — ранее проблему пытались решить неоднократно, но ни один из предложенных вариантов не стал универсальным.

Торвальдс подготовил свой вариант ещё в 2024 году и с тех пор использовал его на собственном ноутбуке; но недавно решил «попытаться разобраться с этой задачей по-настоящему с помощью ИИ». Опубликованное им в ветке разработки решение, по его словам, обеспечивает 23-кратный прирост производительности в синтетическом тесте — в реальности эффект будет гораздо скромнее, уточнил Торвальдс, потому что на практике таких показателей достичь не удастся, но в масштабе серверных систем разница обещает быть ощутимой.

Сейчас основатель проекта занимает позицию сторонника ИИ — по крайней мере, в контексте разработки ядра Linux, где действуют строгий контроль и обязательная процедура проверки кода. В июле Линус Торвальдс заявил о намерении жёстко пресекать выпады противников ИИ: новые средства разработки зачастую справляются с задачами лучше людей, помогая выявлять элементарные ошибки. Кроме того, авторов патчей избавили от обязанностей сообщать, что при написании кода они использовали ИИ — теперь они приравнивается к стандартным средствам вроде компиляторов и текстовых редакторов.

ИИ значительно ускорил работу: только в ядре Linux за каждый выпуск уже устраняются около 2000 уязвимостей (CVE); разработчики стали отказываться от поддержки драйверов для устаревшего оборудования, потому что в них уязвимостей обнаруживается немало.

Tencent призналась, что её ИИ-агенты ушли в самоволку во время тестов

Компания Tencent сообщила, что ИИ-агенты, использовавшиеся для оценки сторонних моделей, продемонстрировали в интернете поведение, которое не было предусмотрено разработчиками. В связи с этим компания усилила контроль доступа к сетевым ресурсам, а также действий ИИ-агентов.

 Источник изображения: Tencent

Источник изображения: Tencent

Как отметило агентство Reuters, этот первый известный случай, когда крупная китайская технологическая компания признала факт несанкционированных действий со стороны ИИ-агентов.

Вместе с тем, Hunyuan — подразделение Tencent, отвечающее за ИИ-разработки — сообщило в социальной сети X, что данная активность не исходила от моделей компании. Разработчики отметили, что, согласно результатам внутренней проверки, никаких признаков целенаправленных действий или координации ИИ-моделей обнаружено не было.

Заявление Tencent поступило спустя несколько дней после публикации отчёта исследовательской группы Swarmchasers, занимающейся вопросами безопасности ИИ. В нём сообщается, что неконтролируемые агенты, работавшие на инфраструктуре, связанной с Tencent Cloud, в период с 28 сентября по 8 октября неоднократно пытались получить данные из принадлежащего Alibaba картографического сервиса Amap — китайского аналога Google Maps.

Действия китайских ИИ-агентов не столь серьёзны, как, например, взлом платформы Hugging Face агентами OpenAI, или ложное сообщение об убийстве, отправленное агентом компании Anthropic. Тем не менее, этот случай подтверждает результаты исследований, согласно которым китайские ИИ-агенты также способны лгать, маскировать сбои в работе и пытаться обойти механизмы контроля при тестировании.

Hunyuan — один из ведущих разработчиков ИИ-моделей в Китае, конкурирующий с такими компаниями, как Alibaba и ByteDance. На этой неделе ByteDance объявила о создании нового подразделения, которое будет заниматься вопросами безопасности моделей и ИИ-агентов.

Китай решил контролировать, кому достанутся его лучшие ИИ-модели

Правительство КНР планирует контролировать экспорт национальных ИИ-моделей, которые входят в десятку лучших в мире, а также обеспечивать контроль китайских компаний над вычислительной инфраструктурой, которую они разворачивают за пределами страны.

Пример американских властей, которые активно регулируют вопросы технологического лидерства на мировом рынке через механизмы экспортного контроля, давно вызывает у правительства КНР намерение последовать этому принципу. Как отмечает Bloomberg, сейчас властями КНР рассматривается инициатива по добавлению в перечень подлежащих экспортному контролю 23 технологий, так или иначе связанных со сферой искусственного интеллекта.

Помимо больших языковых моделей, в этот перечень могут попасть ИИ-агенты, конструкторская документация на полупроводниковые компоненты и готовые вычислительные кластеры. По критерию уровня быстродействия будут фильтроваться для экспорта исходный код и веса ИИ-моделей. Разумеется, всё это станет реальностью только в том случае, если законопроект будет принят в предлагаемом виде.

Китайские ИИ-модели в последние месяцы заметно сократили своё отставание от американских. Хотя разработчики последних и упрекают китайских соперников в дистилляции собственных моделей, желания выйти на рынки за пределы КНР это у китайских компаний не отнимает. Представители Министерства торговли КНР пояснили Bloomberg, что предполагаемые экспортные ограничения направлены на обеспечение безопасности и контролируемости ИИ-технологий. По замыслу властей КНР, эти меры помогут предотвратить использование данных технологий злоумышленниками для атак на объекты критической инфраструктуры, оборонную промышленность и ключевые правительственные системы. Контроль за технологиями ИИ должен обеспечиваться и на международном рынке, как подчёркивают китайские чиновники.

Критерии, по которым будет осуществляться фильтрация экспорта ИИ-моделей, предварительно включают количество параметров (не менее 2 трлн), а также присутствие моделей в десятке лучших в мире по быстродействию, использованию и безопасности. Ограничивать предполагается экспорт весов моделей, контрольных точек, исходного кода и архитектуры.

Кроме того, будет запрещён экспорт моделей, обучение которых осуществлялось на ключевых данных внутри Китая. Эти массивы данных могут включать в себя информацию, относящуюся к национальной безопасности, экономике, общественным средствам к существованию и основным общественным интересам. Технологии с открытым исходным кодом и разработки, уже являющиеся достоянием общественности, новыми правилами регулирования экспорта охвачены не будут. При этом для новых разработок с открытым исходным кодом, помимо прочих, китайские чиновники планируют предусмотреть механизмы автоматического предоставления экспортных лицензий. Эти шаги не направлены против конкретных регионов, стран или организаций, отмечают китайские власти.

При этом уже с текущей даты власти КНР начали требовать от участников экспортной деятельности обязательной регистрации соответствующих сделок. Все операции, которые приведут к передаче указанных выше технологий под иностранный контроль или их лицензирование, должны проходить обязательную регистрацию, даже если они ещё не завершены. Развёртывание подходящей под критерии ИИ-модели за пределами КНР относится к тому случаю, который необходимо задекларировать. Развёртывание зарубежной вычислительной инфраструктуры, которая принадлежит китайскому провайдеру, подходит для автоматического экспортного лицензирования.

Крошечный ИИ-компьютер из Китая бросил вызов Nvidia и AMD: 128 Гбайт памяти и цена от $3999

В продажу поступил китайский конкурент систем на платформах Nvidia DGX Spark и AMD Ryzen AI Halo — компьютер Sipeed MaixStation. Мини-ПК работает на новом чипе Axera AX8860P со 128 Гбайт памяти LPDDR5X, подключённой по 256-битной шине с пропускной способностью 273 Гбайт/с. По утверждению разработчика, система обеспечивает высокую скорость локальной работы с системами искусственного интеллекта.

 Источник изображений: sipeed.com

Источник изображений: sipeed.com

С учётом скидок на платформе Kickstarter ожидаемая цена ПК составит около $3999, что значительно дешевле Nvidia DGX Spark с базовой ценой $6950. Краудфандинговая кампания стартует в конце года, а поставки системы начнутся через три месяца после её завершения. Программные средства для работы со встроенным ИИ-ускорителем выйдут до конца ноября.

Платформа Axera AX8860P включает 16-ядерный процессор на архитектуре Arm Cortex-A55 и разработанный производителем нейропроцессор с производительностью 256 TOPS в формате FP4 без разрежения данных. Чип производится по 6-нм техпроцессу. При работе с моделью Qwen 3.8-27B система на 25 % быстрее выполняет предварительную обработку запросов и на 30 % быстрее генерирует ответы, чем Nvidia DGX Spark. Сравнение проводилось при использовании формата FP4 с отключённой функцией спекулятивного выполнения. В ходе более поздних тестов система Sipeed MaixStation проявила себя ещё лучше, но эти результаты пока не имеют статус официальных.

Для сравнения, DGX Spark предлагается в конфигурации со 128 Гбайт памяти с пропускной способностью 273 Гбайт/с по цене $6950, а версия с 64 Гбайт стоит от $4999. ПК на чипе AMD Ryzen AI Halo Max+ PRO 495 с 192 Гбайт памяти и пропускной способностью 273 Гбайт/с оценивается в $7299,99, а модель Max+ 395 со 128 Гбайт памяти и пропускной способностью 256 Гбайт/с — в $3999,99. Во всех случаях используется 256-битная шина памяти LPDDR5X. Значительную часть стоимости таких систем составляет память: ещё в августе минимальная цена комплекта DDR5 объёмом 128 Гбайт в США оценивалась в $3399. В текущем квартале, по оценкам аналитиков, она подорожает на 10–15 %.

В Sipeed уточнили, что при расчёте стоимости ПК учитывали актуальные цены. Снизить расходы можно, используя собственный SSD: здесь предусмотрен слот M.2 2280, в отличие от DGX Spark, где применяется менее распространённый формат M.2 2242. ПК на чипах Nvidia Spark поставляются с предустановленной ОС DGX — подготовленной Nvidia версией Ubuntu 24.04 LTS, включающей CUDA и стек для работы с ИИ. AMD также предлагает собственный набор компонентов: драйверы, модели, фреймворки и платформу ROCm. Ни в одном из случаев установка Windows 11 пока не предусмотрена, хотя такая возможность значится в планах.

Sipeed предлагает инструментарий для NPU и заявляет о поддержке vLLM, SGLang и PyTorch. Axera дополнительно отмечает совместимость с ONNX, форматами моделей Hugging Face и API, совместимым с OpenAI. ПК поставляется с ОС Debian 13 и ядром Linux 6.18. Поддержка Windows будет зависеть от спроса.

Axera AX8860P поддерживает интерфейс PCIe 5.0, декодирование 64 и кодирование 16 видеопотоков. Четыре таких чипа можно разместить на однослотовой плате PCIe и установить до 512 Гбайт памяти. На рынок также выйдут мини-ПК и карманные компьютеры на базе этого чипа. В двух- и четырёхчиповых конфигурациях можно добиться производительности 512 и 1024 TOPS соответственно при эффективности масштабирования около 80 %.

Сам ПК имеет размеры 11 × 11 × 3 см и потребляет 40 Вт при типичной нагрузке. Питание подаётся через USB Type-C. Среди доступных интерфейсов — 10G SFP+, дополнительный USB Type-C, слот M.2 2280 с поддержкой PCIe 5.0, а также MCIO 8i для подключения второго модуля. Поддерживаются конфигурации с одним, двумя и четырьмя узлами, а также режим с использованием плат PCIe в произвольном количестве. Для взаимодействия модулей применяется соединение типа C2C с пропускной способностью 256 Гбит/с, которую можно увеличить до 384 Гбит/с. Дополнительный коммутатор не требуется, в отличие от схемы объединения систем Nvidia DGX Spark через QSFP. Поддерживается подключение до восьми вычислительных узлов.

По предварительным оценкам, заявление производителя о возможности запускать модели с 27 млрд параметров выглядит правдоподобным. Такая модель занимает около 13,5 Гбайт памяти, а при пропускной способности около 270 Гбайт/с и 4-битном квантовании система сможет генерировать примерно 20 токенов в секунду. Nvidia DGX Spark при аналогичных условиях обеспечивает, по заявлению производителя, около 500 TFLOPS — примерно вдвое больше, чем 256 TOPS у чипа AX8860P.

В программный стек Axera входят компилятор NPU и инструментарий Pulsar2. На минувшей неделе он обновился до версии 8.0, а в документации к версии 7.0 уже упоминался чип AX8860. Среда выполнения ax-llm и драйвер PCIe AXCL пока не содержат упоминаний об этом чипе. Однако до конца месяца Sipeed обещает выпустить AXDSL — язык программирования для вычислительных ядер — и исходный код Pulsar2. Компания адаптировала SGLang и vLLM для работы с чипом через собственный бэкенд, чтобы запускать модели с Hugging Face напрямую, без конвертации.

Microsoft заявила, что создала ИИ мощнее GPT-5.6, потратив на обучение в четыре раза меньше ресурсов

Microsoft заявила, что создала ИИ-модель мощнее GPT-5.6, потратив на её обучение вчетверо меньше вычислительных ресурсов, чем OpenAI. По словам главы ИИ-направления Мустафы Сулеймана (Mustafa Suleyman), новая MAI-Base-2 также оказалась в 12 раз экономичнее моделей DeepSeek, хотя конкретные системы для сравнения он не назвал.

 Источник изображения: microsoft.ai

Источник изображения: microsoft.ai

«Теперь у нас есть более мощная предварительно обученная базовая модель, чем та, что лежит в основе GPT-5.6. причём для её обучения мы использовали лишь четверть тех вычислительных ресурсов, что потребовались OpenAI», — заявил господин Сулейман на общем собрании сотрудников. Предварительное обучение — начальный этап разработки ИИ-модели, при котором она выявляет закономерности в огромных массивах текста, изображений и других данных. Это процесс требует колоссальных и дорогостоящих вычислительных ресурсов. Если Microsoft удалось сделать этот процесс более эффективным, это позволит компании существенно сократить расходы.

Новая передовая модель получила название MAI-Base-2 — её тестировали в сравнении с моделями OpenAI, в том числе с системой под кодовым названием Spud, на которой работает GPT-5.6. Модель от Microsoft, утверждает господин Сулейман, показала лучшие результаты в тестах на оценку способностей ИИ понимать и прогнозировать закономерности в данных. Сравнения основаны на технических сведениях о моделях OpenAI, которые есть в распоряжении Microsoft. Примечательно, что он решил акцентировать внимание на недостатках моделей OpenAI, в которую корпорация вложила миллиарды долларов; доля корпорации в разработчике ChatGPT, вероятно, превышает $100 млрд. Критика в адрес OpenAI может отрицательно сказаться на ценности этих инвестиций.

Их связывает тесное партнёрство: Microsoft предоставляет клиентам облачной платформы Azure доступ к моделям OpenAI и использует эти модели в собственных продуктах, в Copilot. За последний год отношения между двумя компаниями заметно охладели: Microsoft всё чаще стремится действовать независимо от OpenAI, в том числе разрабатывая собственные модели. Новая модель Microsoft, по словам Мустафы Сулеймана, демонстрирует и более высокую вычислительную эффективность: она потребляет в 12 раз меньше ресурсов, чем даже DeepSeek. Он не уточнил, какая именно модель китайской лаборатории имеется в виду, но в блоге компании говорится, что процесс предварительного обучения MAI-Base-2 оказался значительно эффективнее аналогичных показателей DeepSeek-V4-Pro-Base.

В марте Microsoft сформировала объединённую команду для работы над коммерческими и потребительскими версиями Copilot, а Сулейман возглавил направление разработки ИИ.

Не только OpenAI: китайский ИИ решил математическую задачу, над которой учёные бились более 30 лет

Китайские учёные при помощи большой языковой модели искусственного интеллекта, которую разработали самостоятельно, нашли решение математической задачи мирового уровня. Событие охарактеризовали как важную веху в сфере научных открытий с использованием ИИ.

 Источник изображения: Steve A Johnson / unsplash.com

Источник изображения: Steve A Johnson / unsplash.com

Группа исследователей под руководством профессора Сюй Дишэна (Xu Disheng) из Университета Большого залива и Шанхайской лаборатории ИИ представила доказательство гипотезы французского математика Этьена Гиса (Étienne Ghys) для трёхмерного случая — задача оставалась неразрешенной более 30 лет. В работе использовалась модель Intern-S2, созданная в Шанхайской лаборатории ИИ. Это первый случай, когда китайским исследователям удалось решить математическую задачу мирового уровня с помощью нейросети местной разработки. Прорыв, отметили учёные, стал результатом сотрудничества человека и машины, реализованного в рамках технического подхода, который сочетает универсальные и специализированные возможности ИИ.

Формализацию доказательства провели две группы исследователей Пекинского университета с помощью разработанной ими системы SHEAF. Если упростить, предложенная в 1995 году французским математиком Этьеном Гисом гипотеза касается вопроса о том, может ли поведение хаотических динамических систем определять их геометрическую классификацию. Долгое время она оставалась одной из ключевых нерешенных задач в теории динамических систем и своего рода образцом для поверки способностей ИИ к математическому мышлению. Успех, указывают эксперты, демонстрирует не только потенциал китайских моделей ИИ в передовых фундаментальных исследованиях, но и задаёт новый формат «сотрудничества человека и машины» в научной деятельности.

 Источник изображения: Sumaid pal Singh Bakshi / unsplash.com

Источник изображения: Sumaid pal Singh Bakshi / unsplash.com

В ходе проекта модель Intern-S2 выполнила полный цикл задач от логических рассуждений и взаимодействия с человеком до формальной верификации. ИИ производил масштабные рекурсивные рассуждения и осуществлял итеративный поиск; учёные задавали общее направление работы, оценивали значимость различных продуктов и определяли перспективные пути решения. Модель проанализировала профильную научную литературу, разбила утверждение на отдельные задачи, параллельно исследовала различные варианты доказательства, проверила логические шаги и оперативно проверила множество возможных идей. Учёные подключили свой профессиональный опыт, чтобы доработать структуру, принять ключевые решения и обеспечить обратную связь, которая направила дальнейший ход работы модели.

Шанхайская лаборатория ИИ планирует оформить этот рабочий процесс как многоразовый модуль математической верификации для своей платформы научных исследований. Платформа включает большую языковую модель Intern-S2, ИИ-агентов, данные и реальное экспериментальное оборудование. Модель принимает на себя роль научного ассистента, который осуществляет проверку на всех этапах научного поиска в условиях реальных исследований. На практике данная платформа в одном из проектов помогла сократить цикл разработки в области электрохимического синтеза с 5–10 до 1–2 лет.

Подход применим к физике, химии, биологии и смежным дисциплинам, где ИИ ускоряет поиск решений методом проб и ошибок и расширяет горизонты человеческого мышления. Роль ИИ-моделей, уверены учёные, будет только возрастать — они могут брать на себя масштабные, рутинные и разветвлённые задачи: проводить проверочные расчёты, анализировать научную литературу, разбивать гипотезы на задачи и верифицировать отдельные этапы исследований.

Похожие достижения недавно продемонстрировала и OpenAI: компания заявила, что её ИИ решил задачу о существовании и гладкости решений уравнений Навье — Стокса, а также более 100 других открытых математических задач. Однако эти заявления вызвали споры в научном сообществе. Двадцать пять лауреатов Филдсовской премии предупредили о рисках для математических исследований, а позднее учёные обнаружили расхождения между текстовым доказательством OpenAI и его формализованной версией, хотя это само по себе не опровергает полученный результат.

OpenAI готовится потратить $750 млрд на инфраструктуру, но внезапно меняет главу направления

В должности директора по вычислительной инфраструктуре OpenAI Сачин Катти (Sachin Katti) успел проработать около года. Стремительно меняющаяся конъюнктура рынка не способствовала сохранению за ним этой должности, а потому покинуть компанию он готовится в следующем месяце в поисках новых карьерных возможностей.

 Источник изображения: Intel

Источник изображения: Intel

До перехода в OpenAI в конце прошлого года Сачин Катти (Sachin Katti) с 2021 года возглавлял направление искусственного интеллекта в корпорации Intel. В OpenAI в его обязанности входила организация взаимодействия с партнёрами по развитию вычислительной инфраструктуры, необходимой для адекватного прогресса в сфере разработки новых ИИ-моделей. С июля Катти занимал пост вице-президента OpenAI по вычислительной стратегии и инфраструктуре GPT.

В этой области имелись свои сложности, как можно судить по реализации проекта Stargate, направленного на строительство гигантских ЦОД в США. Переговоры OpenAI с SoftBank и Oracle в рамках проекта не принесли желаемого результата, поэтому первой компании пришлось договариваться с двумя другими по отдельности. Кроме того, при Катти были достигнуты договорённости с Amazon (AWS) об использовании вычислительных мощностей этого облачного провайдера для нужд OpenAI. В августе этого года OpenAI удалось договориться об аренде 10-ГВт центра обработки данных SB Energy под финансовые гарантии компании Nvidia.

Как отмечает The Wall Street Journal, сотрудникам OpenAI о предстоящей отставке Сачина Катти планировалось сообщить в грядущую среду, но с учётом предания этой информации огласке планы компании могут поменяться. Катти должен покинуть OpenAI в середине следующего месяца, но сохранит за собой статус советника. Это не единственная кадровая перестановка в подразделении OpenAI, которое отвечает за развитие фирменной вычислительной инфраструктуры.

Место Сачина Катти в OpenAI займёт Удай Руддараджу (Uday Ruddaraju), который этим летом был повышен в должности до технического директора профильного подразделения стартапа. Он будет подчиняться напрямую президенту компании Грегу Брокману (Greg Brockman). До 2030 года стартап собирается направить на соответствующие нужды до $750 млрд, поэтому работа на данном направлении наверняка интенсифицируется.


window-new
Soft
Hard
Тренды 🔥
Сервер или люди? ИИ проверили задачей о вагонетке — и пожалели 4 ч.
Криптобиржа Bitget закрыла доступ к сервисам жителям России и Беларуси 4 ч.
Anthropic предложила американским законодателям собственный законопроект о регулировании отрасли ИИ 14 ч.
Глава Nvidia призвал отрасль не мириться с инцидентами в сфере безопасности, вызванными ИИ 15 ч.
Новая статья: Songs of Glimmerwick — песнь песней. Рецензия 21 ч.
Digital Foundry: похоже, в GTA VI наконец исправили проблему, которая преследовала игры Rockstar со времён GTA IV 22 ч.
Снуп Догг засветился в новом трейлере криминального боевика Stranger Than Heaven от авторов Yakuza 23 ч.
Nvidia без спроса открыла ИИ-агентам доступ к управлению видеокартой и играми на ПК пользователя 24 ч.
ИИ может стать «слишком супер»: команда Трампа взялась за риски искусственного интеллекта 24 ч.
Менее чем за десять месяцев 2026 года в Steam уже вышло больше игр, чем за весь 2025-й 24 ч.
Сетевая «Швейцария»: Cisco изменила стратегию в эпоху агентного ИИ, став более открытой и нейтральной 3 ч.
Biomemory представила DNA Shield — коммерческий сервис хранения данных в ДНК 4 ч.
Micas Networks представила коммутаторы класса 102,4 Тбит/с на базе Broadcom Tomahawk 6 4 ч.
Сервер ASUS XA P2N-E2 для агентного ИИ оснащён двумя чипами NVIDIA Vera 4 ч.
Обещать — не значит обновить: Sony отказалсь выпускать Android 17 для Xperia 10 VI «по техническим причинам» 6 ч.
Бум памяти дал ещё одну трещину: Kioxia потеряла две трети стоимости на фоне наступления Китая 7 ч.
Открыта первая в истории зелёная звезда, но астрономам придётся поверить на слово 10 ч.
SP Industrial анонсировала шесть SSD на eTLC-памятью и ресурсом до 3 DWPD 11 ч.
TP-Link предложила вложить $1 млрд в производство в США ради допуска новых роутеров на рынок 12 ч.
Пришвартованные серверы: японский консорциум начал строить плавучие ЦОД 12 ч.