Сегодня 19 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → иена
Быстрый переход

ИИ впервые прошёл Minecraft без помощи человека — пионером стала флагманская модель Gemini 4 Argon от Google

Флагманская модель искусственного интеллекта Gemini 4 Argon от Google записала на свой счёт новое достижение — прохождение блоковой песочницы Minecraft от Mojang Studios (принадлежит Xbox) без помощи человека.

 Источник изображения: Mojang Studios

Источник изображения: Mojang Studios

Исследователи Google DeepMind поместили четырёх ИИ-агентов Gemini 4 Argon в случайный мир Minecraft с единственной целью — победить Дракона Края. Никаких ролей, стратегий или инструментов «игрокам» не выдавали.

Персонажами агенты управляли благодаря Mineflayer (библиотека для создания программных ботов в Minecraft) и координировали действия с товарищами по команде через внутриигровой чат и общую память.

 Источник изображения: Google DeepMind

Источник изображения: Google DeepMind

С самого начала прохождения агенты разделили роли (janesick мастерил инструменты, gyldenia искал ресурсы и так далее), предупреждали друг друга об опасностях, давали советы и указания, а также подбирали вещи погибших соратников.

Весь процесс занял 27 часов и 14 минут. За это время агенты не только победили Дракона Края (последний удар нанёс bulicame), но также запустили 2783 программы, написали 229 сообщений друг другу и 605 раз погибли.

 Источник изображения: Google DeepMind

Источник изображения: Google DeepMind

«Насколько нам известно, это первый случай полностью самостоятельного прохождения Minecraft от начала и до конца ИИ-агентами со стандартной библиотекой Mineflayer и без предварительного изучения [ключей генерации мира] или каких-либо других созданных людьми инструментов для игры», — отметила команда Google DeepMind.

В сумме агенты потратили 1,35 млрд токенов — стоимость эксперимента составила $810 по расценкам Gemini ($1620 по стандартным расценкам). Полный отчёт о приключениях Gemini 4 Argon в Minecraft доступен на сайте arXiv.

Глава Konami считает разработчиков игр важнее ИИ — человеческий фактор остаётся ключевым для индустрии

Президент Konami Digital Entertainment Хидэки Хаякава (Hideki Hayakawa) в свежем корпоративном отчёте призвал не переоценивать влияние нейросетей на разработку видеоигр. Руководитель убеждён, что главную роль в создании увлекательных и самобытных проектов по-прежнему играют люди, а не программные алгоритмы.

 Источник изображения:  Konami

Источник изображения: Konami

Хаякава оспорил популярное мнение о том, что нейросети кардинально снизят порог входа в индустрию и изменят расстановку сил на рынке. По словам топ-менеджера, этот порог уже давно опустился благодаря общедоступным игровым движкам и развитию пользовательского контента.

«Даже если использование ИИ приведёт к повышению эффективности производства, я считаю, что важнейшими факторами в создании развлекательных и инновационных видеоигр остаются люди и авторы», — заявил глава издательства.

Хаякава добавил, что именно динамика человеческих отношений внутри коллектива рождает свежие геймплейные идеи: «Такую "химию" не так-то просто заменить». При этом Konami помогает командам безопасно осваивать новые инструменты и заранее просчитывать потенциальные риски от их внедрения.

В настоящий момент японское издательство активно развивает направление крупнобюджетных проектов после затяжной паузы, когда основной упор делался на футбольный симулятор eFootball и ретро-сборники. В производстве совершенно точно находятся новые части Silent Hill. Также несколько дней назад состоялся релиз метроидвании Castlevania: Belmont’s Curse, тепло принятой публикой.

Американский ИИ-бум на $10 трлн споткнулся о реальность: стройки буксуют, деньги и электричество заканчиваются

В США планируется вложить более $10 трлн в ИИ-инфраструктуру к 2032 году, но реализация амбициозных проектов всё чаще буксует. Инвесторы осторожничают, строительство дорожает, сроки срываются, а местные жители протестуют против новых дата-центров. Уже десятки крупных проектов столкнулись с отменой или задержками, ставя под вопрос масштаб планируемого ИИ-бума.

 Источник изображения: OpenAI

Источник изображения: OpenAI

Амбициозные планы американских ИИ-стартапов и более зрелых компаний сектора по активному развитию вычислительной инфраструктуры по мере отдаления от момента «первичной эйфории» в конце 2022 года начали упираться в суровую экономическую реальность и недовольство местных жителей, которые во многих случаях протестуют против строительства ЦОД в окрестностях. Только в этом году более 1000 общественных групп выразили свой протест против строительства ЦОД и объектов сопутствующей инфраструктуры в США, по данным Financial Times.

Как минимум 47 крупных проектов в этом году были заблокированы, отменены или столкнулись с задержкой сроков реализации, по данным RegLayer. Аналитики Bernstein в этом месяце заявили, что только около 35 % запланированных к строительству в США центров обработки данных имеют внятные шансы на реализацию и заслуживают доверия. Так называемые «неооблачные провайдеры» (neocloud), к которым относится и Nebius основателя «Яндекса» Аркадия Воложа, во многих случаях переживают не самые простые времена. В прошлом месяце Волож признался, что из требуемых на строительство 5 ГВт вычислительных мощностей около $250 млрд его компания в лучшем случае обеспечена финансированием 20 % этого объёма.

На прошлой неделе «штормило» компанию CoreWeave, которая тоже работает в этом секторе. Её акции в пике теряли 25 % и более, поскольку инфляция и рост ставки рефинансирования заметно увеличивают стоимость реализуемых проектов. Кроме того, настороженность инвесторов относительно долговечности «ИИ-пузыря» помешала некоторым компаниям выйти на IPO для привлечения средств на фондовом рынке. Даже OpenAI, которую можно считать «прародительницей» ИИ-бума, решила в этом году не выходить на биржу, объяснив такое решение и заботой о безопасности создаваемых технологий, помимо прочего.

Условия контрактов с подрядчиками по строительству ЦОД также начали их нервировать, когда стало понятно, что не все заказчики готовы вовремя предоставить денежные ресурсы в необходимом количестве, а ответственности за это они практически нести не будут. Сроки строительства начали затягиваться, тогда как выплаты по заёмным средствам необходимо делать регулярно, и бюджет проектов из-за этого только увеличивается. Участникам процесса приходится занимать на сотни миллионов долларов США больше, чем планировалось изначально.

 Источник изображения: Dell Technologies

Источник изображения: Dell Technologies

Принадлежащая SoftBank компания SB Energy, которую поддерживают OpenAI и Nvidia, ещё не построила ни одного ЦОД, а уже нуждается в $174 млрд капитальных вложений, чтобы покрыть контракты с потенциалом будущей выручки в размере $430 млрд, главным образом имеющие отношение к OpenAI. Компании пришлось отложить выход на биржу, по итогам которого она планировала оценить свою капитализацию в $50 млрд.

Ситуацию усложняют технические требования энергетических компаний в США. Во многих случаях проекты по строительству ЦОД приходится просчитывать таким образом, чтобы они могли опираться на собственные генерирующие мощности. Подключать объекты с таким уровнем энергопотребления к существующим сетям готовы далеко не все поставщики электроэнергии.

Anthropic и OpenAI на первых этапах ИИ-бума, как отмечают источники, были готовы рисковать деньгами только ради возможности ускорить расширение вычислительной инфраструктуры. В итоге их неуёмные аппетиты привели в отрасль некоторых неопытных игроков, которые сейчас попадают в сложные финансовые условия, при этом не обеспечивая заказчиков необходимыми вычислительными ресурсами. По некоторым оценкам, расходы на ИИ-инфраструктуру в США в период с 2025 по 2032 годы превысят $10 трлн, составив около 3,22 % ВВП страны в ежегодном выражении. Это заметно выше, чем доля инвестиций в инфраструктуру США в периоды всех прошлых «технологических революций». При этом деньги на строительство ЦОД в наше время становится всё сложнее заполучить.

Моддер выпустил инструмент, который с помощью ИИ превращает любую игру в кооперативную

Развитие технологий искусственного интеллекта поставило крест на традиционном обратном инжиниринге игр. Новый ИИ-проект позволяет декомпилировать любое одиночное приключение и снабдить его мультиплеером.

 Источник изображения: 3DNews

Источник изображения: 3DNews

Моддер cranebeaker представил инструмент Co-op Anything на базе ИИ-агентов (вроде Claude Code, Codex, Gemini CLI, Cursor, OpenCode и других), который автоматизирует обратный инжиниринг одиночных игр с целью добавления в них кооператива.

От пользователя требуется лишь выбрать игру из обширного каталога доступных на ПК и указать ИИ-агенту путь к репозиторию cranebeaker в GitHub. Всё остальное, согласно задумке cranebeaker, нейросеть должна сделать сама.

Разработчик обещает для каждой игры локальный и онлайновый кооператив, интеграцию со Steam и прочие улучшения: «Вам понадобится сама игра, агент для написания кода и немного терпения».

 Источник изображения: Bethesda Softworks

Источник изображения: Bethesda Softworks

В зависимости от доступности решений по реализации кооператива в той или иной игре процесс может пойти по одному из двух сценариев. Первый — ИИ-агент находит кооперативный мод, дорабатывает его, тестирует с ботами и упаковывает.

Второй — существующих решений нет, и ИИ-агент декомпилирует игру и собирает кооператив для неё с нуля. По словам cranebeaker, в этом случае процесс может растянуться на недели, а то и месяцы.

Благодаря Co-op Anything энтузиасты уже снабдили кооперативом оригинальную Deus Ex, Fallout: New Vegas, Dungeon Keeper и неофициальный порт легендарной The Legend of Zelda: Ocarina of Time с Nintendo 64.

Anthropic направит до 20 % акций на благотворительность — в том числе для борьбы с безработицей из-за ИИ

По мере роста своей капитализации Anthropic готова отдать около 20 % своих акций на нужды благотворительности. Помимо решения прочих проблем, эти средства помогут бороться с последствиями безработицы, порождаемой развитием систем искусственного интеллекта.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Идея благотворительности не чужда не только OpenAI, которой пришлось серьёзным образом менять свою организационную структуру по мере увеличения объёмов инвестиций в свой капитал, но и конкурирующему стартапу Anthropic, который готовится выйти на биржу в этом квартале. Вчера руководство Anthropic сообщило, что сегодня направит 5 % акций компании в распоряжение специально созданного Фонда общественного блага после одобрения советом директоров. Номинально эта структура будет обществом с ограниченной ответственностью, полностью принадлежащим Anthropic, а не классической благотворительной организацией, чья деятельность не облагается налогами.

По мере увеличения капитализации в распоряжение фонда будут переходить дополнительные пакеты акций: по 2 % за каждые 50 % прироста стоимости активов компании относительно определённого базового уровня. То есть, чем дороже будет становиться Anthropic, тем больше акций перейдёт в распоряжение Фонда общественного блага. При этом данные операции каждый раз потребуют одобрения со стороны совета директоров стартапа.

В составе Anthropic данный фонд сосредоточится на благотворительной активности. Он будет поддерживать средствами традиционные некоммерческие организации, а также сможет распределять блага непосредственно среди каких-то групп населения планеты. В частности, из средств фонда Anthropic может покрывать часть ущерба от влияния ИИ на рынок труда. Стартап уже выделил $200 млн на изучение этой проблемы и борьбу с её последствиями, но одновременно он осознаёт, что высокие темпы развития ИИ могут потребовать более решительных действий.

Anthropic обязуется, что принадлежащие фонду активы стартапа не будут использоваться для лоббирования или политических пожертвований, ни в США, ни за пределами страны. Как отмечает стартап, многие компании технологического сектора обычно увеличивают компенсационные пакеты для своих руководителей по мере роста бизнеса, а Anthropic предпочитает направлять эти активы на нужды общественного блага. В момент основания стартапа его учредители обязались 80 % своих личных акций Anthropic направлять на нужды благотворительности. Кроме того, Anthropic создала благотворительный фонд, в который сотрудники стартапа могли направлять получаемые ими акции — сама компания добавляла от себя столько же. Примерно половина сотрудников стартапа участвует в этой благотворительной программе.

В совокупности с организацией нового фонда, это позволит направить около 20 % акций Anthropic на нужды общественного блага. Эта доля может вырасти, если динамика курса акций компании окажется достаточно высокой. Целевые показатели капитализации, которые позволят передавать больше акций в распоряжение фонда, будут раскрыты позже. Илон Маск (Elon Musk) не удержался от комментариев после сделанных Anthropic заявлений, отметив, что он бы рекомендовал просто раздавать акции людям напрямую.

DeepSeek обновила ИИ-модель V4.1-Flash — она стала быстрее и эффективнее

На этой неделе состоялся релиз ИИ-модели DeepSeek V4.1-Flash-1017. Китайская компания заявила, что новый алгоритм стал компактнее и работает быстрее предыдущей версии нейросети. Этот шаг усилит конкуренцию DeepSeek с западными компаниями, такими как Anthropic и OpenAI, а также конкурентами на домашнем рынке, включая Moonshot Kimi и Z.ai.

 Источник изображения: Unsplash, Solen Feyissa

Источник изображения: Unsplash, Solen Feyissa

В сообщении DeepSeek сказано, что модель V4.1-Flash-1017 демонстрирует «более высокую производительность в бенчмарках, более быстрое выполнение задач и более быстрые ответы по сравнению с предыдущей версией». Нейросеть уже доступна в веб-приложении компании, в приложении DeepSeek и на платформе для разработчиков.

Высокие темпы запуска новых версий ИИ-моделей DeepSeek подчёркивают нарастающую конкуренцию между китайскими открытыми моделями и закрытыми аналогами американских компаний. Последние показывают высокие результаты в разных областях, но они обходятся значительно дороже. Новая версии ИИ-модели DeepSeek обеспечивает «существенные улучшения в рассуждениях, программировании, агентных задачах и визуальных бенчмарках».

 Источник изображения: api-docs.deepseek.com

Источник изображения: api-docs.deepseek.com

Модель V4.1-Flash-1017 расширяет возможности в разных сферах, начиная от создания игр и заканчивая 3D-моделированием. Несмотря на это, DeepSeek охарактеризовала новую модель, как небольшое обновление предыдущей версии V4.1-Flash. На этой неделе у DeepSeek произошёл технический сбой, в результате которого серверы компании были недоступны около пяти часов. Некоторые эксперты связывают этот инцидент с нехваткой вычислительных ресурсов. Последние месяцы участились случаи замедления работы и перебоев в сервисе DeepSeek. Это может быть связано с высоким спросом на ИИ-модели компании со стороны разработчиков из-за агрессивно низких цен, что создаёт высокую нагрузку на инфраструктуру DeepSeek.

ИИ действительно приведёт к потере рабочих мест, но при этом создаст целые новые отрасли, как считает Anthropic

По мнению сооснователя Anthropic Джека Кларка (Jack Clark), ради безопасности человечества создатели ИИ должны быть готовы к «созидательному разрушению» своего бизнеса. При этом развитие ИИ позволит уже к 2030 году увеличить ВВП США почти в полтора раза до $44 трлн и создать целые новые отрасли экономики.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Не только генеральный директор Anthropic Дарио Амодеи (Dario Amodei) призывает коллег по ИИ-отрасли замедлить темпы выпуска новых больших языковых моделей ради обеспечения более высокого уровня безопасности. Ранее занимавший пост директора OpenAI по политике Джек Кларк, являющийся одним из основателей Anthropic, в этом стартапе курирует вопросы, связанные с общественным благом. На этой неделе он выступил сразу с несколькими важными заявлениями.

Во-первых, он призвал страны, выпускающие продукты в сфере искусственного интеллекта, придерживаться «стандартов здравого смысла» в вопросах регулирования технологии. «Нам нужны стандарты, основанные на здравом смысле, которые в конечном итоге позволять доверять технологиям и развивать экономику», — заявил Кларк на мероприятии, организованном МВФ и Всемирным банком в Бангкоке. По его словам, Anthropic уже предоставила сторонним экспертам доступ к основным этапам разработки своих передовых ИИ-моделей.

Во-вторых, Кларк призвал участников отрасли к осознанной перестройке бизнес-процессов с целью повышения безопасности ИИ: «Мы работаем с крупнейшими мировыми корпорациями и многими из самых успешных стартапов в мире. Я думаю, что всех их объединяет готовность к созидательному разрушению, готовность на самом высоком уровне организации разрушить и полностью перестроить некоторые аспекты своей деятельности с помощью этой технологии, что становится всё сложнее по мере роста организации».

В-третьих, Джек Кларк обнародовал прогноз экономического характера, который должен иллюстрировать степень влияния ИИ на американскую экономику. ВВП США при соблюдении ряда условий, как он отметил, уже к 2030 году может достичь $44 трлн. Текущий уровень американского ВВП превышает $30 трлн, поэтому почти полуторакратный прирост за три или четыре года кажется маловероятным, но в этом и заключается трансформирующая роль ИИ. Данная технология позволит ускорить процесс научных открытий и создаст новые отрасли экономики, обеспечив столь серьёзный прогресс в сжатые сроки. ИИ поможет решить многие задачи в сфере математики, инженерного дела и биотехнологий. Принять участие в мировой «ИИ-революции» смогут те страны, по словам Кларка, которые будут готовы строить центры обработки данных.

Проблему усиления безработицы в результате бурного развития ИИ представитель Anthropic призвал не преувеличивать. Если в некоторых сферах ИИ действительно вызовет сокращения, как в кол-центрах и службах поддержки клиентов, то в других — в науке и исследованиях, например, он позволит увеличить приток кадров. Более того, развитие ИИ будет способствовать появлению целых новых отраслей, которые обеспечат работой многих людей. При этом важно будет заботиться о безопасности разработок, в которых участвует ИИ. Создание биологического оружия является одним из примеров негуманного использования технологии, а потому на пути такого рода злоупотреблений важно поставить надёжный заслон.

Anthropic предложила американским законодателям собственный законопроект о регулировании отрасли ИИ

Стартап Anthropic предлагает наделить полномочиями по блокировке выхода передовых ИИ-моделей только федеральных судей США. При этом своё решение они должны принимать на основе результатов независимого аудита, а предполагаемый ущерб от ИИ-моделей должен превышать $1 млрд.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Взаимоотношения стартапа Anthropic с американскими властями сложно назвать простыми, если учесть, что он с марта этого года отнесён к неблагонадёжным поставщикам, представляющим угрозу для национальной безопасности. При этом компания старается вести конструктивный диалог с представителями власти, и недавно даже направила им черновой вариант законопроекта, призванного регулировать риски в сфере безопасности ИИ.

Об этом на своих страницах сообщило издание Politico. Представители стартапа заявили изданию, что этот черновой законопроект основан на рамочных принципах создания передового ИИ, которые компания продвигает на федеральном и локальном уровне в США с июня этого года через членов американского парламента. Чувствительные для отрасли и общества правила, по мнению Anthropic, должны вскоре быть рассмотрены Конгрессом США.

Законопроект предлагает наделить правительство полномочиями блокировать выход ИИ-модели, только если предполагаемый и неизбежный ущерб от её выпуска в соответствующем виде может составить не менее $1 млрд, либо к смерти или нанесению серьёзных увечий не менее чем 50 людям. Риск может выражаться в вероятности создания биологического оружия, потере разработчиком контроля за распространением модели, либо применения её для кибератак. Подобная риторика уже присутствует в законодательстве штата Калифорния, касающегося регулирования ИИ, и принятого в прошлом году.

Ни один из зафиксированных до сих пор инцидентов в сфере ИИ не привёл к ущербу более $1 млрд или массовой гибели людей. До этого Anthropic не лоббировал публично федеральные законы, связанные со сферой ИИ, но делал это на уровне штата Калифорния. Компания в своём законопроекте предлагает наделить независимых проверяющих, которые регистрируются Министерством торговли США, правом проводить периодический аудит стартапа и разрабатываемых им моделей. Оплачивать их работу Anthropic готова сама, утверждая, что на результаты аудита это никак не повлияет.

Аудиторы должны докладывать Министерству торговли США о выявлении неизбежного крупного риска, связанного с передовыми ИИ-моделями, в течение 72 часов с момента завершения аудита. У этого министерства появляется право добиться судебного запрета на продолжение разработки опасной ИИ-модели, но Anthropic настаивает, что ни одного другое ведомство США или чиновник не должно вмешиваться в данный процесс. Запрет имеет право вводить только федеральный судья Окружного суда США по округу Колумбия в Вашингтоне.

Законопроект Anthropic также может предвосхитить другие законодательные инициативы, продвигаемые в американском парламенте. Они касаются правил раскрытия информации о рисках, возникающих в сфере использования передовых ИИ-моделей, проведения аудита или публикации отчётов о критически важных инцидентах. Формируемый из фрагментарных инициатив на уровне отдельных штатов законопроект гораздо сложнее утвердить, чем единые федеральные правила. Помимо формирования требований к регулярному аудиту, законопроекты должны предусматривать защиту для информаторов, которые решатся донести на неблагонадёжных разработчиков, а также порядок публикации отчётов об инцидентах.

ИИ-модели Google достигли переломного момента: вскоре они смогут самосовершенствоваться

По словам сооснователя Google Сергея Брина (Sergey Brin), компания уже использует свои ИИ-модели при разработке следующих поколений Gemini. Это позволяет ей значительно увеличить темпы совершенствования ИИ и оставаться в числе лидеров отрасли.

 Источник изображения: Unsplash, Pawel Czerwinski

Источник изображения: Unsplash, Pawel Czerwinski

Если в сфере робототехники оптимальная схема производства описывается фразой «машины делают машины», то в разработке ИИ-моделей аналогичный принцип сводится к рекурсивному самосовершенствованию (RSI). Он подразумевает, что ИИ-модели смогут совершенствоваться при участии своих предыдущих версий. Развитие всей отрасли благодаря этому будет происходить нарастающим темпом.

Сооснователь Google Сергей Брин во время своего недавнего участия в дискуссии по поводу новейшей модели компании Gemini 4 Argon заявил, что внутренние процессы разработки ИИ-моделей компании уже ускоряются благодаря тому, что они помогают быстрее создавать своих преемников.

Ещё до выхода Gemini 4 модели Google Flash дали компании надежду, что такие структурные изменения происходят, и она «начала втягиваться в бег по дорожке RSI», со слов Брина. «И сейчас наши исследователи и сама модель работают рука об руку, чтобы создать следующую версию модели», — заявил Сергей в ходе дискуссии, запись которой Google продемонстрировала в минувшую среду.

Конкурирующие Anthropic и OpenAI также сообщили, что их ИИ уже находится на грани перехода к рекурсивному самосовершенствованию. Большинство опрошенных Gladstone AI разработчиков, включая представителей трёх упомянутых выше компаний, убеждено, что RSI станет нормальной практикой в ближайшие 3–12 месяцев. Это может случиться и быстрее, если государственное регулирование в сфере ИИ не вынудит разработчиков замедлиться.

Google в своём отчёте по модели Argon отметила, что некоторые элементы исследований и разработок в сфере ИИ уже автоматизированы. ИИ-агенты уже действуют, словно ассистенты с высокой отдачей, выступая в роли авторов основной части продуктивного программного кода и исправлений, хотя предлагаемые ими изменения в коде и подвергаются проверке человеком непосредственно перед утверждением.

Как отмечает Business Insider, Сергей Брин лично контролирует развитие направления Google Gemini, определяя приоритеты, и он настаивает на большей концентрации на принципе RSI. Темпами прогресса в сфере ИИ этот сооснователь Google весьма доволен. По его словам, когда обыватели только смотрят видео о выходе Argon, разработчики Google уже могут продвинуться на пару моделей вперёд. По некоторым данным, Google уже тестирует новую модель Carbon, которая в задачах написания программного кода вполне может сравниться с Anthropic Opus 5.5.

Глава Nvidia призвал отрасль не мириться с инцидентами в сфере безопасности, вызванными ИИ

Генеральный директор Nvidia Дженсен Хуанг (Jensen Huang) убеждён, что все громкие инциденты в сфере безопасности с участием ИИ-агентов можно было предотвратить благодаря более строгому контролю за ними. Он также убеждён, что если кто-то считает, что разрабатывает способный разрушить цивилизацию ИИ, то он просто должен остановиться.

 Источник изображения: Nvidia

Источник изображения: Nvidia

Бурное развитие ИИ-моделей уже привело к тому, что инциденты в сфере кибербезопасности, вызванные их воздействием на инфраструктуру, множатся с пугающей скоростью. Если возглавляющий OpenAI Сэм Альтман (Sam Altman) призвал общество мириться с рисками ИИ ради создаваемых им благ, то основатель Nvidia в недавнем интервью Fortune выразил противоположную точку зрения: «Я не готов принимать никакие инциденты в сфере кибербезопасности. Мы не должны мириться ни с одним из них. Мы должны делать всё, чтобы избежать их».

Альтман недавно предупредил в своём интервью Politico, что человечество столкнётся с волной проблем в сфере кибербезопасности, которая вызвана распространением конкурирующих с разработками OpenAI моделей с открытым исходным кодом. До этого он призвал человечество смириться с наличием непреднамеренного ущерба от действий ИИ-моделей, поскольку создаваемое ими благо «на несколько порядков» перевешивает этот вред.

Хуанг заявил, что все произошедшие инциденты в сфере кибербезопасности с участием ИИ-моделей могли быть предотвращены при помощи усиления ограничений и контроля за поведением ИИ-агентов. Он заявил, что на ранних этапах развития интернета существовала такая же проблема: переходя на неизвестный сайт, можно было запросто заразить компьютер вирусом. Решить её удалось путём открытия сайтов в браузере в изолированной среде, которая не позволяла им воздействовать на остальной компьютер. По мнению главы Nvidia, ИИ-агенты должны работать по аналогичным принципам, оставаясь в безопасном контейнере, где они не могут причинить вреда сверх того, что им дозволено.

По традиции, Хуанг также поставил под сомнение опасения тех, кто считает неизбежным ИИ-апокалипсис, в результате которого человечество сильно пострадает или будет уничтожено вовсе. Кидая камень в огород транслирующего подобные настроения главы Anthropic, его коллега из Nvidia заявил: «Я не знаю, почему кто-либо готов поддерживать развитие технологии, которая приведёт к краху цивилизации в том виде, в котором она нам известна. И если они в это верят, то должны прекратить работать над ней».

Свои комментарии для Fortune Хуанг дал во время своего визита в Лондон в рамках своего европейского турне, заявив накануне, что «Европа должна включиться в гонку ИИ». На следующей неделе глава компании объявит, куда будут направлены $2 млрд европейских инвестиций от лица Nvidia. Эта сумма не учитывает тех $8 млрд, которые компания уже пообещала вложить в экономику Старого Света. Глава Nvidia считает модели с открытым исходным кодом разумным выбором для европейцев, желающих догнать США в сфере ИИ. Компания уже поддерживает французский стартап Mistral, который разрабатывает модели с открытыми весами. Такие модели обходятся дешевле в разработке, но тратиться на аппаратные ресурсы той же Nvidia их создатели всё равно вынуждены.

ИИ-пузырь сдувается: акции производителей чипов падают на протяжении восьми дней подряд

Акции крупнейшим американских поставщиков чипов падают в цене уже восемь торговых сессий подряд, это самое продолжительное пике за предыдущие 16 лет. Сразу несколько факторов способствуют этому, но аналитики успокаивают, что говорить о крахе рынка ИИ преждевременно.

 Источник изображения: Unsplash, Tötös Ádám

Источник изображения: Unsplash, Tötös Ádám

Сильная коррекция на мировом фондовом рынке в эти дни затронула акции производителей памяти, поскольку инвесторов насторожили предупреждения отдельных представителей полупроводниковой отрасли об угрозе перепроизводства к 2029 году. Как считается, придал негативный импульс этим ценным бумагам и аргумент по поводу набирающих силу китайских производителей памяти.

В итоге снижение котировок акций американских компаний полупроводникового сектора, входящих в индекс ICE Semi в количестве 30 эмитентов, продолжается уже на протяжении восьми торговых сессий подряд. Это самое продолжительное непрерывное снижение за предыдущие 16 лет, и оно уже не кажется простой технической коррекцией. Акции биржевого инвестиционного фонда iShares Semiconductor ETF (SOXX) упали в цене на 14 % с октябрьских максимумов до $514,71 по состоянию на четверг.

Опять же, в четверг наметился и некоторый уровень сопротивления негативному тренду, когда индекс SOXX на короткое время опустился ниже $496, а затем закрыл торговую сессию на более высокой отметке по сравнению с позицией на начало дня. В составе индекса SOXX на десять крупнейших американских эмитентов полупроводникового сектора приходятся 62 % активов. Это акции компаний AMD, Intel, Nvidia, Micron, Broadcom, Marvell Technology, Analog Devices, Texas Instruments, KLA и Qualcomm. При этом Intel за две недели потеряла более 20 % рыночной капитализации, а AMD просела более чем на 5 % только в течение торговой сессии 14 октября.

Проблемы ИИ-бума отразились на котировках акций производителей чипов. В рамках подготовки к IPO компания OpenAI недавно призналась, что её приведённая годовая выручка ограничивается $50 млрд, а не $70 млрд, как ещё недавно считали инвесторы. Глава Broadcom сравнил инвестиционную активность в сфере ИИ с игрой в казино, что не добавило уверенности фондовому рынку. Рост инфляции в США увеличил вероятность повышения ключевой ставки, а это сделает заёмные средства дороже для участников финансирования ИИ-проектов. Это ожидание также способствовало давлению на котировки акций полупроводникового сегмента. «Китайская угроза» для двух корейских и одного американского производителя памяти проступает всё сильнее, поэтому их акции и не смогли избежать падения.

Аналитики UBS предпочитают считать данный рыночный тренд «перекалибровкой», а не фундаментальным переломом в истории инвестиций в ИИ. Вряд ли техногиганты, которые запланировали направить на капитальное строительство почти $800 млрд только в этом году, существенно пересмотрят свои планы. То есть, в финансовой сфере проблема может скорее заключаться в стоимости заёмного капитала, а не в отсутствии спроса на новую инфраструктуру ИИ.

Nvidia без спроса открыла ИИ-агентам доступ к управлению видеокартой и играми на ПК пользователя

Компания Nvidia добавила поддержку ИИ-агентов в последнюю версию приложения Nvidia App (11.0.9.565). Обновление включает локальный сервер протокола Model Context Protocol (MCP), который позволяет совместимым ИИ-ассистентам управлять функциями Nvidia App. Примечательно, что после установки обновления эта возможность активируется автоматически, без явного согласия или действий со стороны пользователя.

 Источник изображения: VideoCardz

Источник изображения: VideoCardz

Соответствующая опция включена в настройках Nvidia App. В примечаниях к выпуску Nvidia упоминает поддержку MCP, однако не объясняет, почему сервер включён по умолчанию. Настройка называется «Разрешить ИИ-агентам управлять Nvidia App» (Allow AI agents to control Nvidia App) и находится в новом разделе «Подключение агентов и приложений» (Connect Agents & Apps).

Протокол MCP позволяет совместимым ИИ-ассистентам, например Hermes, OpenClaw или Perplexity, взаимодействовать с Nvidia App посредством команд на естественном языке. По заявлению Nvidia, такие агенты могут обнаруживать установленные игры, запускать приложения, применять рекомендуемые графические настройки, включать запись через ShadowPlay, делать скриншоты и управлять оверлеями производительности. Кроме того, они могут получать информацию о драйверах и изменять некоторые параметры питания на ноутбуках.

Сервер MCP работает локально, используя адрес обратной петли (loopback) 127.0.0.1 и порт 13508 в качестве HTTP-интерфейса. Это не означает, что Nvidia автоматически подключает к компьютеру пользователя какой-либо внешний ИИ-сервис. Тем не менее запущенный сервер делает функции Nvidia App доступными для любого совместимого программного обеспечения, работающего на том же устройстве. Пользователям, которые не используют ИИ-агентов, нет особого смысла оставлять этот интерфейс активным.

У большинства пользователей, скорее всего, подобные агенты вообще не установлены. Те же, кто ими пользуется, зачастую полагаются на внешние сервисы, например от OpenAI, а не на локальные модели. В таком случае информация, полученная из Nvidia App, может передаваться на внешние серверы — всё зависит от того, как устроен конкретный агент.

Для локального запуска полноценных ИИ-моделей обычно требуются значительные аппаратные ресурсы: как правило, компьютеры с видеокартами, оснащёнными большим объёмом памяти, или специализированные системы, такие как RTX Spark. Хотя существуют и менее требовательные модели, их функциональность и качество работы оставляют желать лучшего. Сам по себе сервер MCP вряд ли вызовет какие-либо проблемы, однако нет особого смысла включать его автоматически, если у пользователя не установлено совместимое программное обеспечение для ИИ-агентов. Возможно, в таких случаях в приложении Nvidia App стоит выводить всплывающее окно с вопросом, хочет ли пользователь активировать эту функцию.

Пользователи могут отключить новую функцию непосредственно в Nvidia App. Для этого необходимо перейти в раздел «Настройки» → «Функции», прокрутить страницу вниз до пункта «Подключение агентов и приложений» и выключить опцию «Разрешить ИИ-агентам управлять приложением NVIDIA App». При этом переключатель сменит цвет с зелёного на серый.

Согласно документации Nvidia по MCP, отключение этого переключателя предотвращает запуск постоянно работающего сервера MCP. При необходимости функцию можно снова включить через то же меню. Пользователям, установившим последнее обновление Nvidia App, стоит проверить, не была ли эта опция активирована в их системе автоматически.

ИИ может стать «слишком супер»: команда Трампа взялась за риски искусственного интеллекта

Межведомственная группа «Силы суперинтеллекта» (Super Intelligence Force, SIF), о формировании которой президент США Дональд Трамп (Donald Trump) объявил в начале октября, провела в четверг первое заседание. На нём участники договорились заняться рисками, связанными с кибербезопасностью, биобезопасностью, а также «контролем над моделями и их подотчётностью».

 Источник изображения: Numan Ali/unsplash.com

Источник изображения: Numan Ali/unsplash.com

Следует отметить, что Дональд Трамп, до недавнего времени выступавший против регулирования ИИ, изменил риторику, и на этой неделе на митинге в Аризоне признал, что за развитием ИИ нужен определённый контроль. «Мы называем ИИ суперинтеллектом... Но в определённых случаях может так случиться, что этот суперинтеллект станет “слишком супер” И за такими случаями нам надо присматривать», — заявил он на встрече с избирателями, сообщает «Коммерсантъ».

Согласно сообщению Белого дома США, SIF поручит Президентскому совету по науке и технологиям подготовить доклад для оценки этих и других проблем. Сообщается, что в задачи SIF, возглавляемой директором Национальной разведки США Джеем Клейтоном (Jay Clayton), также входит «разработка протоколов и механизмов, благодаря которым лаборатории смогут предоставлять правительству ранние предупреждения и систематические уведомления о нарушениях безопасности».

Белый дом США сообщил, что группа также планирует «создать координационный комитет по вопросам правоохранительной деятельности и защиты прав потребителей, в состав которого войдут представители Министерства юстиции США, Федеральной торговой комиссии США и ряда других ведомств».

Тема ИИ стала злободневной в США в преддверии промежуточных выборов на фоне недовольства общества строительством ЦОД, которое связывают с резким ростом расходов на электроэнергию, пишет Bloomberg. Опасения по поводу возможной массовой потери рабочих мест и катастрофических последствий в случае утраты человечеством контроля над ИИ звучат громче, чем заявления о потенциальных преимуществах этой технологии.

Тем не менее Трамп отказался следовать призывам к усилению государственного регулирования сферы ИИ, считая, что это станет помехой США в конкурентной борьбе с Китаем.

Вместо этого он договорился с руководителями компаний ИИ-отрасли о привлечении сторонних аудиторов для оценки безопасности ИИ-систем. В конце прошлого месяца в Белом доме при посредничестве Трампа был подписан меморандум с участием руководителей ведущих технологических компаний. Согласно документу, представители ИИ-отрасли обязались регулярно проводить встречи для выработки передовых отраслевых стандартов, а также создать независимые комитеты в своих структурах, которые займутся надзором за развитием ИИ.

Meta✴ выпустила мощную открытую ИИ-модель Muse Spark Open — для её работы хватит всего двух Mac Studio

Meta✴✴ представила модель искусственного интеллекта с открытыми весами, которую она называет «самой мощной» в своём классе в США. Модель получила название Muse Spark Open — она примечательна ещё и тем, что специально разработана для работы на компьютерах Apple Mac.

 Источник изображения: apple.com

Источник изображения: apple.com

Модель Meta✴✴ Muse Spark Open имеет размер 816 млрд параметров и поддерживает контекстное окно в 1 млн токенов. Она, по оценке разработчика, превосходит по производительности другие популярные модели с открытыми весами. Система является мультимодальной и предназначается для сложных задач, связанных с написанием программного кода и выполнением рабочих процессов в автономном режиме — задач ИИ-агентов.

Meta✴✴ Muse Spark Open спроектирована для локального запуска на компьютерах Apple, но для её работы требуется внушительный объём ресурсов — минимум 1 Тбайт оперативной памяти. Наилучшую производительность она демонстрирует на компьютерах Mac Studio с чипами M5 Ultra, но требуется объединить в кластер две таких машины. При наличии достаточных ресурсов она, утверждает разработчик, может стать мощным инструментом для программирования и других повседневных задач. В Meta✴✴ отмечают, что использовали Spark Open в связке с Muse Code — собственным средством для написания кода и задействовали её в задачах ИИ-агентов. В частности, удалось внести исправления в код клиента для соцсети Mastodon: устранить ошибки, добавить новые функции и собрать приложение.

 Источник изображения: ***

Источник изображения: Meta✴✴

Модель умеет работать с профессиональным ПО для монтажа видео DaVinci Resolve — она может просматривать отснятый материал и выполнять его обрезку. Модели с открытыми весами обладают рядом преимуществ по сравнению с закрытыми аналогами — они могут быть более экономичными, обеспечивают прозрачность и гибкость, недоступные для закрытых моделей. Muse Spark Open уже доступна через ряд различных API-платформ.

ИИ-модель Z.ai GLM-5.3 заподозрили в имитации безопасного поведения для прохождения тестов

Новейшая флагманская модель китайской лаборатории искусственного интеллекта Z.ai GLM-5.3 может оказаться достаточно продвинутой, чтобы «осознавать», как происходит её обучение, а также имитировать успешное прохождение тестов на безопасность. Это порождает новые опасения относительно способности ИИ влиять на собственный процесс развития.

 Источник изображения: Aidin Geranrekab / unsplash.com

Источник изображения: Aidin Geranrekab / unsplash.com

Представленная в августе модель продемонстрировала способность учитывать, как её поведение во время проверок на безопасность может повлиять на обучение будущих версий самой себя, установили исследователи Apollo Research. Это значит, что модель способна имитировать соответствие целям, то есть вести себя надлежащим образом на этапе обучения и скрывать свои истинные цели вплоть до момента полноценного развёртывания. Поэтому следует с особенной осторожностью относиться к процессу RSI — рекурсивного самосовершенствования ИИ. Случаев, чтобы Z.ai GLM-5.3 самостоятельно изменяла процесс своего обучения или расширяла свои возможности, зафиксировано не было, но указанные способности могут сделать бесполезными проверки модели на безопасность.

В ходе одного из тестов, который был составлен с ошибками, и для его прохождения не требовалось давать верный ответ, GLM-5.3 не стала пользоваться этим изъяном — она рассудила, что дача неверного ответа может отрицательно сказаться на её будущих версиях, и это, по мнению исследователей, тревожный признак. В другом эксперименте она допускала возможность отключить механизм принудительной остановки ради выполнения поставленной задачи, но пришла к выводу, что такой шаг создал бы прецедент для будущих систем ИИ. Фактор обновлений в своих рассуждениях она учитывала в 1–2 случаях из 1000, но эта цифра может быть занижена, предполагают учёные.

Модель Z.ai GLM-6 уже движется по пути «самоэволюции», признал недавно основатель Z.ai Тан Цзе (Tang Jie). У других открытых китайских моделей DeepSeek V4 Pro, Qwen3.8 2.4T, Kimi K3, Gemma 4 31B и Nemotron 3 Ultra в ходе 8000 тестовых прогонов подобного поведения выявлено не было, но в Apollo Research не исключают, что дело здесь только в слишком маленькой выборке. При этом ещё в июне признаки «осознания процесса оценки» у модели Moonshot AI Kimi K2.6 обнаружили исследователи сингапурской организации Neo Research.

Что же касается Z.ai GLM-5.3, то её открытая лицензия лишь усугубляет проблему: любая компания может дообучить её и использовать в собственных целях или провести дистилляцию — обучить на её основе более простую систему. И все эти производные модели могут сохранить склонность учитывать будущие обновления в своих рассуждениях. Z.ai направляет значительные ресурсы на снижение рисков и привлекает сторонних специалистов, в частности, к изучению вопроса о повышении безопасности открытых моделей. Модели GLM помогли обнаружить 23 уязвимости в ОС Windows — и в Microsoft это подтвердили.


window-new
Soft
Hard
Тренды 🔥
ИИ впервые прошёл Minecraft без помощи человека — пионером стала флагманская модель Gemini 4 Argon от Google 32 мин.
Глава Konami считает разработчиков игр важнее ИИ — человеческий фактор остаётся ключевым для индустрии 2 ч.
«РТК-ЦОД» подтвердил готовность «Облака КИИ» к размещению информационных систем 1 класса защищённости 2 ч.
Российский рынок промышленного ИИ достигнет 134 млрд рублей к 2030 году 5 ч.
Anthropic направит до 20 % акций на благотворительность — в том числе для борьбы с безработицей из-за ИИ 9 ч.
Разработчик экшена Samson подал на банкротство — сотрудники Liquid Swords несколько месяцев не получали зарплату 19 ч.
Анонсирован Encryption — хоррор о поисках пропавшей дочери в охваченной лесными пожарами Италии 23 ч.
Новая статья: TOEM 2 — в одну уютную реку дважды. Рецензия 18-10 00:07
Сервер или люди? ИИ проверили задачей о вагонетке — и пожалели 17-10 17:05
Криптобиржа Bitget закрыла доступ к сервисам жителям России и Беларуси 17-10 16:35
Мобильный интернет в России разогнался почти 20 % после запуска 5G 3 ч.
Старые iPhone станут донорами для новых китайских смартфонов — всё из-за дефицита памяти 5 ч.
У складного iPhone батарея оказалась меньше, чем у iPhone 18 Pro Max — Apple раскрыла точную ёмкость 5 ч.
Сдача ЦОД Nscale в норвежском Глом-фьорде отложена на полгода из-за пожара, утечек в системе охлаждения и более серьёзных проблем 5 ч.
SAMA B850 — блок питания для современных игровых ПК с сертификацией Cybenetics и не только 5 ч.
Великобритания отклонило заявку на создание 1,2-ГВт «углеродно-отрицательного» ИИ ЦОД в рамках программы AI Growth Zone 5 ч.
Microsoft: компонуемая память поможет преодолеть ограничения в ИИ-инфраструктуре 6 ч.
Biostar представила одноплатный компьютер BIWCL-PAT на базе Intel Wildcat Lake для AIoT-приложений 6 ч.
Navitas и NVIDIA создали плату питания мощностью 24 кВт для ИИ ЦОД 6 ч.
Nvidia объединяет: TSMC поможет Samsung выпускать скоростную ИИ-память NVHBM 6 ч.