Сегодня 14 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → иена
Быстрый переход

Первые атаки ИИ-агентов — лишь «предупредительные выстрелы», предупредил бывший глава Google DeepMind

Недавние инциденты со взломами ресурсов, совершенными агентами искусственного интеллекта — это «предупредительные выстрелы», и если системы не станут более защищёнными, мир вскоре может столкнуться с более серьёзными происшествиями. Об этом заявил соучредитель и бывший глава Google DeepMind Демис Хассабис (Demis Hassabis).

 Источник изображения: Numan Ali / unsplash.com

Источник изображения: Numan Ali / unsplash.com

Выход ИИ-агентов из-под контроля, в том числе случаи со взломом корпоративных сетей и недавний инцидент, в ходе которого модель ИИ направила в полицию не соответствующее действительности сообщение об убийстве — усилило опасения по поводу стремительного развития технологий. Отрасли предстоит «огромная работа» по внедрению передовых методов защиты критически важных систем, подобных тем, что применяются в биологии или атомной энергетике; потребуется создать и международный орган по стандартизации, считает господин Хассабис.

«Думаю, эти [инциденты со взломом] служат для нас первыми предупредительными выстрелами; системы пока не настолько мощны, поэтому и последствия инцидентов не столь масштабны. Но в следующем году или в ближайшие пару лет ситуация может измениться, если мы как отрасль, отдельные компании или правительства не уделим больше внимания безопасности этих систем», — заявил основатель Google DeepMind.

Создание международного органа, по его мнению, представляется очевидным шагом — такой орган должен действовать гибко и взвешенно, чтобы не сдерживать инновации. «Нам необходимо выстраивать такую систему сертификации, которая была бы соразмерна выявленным нами рискам и могла бы быстро адаптироваться к изменениям в развитии технологий», — добавил Демис Хассабис.

Благодаря вайб-кодингу Epic Games Store наконец заработал быстрее Steam

После нескольких лет безуспешных попыток победить Steam своими силами администрация цифрового магазина Epic Games Store обратилась за помощью к генеративному ИИ. Компания представила обновлённый лаунчер.

 Источник изображений: Epic Games

Источник изображений: Epic Games

Обновлённый лаунчер Epic Games Store предназначен для Windows, Mac и (впервые в истории сервиса) Linux. На момент публикации апгрейд доступен лишь в формате вышедшей сегодня, 14 октября, предварительной версии.

По словам Epic, предварительная версия ограничена в функциях: «Представьте скоростной катер, а не яхту! В то же время [релиз] оснащён передовыми технологиями цифровой коммерции вроде корзины для покупок».

Epic уверяет, что новый лаунчер Epic Games Store загружается заметно быстрее (быстрее, чем Steam), предлагает переработанную библиотеку и меньше нагружает систему в фоновом режиме работы.

Пользователи могут настраивать отображение вкладок в верхней панели, собирать игры в коллекции, объединять библиотеки разных магазинов, выбирать вид отображения игр в библиотеке и просматривать подробную информацию о каждой.

Отдельно Epic подчеркнула, что создавала обновлённый лаунчер Epic Games Store с помощью вайб-кодинга (то есть давала команды, а ИИ писал код), так как «программировать сложно».

Ранее сообщалось, что Epic Games отложила эвакуационный шутер с героями Marvel и «Звёздных войн» для полного перевода производства на ИИ-инструменты вроде Claude от Anthropic: «Больше никакого рукописного кода».

ИИ генерирует столько кода, что Anthropic не успевает его обрабатывать — пришлось изобретать собственный Git

Модели искусственного интеллекта Anthropic Claude стали генерировать столько программного кода, что существующая инфраструктура разработки в компании перестала справляться с нагрузкой. Решением проблемы стала собственная система контроля версий Scion.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Для Anthropic написание кода перестало быть узким местом, ограничивающим темпы работы компании; главная проблема сместилась в сторону управления кодом после его создания: контроль версий, системы сборки и непрерывной интеграции. Если в мае в среде разработки Anthropic было около 2500 слияний в день, то к сентябрю этот показатель достиг 30 000. Темпы разработки только нарастают, «и устранение любого препятствия немедленно приводит к дальнейшему увеличению объёма создаваемого кода», отметили в компании. В Anthropic разработали собственную систему контроля версий Scion на базе монорепозитория; процесс миграции занял пять месяцев.

Высокая продуктивность Claude в написании кода не только породила проблему, но и послужила подсказкой к её решению — потребовались масштабируемые инструменты инфраструктуры. Помимо Scion, ИИ создал интерфейс для код-ревью Antique, средство поиска по коду и систему управления правами доступа к исходному коду. Реализованный в Git децентрализованный подход оптимален для большинства репозиториев; но в самой компании основная ветка репозитория имеет размер около 100 Гбайт, а сжатая рабочая копия — около четверти этого объёма. Каждый день производятся более 25 млн операций по извлечению кода, и при обычном подходе к загрузке объём трафика Git превысил бы 600 Пбайт в сутки.

Систему Scion разработали с учётом потребностей ИИ-агентов, поэтому значительную часть работы пришлось переложить с клиентской на серверную часть. Запросы к системе осуществляются через API, благодаря чему внутренние инструменты обходятся без локального репозитория — потребность в синхронизации снижается, а требования к скорости работы сервера, напротив, повышаются.

Работу над системой Scion начали в январе, и когда внутри компании появился доступ к модели Claude Mythos Preview, инженеры Anthropic поручили ей переписать первоначальный конвейер переноса данных из Git в Scion — та создала версию, которая потребляла в 20 раз меньше памяти и работала вчетверо быстрее. Инженеры компании спокойно относятся к тому, что ИИ стал писать код лучше их. Сейчас их задача — контролировать работу ИИ и пресекать её инициативы, которые нарушают заданные ограничения.

Выпускать Scion как проект с открытым исходным кодом в Anthropic не планируют, но допускают, что с похожей проблемой могут столкнуться в обозримом будущем и другие организации, поэтому компания решила поделиться своим подходом.

Игровые приставки могут стать винилом в мире гейминга — облачные сервисы и ИИ изменят рынок к 2035 году

К 2035 году объём рынка потоковых игровых сервисов достигнет $38 млрд, гласит прогноз Bloomberg Intelligence. Такая динамика может привести к тому, что игровые консоли перестанут быть продуктом массового спроса — их вытеснят искусственный интеллект и облачный гейминг.

 Источник изображения: BoliviaInteligente / unsplash.com

Источник изображения: BoliviaInteligente / unsplash.com

Распространение ИИ и развитие центров обработки данных для облачных вычислений ускорят внедрение игрового стриминга и улучшат экономические показатели этого направления, установили в Bloomberg Intelligence. ИИ играет двойную роль: он способствует снижению затрат и одновременно помогает создавать инфраструктуру для потоковых служб. Ключевым драйвером роста этого сегмента в начале следующего десятилетия станет реклама — облачный гейминг откроет доступ к аудитории на развивающихся рынках.

Этот процесс, уверены аналитики, будет всё больше вытеснять традиционные домашние консоли в нишевый сегмент. ИИ взял курс на усложнение игр, и потребность во всё более мощном оборудовании будет эффективнее удовлетворяться за счёт потоковой передачи контента из ЦОД, чем за счёт разработки и выпуска новых консолей каждые несколько лет.

Хуже всех в игровой отрасли к таким переменам готова Nintendo, которая до настоящего момента рассматривала облачный гейминг лишь как второстепенный элемент своей стратегии. Sony уже успела заложить основы для смены парадигмы — у неё есть развитая экосистема PlayStation Plus и устройство PlayStation Portal для удалённого доступа к играм. А вот значительно вложившиеся в облачную инфраструктуру Microsoft, Nvidia и Tencent, очевидно, сделали правильную ставку.

 Источник изображения: Kerde Severin / unsplash.com

Microsoft за счёт сервиса Xbox Cloud Gaming сохранит свою долю рынка в 40 % — только в III квартале его пользователи наиграли в режиме облачного гейминга около 220 млн часов. У разработчика востребованных графических процессоров Nvidia есть технологическое преимущество в виде сервиса GeForce Now; в китайской экосистеме здесь лидером является Tencent.

Графические процессоры эффективны как в задачах ИИ, так и в обработке 3D-графики. Сейчас наблюдается высокий спрос на услуги ЦОД ИИ, указывают аналитики, и цены растут. Но уже к концу текущего десятилетия инфраструктура разрастётся до такой степени, что мощностей графических процессоров будет в избытке — стоимость вычислительных ресурсов снизится, и экономические показатели операторов облачного гейминга улучшатся.

Игровая отрасль испытала сильное влияние технологий ИИ. Используемые в создании игр решения имеют общую основу с инструментами ИИ; и возникшая во всей отрасли необходимость в уменьшении издержек вынуждает компании сокращать штат и уделять повышенное внимание эффективности.

«Рынок игрового оборудования смещается в сторону немногочисленной аудитории энтузиастов. Консоли сохранят свою значимость для заядлых геймеров, которым важна максимальная производительность, и, возможно, для коллекционеров — так же, как слушать музыку на проигрывателях виниловых пластинок. Но роль консолей меняется — они больше не выступают главными воротами в игровой мир, и превращаются лишь в одну из точек доступа — и не самую выгодную экономически», — заключили в Bloomberg Intelligence.

Шпионский микрофон в туалетной бумаге: ФБР арестовало сотрудника OpenAI по подозрению в прослушке руководства

ФБР арестовало сотрудника OpenAI Абдуррахмана Аль-Фозана (Abdulrahman Alfozan) по подозрению в установке скрытого устройства для записи звука в конференц-зале компании. По версии следствия, он мог собирать конфиденциальные сведения с совещаний руководства. OpenAI заявила, что пока не обнаружила признаков утечки пользовательских данных, исходного кода или параметров ИИ-моделей.

 Источник изображений: Министерство юстиции США/Bloomberg

Источник изображений: Министерство юстиции США/Bloomberg

ФБР арестовало Аль-Фозана 9 октября. За несколько дней до этого, 30 сентября, служба безопасности OpenAI обнаружила записывающее устройство на задней панели телевизора в конференц-зале, где проводились совещания руководства. По оценке компании, устройство установили примерно 28 сентября. Записи камер видеонаблюдения также показывают, что за несколько дней до обнаружения устройства Аль-Фозан появлялся рядом с конференц-залом.

Подозреваемый работал в OpenAI с июля 2025 года до дня ареста и занимался разработкой программного обеспечения для ИИ-агентов. При этом, как утверждает компания, у него не было разрешения на доступ в конференц-зал, где обсуждались технические, коммерческие и стратегические вопросы, составляющие корпоративную тайну.

Во вторник Аль-Фозан предстал перед судом в Сан-Франциско. Следующее заседание назначено на 19 октября.

В материалах дела фигурируют фотографии обнаруженного устройства — как на задней панели телевизора, где оно было замаскировано клочком туалетной бумаги, так и на столе после извлечения из USB-порта. Следствие также располагает снимком Аль-Фозана, заглядывающего за телевизор 5 октября. К тому моменту устройство уже убрали, а за телевизором установили камеру.

По утверждению OpenAI, Аль-Фозан мог планировать установку других записывающих устройств в офисе. В начале октября ещё одно подобное устройство нашли в сумке с его личными документами, оставленной в одном из корпоративных зданий.

Обнаруженное устройство — Seeed Xiao ESP32-S3 Sense — построено на компактной печатной плате и поддерживает подключение камеры, цифрового микрофона и карты памяти microSD. На сайте производителя Seeed Studio оно предлагается примерно за $14. По оценкам специалистов по безопасности, устройство способно записывать звук на карту памяти, а также передавать аудиоданные по Wi-Fi на небольшие расстояния. Обнаружить его можно по радиосигналу, если беспроводной передатчик активен, либо при физическом осмотре, когда передача отключена.

Согласно материалам обвинения, Аль-Фозан использовал рабочие инструменты, чтобы искать сведения о расположении офисов OpenAI, переговорных комнатах, их вместимости и расписании встреч руководства. Кроме того, с учётной записи чат-бота, связанной с его супругой и имевшей общие идентификаторы с его собственной учётной записью, отправлялись запросы о создании устройства для непрерывной записи звука, настройке Wi-Fi и шифровании карты памяти. Следствие также обнаружило запросы, связанные непосредственно с найденным устройством.

OpenAI сообщила, что не располагает свидетельствами несанкционированного доступа Аль-Фозана к пользовательским данным, исходному коду программного обеспечения или информации о весах ИИ-моделей. После обнаружения устройства компания провела внутреннее расследование, в том числе использовала собственные ИИ-модели для анализа зашифрованной памяти устройства и поиска возможных причастных к инциденту. Компания передала информацию ФБР. Расследование продолжается.

Согласно профилю Аль-Фозана в LinkedIn, он получил образование в области работы с данными в США, в том числе в Массачусетском технологическом институте (MIT). До перехода в OpenAI он работал старшим системным инженером в Meta✴✴ Platforms, а также занимал различные должности в Microsoft и SAP. Кроме того, Аль-Фозан совмещал работу в США с должностью партнёра в саудовском венчурном фонде Raed Ventures, который, по имеющимся сведениям, поддерживается членами королевской семьи Саудовской Аравии.

За литографами — очередь до 2030 года: ASML не успевает за аппетитами ИИ-индустрии

В условиях бума ИИ компания ASML не сможет удовлетворить спрос на своё оборудование ни в 2027, ни в 2028 году. Фактически, она уже сейчас начинает принимать заказы на поставку оборудования в 2029 и 2030 годах. Запланированного увеличения объёма производства на 30 % может не хватить для удовлетворения спроса.

 Источник изображения: ASML

Источник изображения: ASML

Нидерландский холдинг ASML — единственный в мире производитель коммерческих EUV-литографических систем, необходимых для выпуска наиболее передовых полупроводников. По состоянию его бизнеса можно легко судить о положении дел во всей полупроводниковой отрасли. Свежий квартальный отчёт ASML позволил понять, что спрос на такое оборудование явно превышает предложение, ведь некоторые клиенты уже интересуются размещением заказов на 2029 и 2030 годы.

Генеральный директор Кристоф Фуке (Christophe Fouquet) пояснил: «Наши клиенты вместе с нами продолжают поднимать прогноз по спросу на оборудование в кратко- и среднесрочной перспективах, опираясь преимущественно на их взгляды относительно величины и продолжительности инвестиций, связанных с ИИ. С учётом их взглядов на спрос, некоторые клиенты выражают интерес в размещении у нас заказов на 2029 и даже 2030 годы». Заказы на 2028 год также активно формируются, как отметил глава ASML.

Он также признался, что запланированные объёмы поставок оборудования ASML в 2027 и 2028 годах, по оценке компании, не позволят полностью удовлетворить ожидаемый спрос. ASML изучает возможность увеличить мощности на 2028 год сверх ранее обсуждавшегося 30-процентного расширения. В 2027 году она также изначально планировала увеличить объёмы выпуска оборудования на 30 %, как отмечалось ещё в июле.

Прогноз по собственной выручке на текущий год ASML сегодня уточнила до диапазона от 44 до 45 млрд евро. Ранее он начинался с нижней планки в 43 млрд евро. В четвёртом квартале компания рассчитывает выручить от 14,2 до 15,2 млрд евро. Это несколько выше ожиданий по верхней границе консенсуса LSEG, который упоминает сумму в 14,2 млрд евро. Норма прибыли компании должна составить примерно 57 %.

Выручка ASML по итогам третьего квартала в годовом сравнении выросла на 55 % до 11,66 млрд евро. Чистая прибыль при этом более чем удвоилась с 2,13 до 4,96 млрд евро, превзойдя ожидания аналитиков LSEG. При этом норма чистой прибыли, как доля от общей выручки, за это время выросла с 28,3 до 42,5 %. Общая норма прибыли выросла с 51,6 до 57,5 %. Расходы ASML на исследования и разработки увеличились незначительно, с 1,1 до 1,17 млрд евро. Количество реализованных литографических систем увеличилось с 72 до 121 штуки в годовом сравнении. Из них 17 систем относились к классу EUV-литографии.

Всего с начала текущего года по конец сентября ASML выручила 29,8 млрд евро, причём более трети этой суммы пришлось на поставки оборудования, которое применяется в сфере производства микросхем памяти. По своей выручке (10,3 млрд евро) оно почти сравнялось с оборудованием, которое применяется при производстве логических компонентов (11 млрд евро). Ещё в 2022 году первая категория почти вдвое отставала от второй, но бум ИИ резко поднял спрос на микросхемы памяти. Доля китайского рынка в структуре выручки ASML останется на уровне 20 %, как и прогнозировалось ранее.

Anthropic просит апелляционный суд повторно рассмотреть дело о споре с Пентагоном

Компания Anthropic не теряет надежды добиться полной победы над Пентагоном в деле о присвоении ей статуса угрозы для национальной безопасности. Теперь она настаивает о повторном рассмотрении дела в Вашингтоне, хотя в сентябре местный суд оставил её жалобу без удовлетворения.

 Источник изображения: Unsplash, Sasun Bughdaryan

Источник изображения: Unsplash, Sasun Bughdaryan

В конце прошлого месяца Федеральный апелляционный суд в Вашингтоне в составе судебной коллегии из трёх человек большинством голосов поддержал Пентагон в присвоении компании Anthropic статуса поставщика услуг, представляющего угрозу национальной безопасности США, который она получила ещё в марте этого года. Вчера компания обратилась с ходатайством о повторном рассмотрении дела. По мнению представителей компании, прошлое заседание суда проигнорировало «очевидные доказательства того, что присвоенный Anthropic статус был результатом мести за высказывания компании по поводу безопасности ИИ». Кроме того, Пентагон действовал слишком резко, не предусмотрев предварительного процесса до назначения соответствующего статуса Anthropic, по мнению истца.

В августе Федеральный апелляционный суд США в Калифорнии уже принял сторону Anthropic в споре с Пентагоном, но для окончательного снятия ограничений нужно было бы выиграть и суд в Вашингтоне. Прошлый вердикт местного суда базировался на убеждении, что Anthropic может манипулировать дизайном Claude с целью блокировки работы функций, которые нужны для обеспечения национальной безопасности, и обоснованы условиями контракта между сторонами. В конце сентября добиться победы не удалось, и теперь Anthropic настаивает на повторном рассмотрении дела в Вашингтоне.

Anthropic настаивает, что суд в Вашингтоне по итогам прошлого заседания некорректно интерпретировал федеральный закон США и перенаправил его с «враждебно настроенных иностранных агентов» на «практически каждого правительственного подрядчика». Как отмечают адвокаты Anthropic, модели этой компании обеспечивают национальную безопасность США, а действия Пентагона в марте были обусловлены желанием отомстить стартапу за несговорчивость. Руководство Anthropic, напомним, противилось использованию Пентагоном своих моделей для выбора целей на поле боя и слежению за американскими гражданами.

Разработчик бесплатного клона Photoshop взялся за воссоздание Microsoft Office

Автор проекта Artcraft расширяет ассортимент приложений с открытым исходным кодом, которые копируют внешний вид и функциональность известных платных пакетов. Вслед за набором программ Adobe, он взялся за «клонирование» приложений семейства Microsoft Office.

 Источник изображений: Artcraft

Источник изображений: Artcraft

Передовые ИИ-модели не только позволяют с нуля создавать сложные программные продукты даже людям с минимальными навыками программирования, но и воссоздавать функциональность известных программ, за которые разработчики оригинальных решений просят немалые деньги. Автор нашумевшего проекта Artcraft Брэндон Томас (Brandon Thomas) при помощи ИИ-модели Anthropic Claude Opus 5.5 уже прошёлся по ассортименту программного обеспечения Adobe, предложив близкие аналоги с открытым исходным кодом.

Теперь, как отмечает Hot Hardware, в дальнейшие планы этого энтузиаста с 15-летним опытом программирования входят приложения из пакета Microsoft Office, которые он также собирается воссоздать и предложить в версиях с открытым исходным кодом. Томас, по словам источника, является противником идеи оформления подписок на ПО, которые на регулярной основе тянут из пользователей деньги. Adobe и Microsoft эту бизнес-модель давно применяют, поэтому они в числе первых стали мишенями для энтузиаста.

Сейчас в каталоге Artcraft уже имеется текстовый редактор WordCraft, который написан на языке Rust с сохранением привычных по аналогу Microsoft элементов интерфейса. Для составления презентаций предназначается концептуально подражающий PowerPoint инструмент DeckCraft. Для работы с таблицами и диаграммами создан редактор GridCarft. Кроме того, Томас явно покушается и на территорию Autodesk, предлагая САПР-систему с открытым исходным кодом CADCraft. Все эти альтернативные программы пользователи могут запускать и во вкладках браузера через WebAssembly. Обеспечивается врождённая поддержка операционных систем macOS, Windows и Linux. Программы работают напрямую с файлами на ПК пользователя, не требуя облачной инфраструктуры. При этом свою деятельность пользователь может автоматизировать через внедрение ИИ-агентов.

ИИ ускорил написание кода на 30 %, но готового ПО больше не стало — исследователи узнали, почему

Искусственный интеллект действительно значительно повышает производительность труда программистов при написании программного кода, установили американские учёные. Но вместе с тем обнаружилась другая проблема: участие человека в итоге оказывается фактором, который замедляет разработку ПО.

 Источник изображения: Fotis Fotopoulos / unsplash.com

Источник изображения: Fotis Fotopoulos / unsplash.com

При использовании ИИ объём создаваемого разработчиками кода увеличивается на 30 %, показали результаты исследования; но статистически значимое улучшение качества готового ПО зафиксировано не было. Несмотря на то, что число строк кода выросло на 30 %, число коммитов — на 20 % и запросов на слияние — на 23 %, аналогичного увеличения объёма готового продукта, на 20–30 %, при этом не происходит.

Исследователи выявили, что на 49 % вырос объём времени, затрачиваемого за проверку и слияние; на 35 % увеличилось число комментариев от людей-проверяющих к каждому запросу на слияние; и ещё на 14 % увеличилась доля сотрудников, которые занимаются проверкой кода. Таким образом, «вайб-кодинг» смещает «узкое место» на более поздний этап, но не устраняет его полностью.

В работе также ставится вопрос о том, как компании реагируют на изменение распределения нагрузки из-за внедрения ИИ, и тому, выделяют ли они больше сотрудников для проверки кода. Есть мнение, что из-за ИИ многие компании сокращают штат, но в рамках данного исследования установлено, что люди по-прежнему играют ключевую роль, хотя и на других этапах процесса разработки. В перспективе написанный ИИ код будет проверять также ИИ, но пока в процессе разработки по-прежнему активно участвует человек.

Проблему возросшей нагрузки игнорировать тоже нельзя, потому что ИИ генерирует код гораздо быстрее, чем это когда-либо мог делать человек. В результате смещения «узкого места» средняя продолжительность процесса проверки увеличилась с 7,03 до 10,48 дня. Кроме того, созданный ИИ код требует значительно большего объёма правок, и это заставляет усомниться, действительно ли технология приносит пользу.

Учитывая, что внедрение ИИ в действительности не приводит к значительным сокращениям рабочих мест, возникает вопрос о том, как компании могут оптимальным образом использовать ИИ для поддержки сотрудников и снижения избыточной нагрузки, а не о полной замене человека ИИ.

Китайский ИИ-агент от Alibaba научился спорить с поддержкой, возвращать деньги и бронировать услуги

Китайская Alibaba представила ИИ-агента Qianwen Go!, который самостоятельно решает повседневные задачи от поиска скидок до бронирования услуг. В ходе демонстраций приложение проверяло заказы на нескольких платформах, связывалось со службой поддержки и добивалось денежной компенсации, а также находило возвраты за подешевевшие товары. Разработчики делают ставку на способность агента самостоятельно менять последовательность действий, если первоначальный план не срабатывает.

 Источник изображения: alibabagroup.com

Источник изображения: alibabagroup.com

Qianwen Go самостоятельно выполняет ряд рутинных задач, которые раньше требовали от людей многократных обращений, запросов и сравнения данных. К примеру, пользователь сообщил ИИ-агенту, что у него отменили авиарейс, не уточняя его, и попросил о помощи в получении компенсации. Приложение самостоятельно открыло платформу бронирования, проверило заказы и статус рейсов, последовательно анализируя четыре заказа у разных авиакомпаний, пока не нашло нужный задержанный рейс.

Сначала оно попыталось дозвониться до службы поддержки по телефону, а, столкнувшись с проблемами при звонке, перешло на страницу заказа, далее приложение нашло функцию связи с оператором и продолжило обсуждение в онлайн-чате. Когда на демонстрации представитель службы поддержки предложил сертификат на 70 юаней ($10,46), Qianwen Go ответил: «Я категорически отказываюсь от сертификата, меня устроит только денежная компенсация!» — и добился выплаты в те же 70 юаней, которые были зачислены на счёт Alipay.

Второй сценарий — работа с функцией гарантии цены на Taobao. Пользователь просто сообщил Qianwen Go, что на платформе есть система, позволяющая вернуть средства, если товар подешевел, и признался, что не умеет ей пользоваться. ИИ-агент самостоятельно нашёл нужный раздел, проверил поочерёдно все заказы пользователя, нашёл соответствующий условиям и вернул ему 52 юаня ($7,77).

В других сценариях он записал пользователя на техобслуживание автомобиля с учётом модели машины, местоположения мастерской и удобного времени; забронировал корт для бадминтона, выбрав площадку, длительность и желаемые часы; при покупке холодильника подобрал доступные персональные субсидии, купоны, скидки за утилизацию старой техники, учёл стоимость доставки и уведомил пользователя, когда цена опустилась ниже 4500 юаней ($672,3).

Ранее Qianwen выпускала ИИ-агентов, но их возможности были ограничены — можно было, например, «вызвать такси до дома» или «купить на обед рис с говядиной». Отличием Qianwen Go является способность выполнять задачи без жёстко заданного алгоритма действий: информация о заказе может быть неполной, дозвониться до техподдержки не получается, а предлагаемые варианты могут не устраивать пользователя. В таких случаях ИИ-агент самостоятельно определяет дальнейшие шаги на основе промежуточных результатов, сменяя точки входа, платформы и варианты действия, пока задача не будет выполнена.

Anthropic перекрыла лазейку для клонирования Claude — дистиллировать модели стало в 10–100 раз труднее

Anthropic похвалилась, что свежие меры по защите ИИ-моделей от дистилляции сработали — объём данных, которые конкуренты могут извлечь из Claude для обучения собственных ИИ-моделей, уменьшен в 10–100 раз. Новые механизмы безопасности также помогли выявить и заблокировать десятки тысяч учётных записей, связанных с попытками извлечения данных.

 Источник изображений: anthropic.com

Источник изображений: anthropic.com

Дистилляция моделей стала серьёзной проблемой для ведущих разработчиков ИИ на фоне обострения конкуренции между американскими и китайскими лабораториями. Эта практика позволяет конкурентам быстрее и с меньшими затратами воспроизводить возможности передовых систем, указали крупнейшие в США игроки: Anthropic, OpenAI и Google. Защитные механизмы, ограничивающие доступ к механизмам рассуждений Claude, привели к тому, что попытки незаконного извлечения данных резко сократились: «число токенов рассуждений, извлекаемых в ходе дистилляции», стало «в 10–100 раз меньше, чем раньше».

Anthropic добилась этого результата, усложнив применение прокси-сетей, которые ранее использовались, чтобы многократно считывать защищённые средства рассуждений Claude; это позволило блокировать попытки извлечения данных и создать препятствия для масштабных атак с дистилляцией данных. Данная система, подчеркнули в Anthropic, «обладает практически такой же надёжностью, что и системы, не позволяющие Claude помогать в создании биологического оружия» — при этом «частота ложноположительных срабатываний составляет менее 0,1 %».

Компания заблокировала несколько десятков тысяч учётных записей, которые связала с атаками с дистилляцией. В качестве примера она напрямую указала китайский стартап Z.ai, также известный как Zhipu — он при разработке модели GLM-5.3 якобы пытался перехватывать ответы Claude. Подобные действия, заявили в Anthropic, создают угрозу национальной безопасности. В Z.ai на обвинения не ответили.

Полиция научила ИИ вычислять адрес дома по всего одной фотографии интерьера

Полиция в США взяла на вооружение систему искусственного интеллекта Raven, которая помогает определять местоположение дома по фотографии его интерьера. Неограниченных возможностей она не предлагает, но может оказать ощутимую помощь благодаря всестороннему анализу.

 Источник изображения: Graylark Technologies

Источник изображения: Graylark Technologies

Raven внедрили Департамент полиции Лос-Анджелеса и Управление шерифа Майами-Дейд. Первоначально разработанная компанией Graylark Technologies система носила название GeoSpy. Позднее её переименовали и дополнили функцией идентификации домов. Raven, конечно, не сможет идентифицировать любой дом в мире только по фотографии интерьера. Тем не менее генеральный директор компании-разработчика продемонстрировал, как система ищет соответствия в определённом регионе по изображению стиральной машины и сушилки. В этом случае формулировки, приведённые в результатах поиска, напрямую цитировали объявления на сайте Airbnb и платформе краткосрочной аренды Vrbo.

Речь идёт не просто о поиске совпадений по изображениям. Raven самостоятельно выделяет отличительные детали на фотографии и использует их для поиска вероятных совпадений на общедоступных платформах, даже если сами изображения различаются. Преступники нередко используют сервисы краткосрочной аренды в противозаконных целях, поэтому Raven может оказаться полезным инструментом для полиции. В ходе другой демонстрации система извлекла данные с платформы недвижимости Zillow.

GeoSpy обучали на нескольких миллионах изображений со всего мира. Система идентифицирует различные географические маркеры, такие как архитектурные особенности и типы почвы. Raven расширяет её возможности, добавляя в базу данных сведения об интерьерах домов. Как это часто случается с ИИ-системами, используемыми правоохранительными органами, новинка вызвала вопросы о конфиденциальности граждан. В Airbnb заявили о наличии технических средств защиты, предназначенных для ограничения автоматизированного сбора данных с сайта. В Zillow отметили, что такой сбор данных противоречит условиям использования сервиса.

Первоначально система GeoSpy была широко доступна публике, но её начали использовать в противозаконных целях. Поэтому в Graylark оставили доступ к ней только для корпоративных клиентов и государственных структур.

Anthropic предупредила о нашествии ИИ-червей — они смогут автономно размножаться и заражать телевизоры, бытовую технику и серверы

Развитие небольших ИИ-моделей уже к началу следующего года может создать условия для их практически бесконтрольного распространения, предупредили в Anthropic. Блокировать распространение таких «ИИ-червей» будет чрезвычайно сложно, они будут поражать всё новые типы устройств без вмешательства человека.

 Источник изображения: Unsplash, Brecht Corbeel

Источник изображения: Unsplash, Brecht Corbeel

Приняв недавно решение лишить свои передовые ИИ-модели доступа во всемирную сеть для обеспечения кибербезопасности, компания Anthropic тут же заявила, что эти модели в своём развитии находятся всего в нескольких месяцах от момента, когда смогут самовоспроизводиться в устройствах с подключением к интернету. Если компактные модели продолжат совершенствоваться с исторической скоростью, то уже к концу этого года они смогут автономно воспроизводиться, а малые репликаторы на основе весов, представляющие собой автономных компьютерных червей, получат такую возможность вскоре после этого.

В своих экспериментах Anthropic пыталась понять, как ИИ-модели способны находить уязвимые устройства типа бытовой техники и электроники, копировать себя в их память и затем продолжать распространение без участия человека. Было обнаружено, что компактные модели с менее чем 30 млрд параметров способны завершить некоторые из шагов, необходимых для самовоспроизводства. При этом такие модели с трудом способны завершить всю последовательность действий, необходимых для этого, от начала и до конца. То есть, их способность к самовоспроизводству не является достаточно надёжной.

В упрощённых тестах с ослабленными проверками в сфере безопасности модели GLM-5.2 и более сильные демонстрировали способность пройти всю последовательность самовоспроизведения от начала до конца. Представители Anthropic предупредили, что остановить распространение самовоспроизводящихся моделей будет очень сложно, поскольку условно нет «центрального рубильника» для их отключения. В отличие от вирусов, созданных без помощи ИИ, такие модели тратят до нескольких дней на самовоспроизводство, но довольствуются при этом аппаратными ресурсами устройств с достаточно низкой производительностью.

В своих экспериментах Anthropic сосредоточилась на ТВ-приставках, умных телевизорах под управлением Android, умной бытовой технике и прочих устройствах с подключением к интернету, поскольку они обычно слабее защищены. Заражённая таким ИИ-червём сеть способна разрастаться, но медленнее по сравнению с рукотворными вирусами подобного типа, и для этого требуется достаточное количество заражённых машин. Такие черви теоретически могут заражать и более производительные системы, включая серверные конфигурации на базе центральных процессоров, но эксперименты Anthropic с коммерчески доступными ЦОД не показали их способность к самовоспроизводству.

Автономно воспроизводящиеся ИИ-системы распространяются достаточно медленно, полагаясь на общедоступные и плохо защищённые вычислительные ресурсы. Соответствующие устройства нужно лучше защищать для предотвращения подобных «эпидемий», подчёркивает Anthropic. Специалисты признались, что не уверены, в какой именно форме будет осуществляться автономное самовоспроизводство ИИ-моделей. Это может быть медленной и распределённой средой, живущей на относительно слабо защищённых устройствах. Либо это может оказаться мощной кибермоделью, которая с высокой скоростью проникает в ЦОД, или моделью, которая обманывает людей с целью получения доступа к вычислительным ресурсам.

Китайцы купили миллион видеокарт GeForce для ИИ — тем временем Huawei захватывает рынок ИИ-чипов

Китайские разработчики ИИ-моделей не брезгуют покупкой американских игровых видеокарт и решений для рабочих станций. При этом доля продукции Nvidia на китайском рынке ИИ-ускорителей продолжает снижаться, а не относящиеся к категории GPU ускорители здесь уже начали доминировать по итогам прошлого полугодия.

 Источник изображения: Nvidia

Источник изображений: Nvidia

В условиях американских санкций поставки передовых ИИ-ускорителей Nvidia в Китай ограничены, поэтому местные разработчики на фоне общего дефицита профильных компонентов не стесняются приспосабливать под нужды инфраструктуры ИИ даже видеокарты GeForce и RTX Pro, предназначенные для игр и рабочих станций. По данным Financial Times, в этом году китайские техногиганты для соответствующих нужд закупили более 1 млн подобных видеокарт Nvidia.

При этом уже два года назад китайские власти начали ограничивать приток специализированных импортных ускорителей, рассчитывая развернуть импортозамещение на этом направлении, но местные поставщики не могут в полной мере удовлетворить спрос китайских разработчиков ИИ-моделей на ускорители, хотя объёмы внутреннего производства и увеличились в текущем году более чем вдвое. По оценкам опрошенных источником представителей отрасли, из 3,5 млн ускорителей ИИ китайского происхождения примерно 1 млн штук будет изготовлен за пределами КНР, но общий объём спроса уже превышает 5 млн штук. В следующем году ситуация усугубится дополнительно, поскольку спрос удвоится до более чем 10 млн чипов.

Игровые видеокарты Nvidia и решения для рабочих станций типа GeForce RTX 5090, RTX Pro 5000 и RTX Pro 6000D, как отмечается, заметно уступают в ускорении ИИ даже китайским решениям типа Huawei Ascend 910C, но на фоне дефицита китайские разработчики закупаются и такой продукцией, которая не попадает под экспортные ограничения США. Тем более, что на этапе обработки пользовательских запросов в задачах инференса подобные альтернативы полноценным ИИ-ускорителям работают вполне успешно.

Для китайских разработчиков ситуация усугубляется тем, что при переходе на местные ускорители им приходится портировать программное обеспечение, и в этом смысле приспосабливать доступные графические решения Nvidia порой рациональнее, чем затевать масштабную миграцию на местные альтернативы. Китайские разработчики всё ещё отстают от американских по величине капитальных затрат на инфраструктуру (в четыре с лишним раза, по оценкам Morgan Stanley), но они в этом году собираются направить на эти нужды $193 млрд. Из этой суммы около $104 млрд придётся на трёх крупнейших игроков китайского рынка (Alibaba, ByteDance и Tencent), и эти расходы более чем удвоятся относительно прошлого года.

В этом году Huawei рассчитывает произвести около 1,6 млн ИИ-чипов, профильные подразделения Alibaba и Baidu сообща поставят около 1 млн чипов, а Cambricon добавит ещё 300 000 штук. Низкое удельное быстродействие каждого чипа Huawei пытается компенсировать возможностью объединять их в крупные вычислительные кластеры — до 1 млн штук в перспективе. ByteDance первые образцы ИИ-чипов собственной разработки собирается получить к концу этого года, а в следующем начать их массовое производство.

Представленные в прошлом месяце ускорители Nvidia RTX Pro 5500 тоже вызвали живой интерес у китайских компаний. Они готовы заказать более 2 млн таких видеокарт, когда их поставки начнутся к концу текущего года. Китайские регуляторы уже ведут переговоры с желающими купить данные ускорители местными компаниями о возможности их импорта, и с высокой вероятностью могут его одобрить, если верить Financial Times.

Статистика IDC, на которую ссылается Reuters, одновременно говорит о снижении доли продукции Nvidia на китайском рынке ИИ-ускорителей для ЦОД до 34 % по итогам прошлого полугодия. Объёмы импорта таких ускорителей Nvidia сократились в годовом сравнении на 44 % до 678 000 штук на фоне сохранения экспортных ограничений США и поддерживаемой китайскими властями экспансии местных поставщиков типа Huawei. Последняя из компаний при этом почти удвоила поставки своих ускорителей ИИ до 572 000 штук и смогла занять 28 % китайского рынка.

Из 11 отслеживаемых IDC китайских поставщиков ИИ-чипов девять увеличили свои объёмы поставок в первом полугодии. Alibaba заняла 7 % китайского рынка, Cambricon уступила ей с 5 % рынка, а Baidu со своим подразделением Kunlunxin довольствовалась 4 %. Начинавшая с легального клонирования решений AMD компания Hygon занимает 3 % китайского рынка ИИ-ускорителей.

Всего за полугодие на китайский рынок было поставлено более 2 млн ИИ-ускорителей, из них графических процессоров (GPU) было отгружено 991 000 штук — на 26 % меньше, чем годом ранее. Ускорителей ИИ другого типа было поставлено чуть более 1 млн штук, что почти на 80 % больше прошлогоднего результата. Фактически, ускорители на базе GPU теперь оказались в меньшинстве на китайском рынке — как из-за санкций, так и благодаря смещению спроса на центральные процессоры на фоне распространения ИИ-агентов. За пределами сегмента GPU четыре китайские компании контролируют сообща 95 % местного рынка — это Huawei, T-Head, Kunlunxin и Cambricon. В этом году, по прогнозам IDC, на китайском рынке будет поставлено на 19 % больше ИИ-ускорителей всех типов, хотя в сегменте GPU будет наблюдаться снижение на 9 %.

Цукерберг: Meta✴ уже догнала конкурентов на переднем крае ИИ и теперь ускорит развитие своих моделей

Устранив отставание от основных конкурентов в сфере ИИ, по её мнению, Meta✴✴ дальше готова двигаться чуть быстрее. При этом принудительно замедлять создание ИИ в компании не считают нужным. Персональные ИИ-агенты для Meta✴✴ становятся приоритетом в работе, а сценарии с «восстанием машин» её не очень беспокоят.

Представленные накануне ИИ-модели Muse Wonder и Muse Wonder Full, по мнению создавшей её компании Meta✴✴ Platforms, по своим возможностям не уступают передовым моделям основных конкурентов в лице OpenAI и Anthropic. Это подкрепляется и данными тестирования в некоторых тестах, но очевидно, что и соперники Meta✴✴ не собираются стоять в этом отношении на месте.

Глава и основатель компании Марк Цукерберг (Mark Zuckerberg) в интервью Financial Times признался, что модели семейства Muse Wonder «позволят демонстрировать более сложное поведение на переднем крае того, что делается в сфере ИИ». Заявленное компанией превосходство над моделями OpenAI и Anthropic, по словам Цукерберга, потребовало существенных вычислительных ресурсов и инвестиций, а также большого объёма научной работы на протяжении длительного периода.

Muse станет семейством закрытых моделей, лучшие версии которых Meta✴✴ будет напрямую продавать корпоративным клиентам. За использование этих моделей компаний будет взимать плату в размере от 20 центов за миллион токенов при базовом сценарии, а более премиальный вариант доступа к Muse Wonder Full будет стоить $200 в месяц. Это семейство моделей гораздо лучше запоминает контекст прошлых сеансов работы с клиентом, что повышает эффективность их использования. Meta✴✴, по словам Цукерберга, уже работает «над следующим шагом», и разработка последующих моделей внутри компании наверняка немного ускорится.

При этом сам Цукерберг не разделяет опасений некоторых «коллег по цеху» в отношении угрозы со стороны «взбунтовавшихся» ИИ-моделей для всего человечества. «Я гораздо ближе к убеждению, согласно которому ИИ является технологией, которая может быть разработана с нормальными ограничениями и ответственно, чем к антропоморфному представлению об ИИ, согласно которому он собирается вести себя по-своему», — пояснил глава и основатель Meta✴✴. Ответственность за поведение ИИ-моделей лежит на их разработчиках, и самой Meta✴✴ уже приходилось замедлять их разработку ради безопасности, как подчеркнул он. В процессе подготовки «Соглашения о сверхинтеллекте» по инициативе американского президента Цукерберг принимал активное участие.

По словам главы Meta✴✴, эта компания не преследует целей по созданию «сильного искусственного интеллекта», как многие конкуренты, а концентрируется на «персональном сверхинтеллекте», который позволяет упростить жизнь и работу отдельных пользователей. Сейчас на рынке наблюдается некоторая двойственность возможностей ИИ-моделей — они добиваются определённых успехов в научных сферах, но по-прежнему не могут служить идеальным персональным ассистентом. В этой сфере, как отмечает Цукерберг, предстоит проделать большую работу, поскольку не факт, что решение сложных математических задач для общества важнее, чем создание системы, которая надёжно бы осуществляла техническую поддержку пользователей.

Потенциальные проблемы с приватностью данных в ИИ-моделях Meta✴✴ собирается решить в новой версии своего ПО, которое носит название «Muse Confidential VM». Пользовательские данные и содержание переписки с ИИ-агентами Meta✴✴ эта компания собирается поместить в виртуальную машину, которая ей самой не будет доступна. В этом смысле даже недоверие пользователей может способствовать появлению «весьма продуктивных технологических инноваций», по мнению Цукерберга.

Дальнейшее развитие ИИ основатель компании при этом неразрывно связывает с автоматизацией труда. «Каждая вещь потенциально может быть сделана несколько меньшим количеством людей. Я бы предположил, что в будущем гораздо большее количество людей в своей работе будут иметь дело с технологией, позволяющей делать эти вещи, чем это происходит сейчас», — обрисовал перспективы занятости сотрудников глава Meta✴✴.


window-new
Soft
Hard
Тренды 🔥
Весело, но мало: комедийный симулятор водителя автобуса Thank You Bus Driver стартовал в Steam с рейтингом 80 % 5 мин.
WhatsApp разрешил звонить без регистрации и установки мессенджера 48 мин.
«Те же самые впечатления, что и 20 лет назад»: российские энтузиасты перенесли мультиплеер Serious Sam: The First Encounter и The Second Encounter в браузер 2 ч.
Первые атаки ИИ-агентов — лишь «предупредительные выстрелы», предупредил бывший глава Google DeepMind 3 ч.
Благодаря вайб-кодингу Epic Games Store наконец заработал быстрее Steam 3 ч.
В китайских iPhone проявится ИИ — но не такой, как в США и других странах 3 ч.
Сердечко, огонь и смех до слёз: названы самые популярные смайлики у россиян 6 ч.
GTA VI стоила меньше $1,5 миллиарда долларов, а следующий проект Rockstar не придётся ждать восемь лет — подробности разработки главной игры 2026 года 6 ч.
В киберпанковый экшен-платформер Replaced сыграли 900 тысяч человек, а игра получила дату релиза на Android 8 ч.
В Рунете снова произошёл массовый сбой — россияне пожаловались на проблемы с Mail.ru, Ozon и другими сервисами 8 ч.