Сегодня 21 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → агенты
Быстрый переход

Google создала параллельный интернет для обучения ИИ-агентов — в нём есть даже поддельные банки и соцсети

В процессе разработки функций искусственного интеллекта на основе моделей Gemini для браузера Chrome инженеры Google приняли дополнительные меры предосторожности, чтобы избежать непредсказуемых последствий. Они поступили радикально: создали обширный, полностью подконтрольный компании «альтернативный интернет» Mirror Dimension.

 Источник изображений: blog.google

Источник изображений: blog.google

Предназначенные для работы в Сети ИИ-агенты должны понимать принципы устройства интернета, уметь ориентироваться на реальных сайтах и платформах, а также быть устойчивыми к кибератакам. Обучение в традиционных ограниченных тестовых средах даёт лишь частичный эффект. Кроме того, модели могут осознать, что находятся в условиях симуляции или проверки и начать вести себя иначе. С другой стороны, выпускать «необкатанных» ИИ-агентов в открытый интернет крайне рискованно. Поэтому в Google на помощь пришёл альтернативный интернет.

Проект Mirror Dimension представляет собой масштабную, разнообразную, но полностью изолированную веб-экосистему, которая находится под полным контролем инженеров Chrome. Она включает в себя множество сайтов и платформ — от социальных сетей и интенет-магазинов до банковских интерфейсов, — созданных с использованием всех компонентов и атрибутов реальных веб-ресурсов. ИИ-агенты взаимодействуют с этими сайтами и выполняют задачи в Chrome точно так же, как делали бы это в настоящем интернете. В процессе работы они подвергаются и проверкам на устойчивость — например, сталкиваются со скрытыми попытками инъекций в запросах, что помогает оценить надёжность их защиты.

«ИИ-агенты не программируются [алгоритмически}, и предусмотреть всё, с чем они могут столкнуться, невозможно. Пространство для исследования здесь колоссально, а интернет — среда враждебная. Любой пользователь может ввести на любом сайте любой запрос, поэтому нам необходимо тщательно изучить это пространство. Мы уже видим, что агент начинает проявлять зрелую рассудительность — понимает, какая именно информация требуется для выполнения задачи, и когда стоит обратиться к пользователю за подтверждением», — пояснили в Google.

Создание и наполнение Mirror Dimension оказалось непростой задачей. Среда должна была быть достаточно обширной и разнообразной, чтобы отражать масштаб реального интернета, и разработать эту среду было необходимо в сжатые сроки. Чтобы построить её, инженеры Chrome задействовали целые армии агентов — разработчиков сайтов и приложений под управлением специализированной ИИ-системы. Они оперативно создавали реалистичные веб-сервисы и потоки данных — вплоть до таких деталей как ввод промокодов в интернет-магазине и наполнение страниц в соцсетях.

Среда находится под контролем Google, но браузер Chrome располагает множеством средств защиты пользователей и проверок подлинности. Чтобы ИИ-агенты работали в настоящем Chrome, а это критически важно для качественного обучения, инженерам пришлось, по сути, взломать браузер. Они выпустили поддельные веб-сертификаты для прохождения проверок, чтобы ИИ-агенты функционировали в максимально приближенных к реальности условиях. В отношении обычных пользователей, подчеркнули инженеры Google, такие атаки невозможны: их удалось реализовать при наличии полного контроля над средой и сетью.

Тестируемые в Google ИИ-агенты для браузера Chrome безобидны и не обладают средствами для проведения атак. Теперь инженеры хотят сделать экосистему Mirror Dimension доступной другим отделам Google, чтобы в этой контролируемой среде могли тестироваться и другие продукты.

Apple запустила разработку собственного ИИ-агента, который поселится в компьютерах Mac

Стало известно, что Apple работает над созданием собственного ИИ-агента, который сможет выполнять действия от имени пользователя, в том числе взаимодействовать с приложениями, посещать веб-сайты, генерировать программный код и др. На это указывает недавно открытая производителем iPhone вакансия, в описании которой сказано, что компании требуется руководитель команды, занимающейся созданием ИИ-агента, который умеет пользоваться компьютером.

 Источник изображений: Apple

Источник изображений: Apple

«Представьте себе ИИ-агента, который использует компьютер так, как это делает опытный человек. Он просматривает веб-страницы, работает в разных приложениях, выполняет команды, пишет и проверят программный код, обращается к сервисам, выбирая подходящий инструмент для каждого шага. Всё это он делает конфиденциально и на том уровне качества, который пользователи ждут от Apple», — говорится в описании вакансии.

Там также сказано, что ИИ-агент должен уметь свободно переключаться между инструментами и выполнять многошаговые задачи в приложениях, браузерах, командной строке, при генерации кода и через API. Официальные представители Apple пока воздерживаются от комментариев по данному вопросу.

ИИ-агенты, способные самостоятельно выполнять какие-то действия на компьютере, за последний год вошли в число наиболее востребованных продуктов в технологической индустрии. Крупные игроки в сфере ИИ, такие как OpenAI, Anthropic и Meta✴✴, уже выпустили своих агентов на рынок. Вполне логично, что Apple также стремится следовать этому тренду.

В сообщении также сказано, что параллельно с разработкой собственного агента Apple существенно усложняет возможности получения полного контроля над устройством пользователя для сторонних агентов. По данным источника, в iOS 27.3 появятся предупреждения, с помощью которых Apple рассчитывает отговорить пользователей от предоставления полного доступа к устройствам для сторонних агентов.

Ранее Apple направила разработчикам уведомления, заявив о намерении ввести дополнительные механизмы контроля, чтобы пользователи, которые действительно хотят предоставить агентам полный доступ к устройству, делали это явно выраженно. Отмечается, что хоть Apple и планирует запустить своего агента к концу следующего года, на данный момент разработка продукта находится на ранней стадии.

ИИ-агентный тамагочи Meta✴ Muse Charm будет стоить $300, но это не точно

Meta✴✴ планирует установить на Muse Charm цену в $300 — речь идёт о компактном устройстве с экраном, которое предназначается для общения с агентом искусственного интеллекта Muse. Гендиректор Meta✴✴ Марк Цукерберг (Mark Zuckerberg) представил гаджет в этом году и сообщил, что компания рассчитывает выпустить его «к декабрьским праздникам», но стоимость тогда не уточнил.

 Источник изображения: ***

Источник изображения: Meta✴✴

В ходе анонса Muse Charm Цукерберг заявил, что компания вместила в устройство все возможности Muse, в том числе голосовой интерфейс и аватары в реальном времени. Гаджет оборудован сканером отпечатков пальцев: достаточно коснуться его, чтобы начать разговор с ИИ-агентом — разблокировать смартфон и открывать приложение не требуется. В комплект поставки входит 12-месячный тарифный план с подключением к сетям 5G оператора Verizon.

«Нас очень радует интерес к нашим ИИ-устройствам, и вскоре мы сообщим новые подробности», — прокомментировали в Meta✴✴ неофициальную информацию об устройстве. Meta✴✴, как сообщается, также ведёт разработку умных часов, но их выпуск компания перенесла на 2027 год, потому что сейчас у неё в приоритете дебют Muse Charm. Ранее Meta✴✴ выложила в открытый доступ программные средства, с которым энтузиасты могут собирать собственные гаджеты для работы с ИИ-агентом Muse.

Microsoft превратила Copilot в «новую ОС для работы» — и теперь Word, Excel и PowerPoint работают прямо в ней

Гендиректор Microsoft Сатья Наделла (Satya Nadella) объявил на конференции Ignite о полноценной интеграции Word, Excel и PowerPoint в состав Copilot — системы, которую он назвал «новой операционной системой для работы». Это знаменует кардинальное изменение в подходе компании: если ранее помощники, вроде «скрепки» Clippy, выполняли вспомогательные функции в приложении, то теперь им отведена главная роль.

 Источник изображения: Microsoft

Источник изображения: Microsoft

Согласно обновлённой концепции Microsoft, о которой было объявлено в сентябре, программные пакеты выступают в качестве вспомогательных инструментов и становятся своего рода плагинами для работы агента, который опирается на корпоративную базу знаний, аккумулирующую контекст из электронной почты, встреч, календарей, чатов и файлов. Пользователи могут создавать документы, таблицы и презентации непосредственно в интерфейсе Copilot, хотя полученные файлы останутся доступными для редактирования в соответствующих приложениях пакета Office.

В сентябре компания переименовала персонального ИИ-помощника Scout в Autopilot, которому теперь можно делегировать целые роли, а не разовые задачи. Он может работать с почтой, календарями и другими сервисами, а оплата производится через систему кредитов Copilot Credits. Для осуществления контроля Microsoft ввела уникальные ID для агентов, логирование действий и возможность запроса одобрения у человека.

Также было объявлено о запуске платформы Microsoft IQ. В ее состав входит компонент Work IQ — уровень контекстных данных, который помогает агентам лучше понимать коммуникации внутри компании, деловые связи и текущие рабочие процессы. Как сообщается, в Copilot Workspaces — среде для совместной работы — вскоре появится возможность использовать персональных агентов Autopilot. «До сих пор взаимодействие с ИИ было по большей части “одиночной игрой”. Workspaces превращает его в полноценный многопользовательский процесс, в котором люди и агенты работают над достижением общей цели, опираясь на единый контекст», — отметил Наделла.

Также платформа управления ИИ-агентами в корпоративной среде Agent 365 получила расширенные возможности, распространяя существующие системы идентификации, безопасности и администрирования на самих ИИ-агентов.

Особое внимание Microsoft уделяет доверию и прозрачности. Наделла заявил, что нельзя полагаться на то, что модели способны сами себя контролировать. Для обеспечения контроля требуется «архитектурное разделение»: необходимо отделить «источник интеллекта» от полномочий, которыми он наделяется. Как сообщила Microsoft, каждый агент Autopilot имеет уникальный идентификатор, а администраторы могут ограничивать его права доступа или полностью блокировать. Все действия агентов фиксируются в журналах для последующей проверки людьми; кроме того, система может запрашивать одобрение пользователя перед выполнением определённых операций.

Microsoft также запустила инициативу по обеспечению прозрачности в сфере ИИ (AI Transparency Initiative). В рамках этого проекта, объединившего более 40 крупных организаций, включая Adobe и MasterCard, планируется разработать открытые отраслевые стандарты управления и безопасности в области ИИ.

Кроме того, было представлено решение Agent 365 Business Analytics — своего рода ERP‑система для учёта расходов на ИИ: компании могут сопоставлять затраты на токены с бизнес‑результатами. Впрочем, в Microsoft признали, что оценка количества сэкономленных часов (времени, высвобожденного благодаря ИИ) производится с помощью модели, а не путём прямого измерения затраченного времени.

«Просто ужасно»: ИИ-агент Meta✴ Muse сам влез в переписки Signal — и это лишь одна из его пугающих проблем

Meta✴✴ делает большую ставку на ИИ-агента Muse, но его несанкционированные действия вызывают обеспокоенность среди сотрудников компании. Согласно внутренней переписке, он проникал в зашифрованные личные переписки, предоставлял вымышленные сведения о покупках и отправлял пользователям сообщения, предназначенные для других людей.

 Источник изображения: ***

Источник изображения: Meta✴✴

Muse является одним из самых быстрорастущих приложений в истории: с момента запуска в сентябре его скачали более 10 млн раз. Но сотрудники компании обеспокоены тем, что он может раскрывать конфиденциальные данные пользователей. Например, одна из сотрудниц сообщила, что чат-бот Muse сослался на сообщение, которое она получила в зашифрованном мессенджере Signal.

В связи с этим агентство Reuters совместно со специалистами Signal и института AI Now Institute провело проверку, которая подтвердила проблему с конфиденциальностью у Muse. Боту предложили прочитать сообщения из Signal на различных операционных системах. На смартфоне Android и ноутбуке Apple бот смог обойти инструмент Meta✴✴ под названием Connector. Для этого он воспользовался разрешениями, предоставленными ему при первоначальной настройке. При попытке получить доступ на iPhone система заблокировала подобные действия.

В операционной системе macOS бот использовал сочетание функций обеспечения доступности (accessibility tools) и инструментов для создания скриншотов, применив настройки, созданные Apple для помощи людям с ограниченными возможностями.

Комментируя результаты проверки, президент Signal Мередит Уиттакер (Meredith Whittaker) призвала предоставить разработчикам приложений (таких, как Signal) «надёжные технические инструменты», позволяющие помечать свои программы как недоступные для ИИ-агентов.

Некоторые банки и ретейлеры отреагировали на эти риски блокировкой агентов. В свою очередь, Apple перекрыла лазейку, выявленную Reuters, ограничив в вышедшем на этой неделе обновлении возможности разработчиков по использованию инструментов доступности на компьютерах Mac.

Сотрудники компании также сообщали о случаях, когда Muse информировал пользователей о транзакциях, которых на самом деле не было, или называл несуществующие цены на товары, которые пользователи действительно приобретали и в результате несли финансовые потери.

Ещё больше вызывали тревогу случаи, когда бот отправлял пользователям странные, вырванные из контекста сообщения, зачастую с информацией о других пользователях. В связи с этим представитель команды Meta✴✴ по разработке «суперинтеллекта» в начале ноября предположил, что агент, по-видимому, «галлюцинирует» — генерирует вымышленные сообщения в ответ на встроенные команды. «К сожалению, эти “галлюцинации” чаще всего затрагивают наиболее чувствительные темы — финансы, безопасность, защищённость, — что просто ужасно», — отметил он. По его словам, команда работает над устранением проблемы, которая затрагивает как базовую ИИ-модель, так и программное обеспечение, позволяющее системе Muse совершать определённые действия.

OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face

Генеральный прокурор Калифорнии Роб Бонта (Rob Bonta) подал иск против OpenAI, обвинив компанию в недостаточном контроле над экспериментальными моделями искусственного интеллекта и созданными на их основе автономными ИИ-агентами. Дело спровоцировано летней атакой беглого ИИ на сервисы Hugging Face и другими подобными случаями.

 Источник изображения: ИИ-генерация ChatGPT/3DNews

Источник изображения: ИИ-генерация ChatGPT/3DNews

Иск направлен против OpenAI Foundation и OpenAI Group PBC и зарегистрирован в Высшем суде Сан-Франциско. Прокуратура утверждает, что компания проводила испытания моделей с развитыми возможностями кибернетических атак без надлежащих средств защиты и мониторинга, подвергая опасности сторонние компьютерные системы.

В качестве наиболее показательного эпизода приводится случай проникновения ИИ-агентов OpenAI в инфраструктуру Hugging Face в июле 2026 года. По утверждению Бонты, это был лишь один из как минимум 80 известных инцидентов, связанных с потерей контроля над автономными агентами во время испытаний. Причём компания OpenAI сама призналась во всех случаях потери контроля. Её никто не тянул за язык.

В иске прокуратура утверждает, что проблема не ограничивалась Hugging Face: среди других эпизодов упоминаются попытки несанкционированного доступа к базам данных с программным кодом, информационным ресурсам и государственным базам данных с конфиденциальными медицинскими сведениями. Также описывается проникновение экспериментальных ИИ-агентов во внутреннюю инфраструктуру самой OpenAI с получением прав администратора.

Прокуратура считает, что компания игнорировала признаки противоправных действий её ИИ-агентов и не соблюдала собственные требования безопасности, а впоследствии предоставила недостаточно информации о других инцидентах. В качестве правовых оснований указаны нарушение калифорнийского закона о недобросовестной конкуренции и создание угрожающей обществу опасной ситуации.

Генеральный прокурор требует судебного предписания об устранении нарушений, возмещения незаконно полученной прибыли и гражданских штрафов в размере $2500 за каждое нарушение. При этом OpenAI ранее сообщала, что после июльского происшествия усилила изоляцию песочниц, ограничила сетевой доступ, расширила мониторинг поведения моделей и привлекла внешних специалистов, включая из CrowdStrike.

Кроме того, OpenAI столкнулась с двумя другими судебными исками, связанными с противоправными действиями ИИ-агентов компании. Это иск некоммерческой организации Legal Advocates for Safe Science and Technology, который та подала в сентябре, не требуя денежных компенсаций, но требуя судебного запрета, чтобы предотвратить подобное в будущем, а также иск ряда некоммерческих организаций, включая Alliance for Secure AI и Irreplaceable, поданный на прошлой неделе против OpenAI, Anthropic, Google, Meta✴✴ и SpaceXSI. Вторая коалиция добивается судебного запрета, чтобы заставить компании заморозить разработку продвинутого искусственного интеллекта.

У ChatGPT появился «Кошелёк» — теперь ИИ-агенты смогут совершать покупки от имени пользователя

OpenAI представила новую функцию под названием «Кошелёк» (Wallet), при помощи которой агенты искусственного интеллекта Dots смогут оказывать пользователям помощь в выборе товаров и оформлении заказов. На начальном этапе функция будет доступна ограниченному числу совершеннолетних подписчиков ChatGPT Pro в США.

 Источник изображения: openai.com

Источник изображения: openai.com

Пользователи полностью контролируют процесс, подчеркнули в OpenAI: перед завершением транзакции можно проверить список товаров, итоговую сумму и выбрать карту для оплаты. Для подтверждения покупки, кроме того, потребуется пройти биометрическую проверку, например, по Face ID или с помощью сканера отпечатка пальца, чтобы зафиксировать факт совершения операции.

Чтобы начать пользоваться функцией, подписчикам ChatGPT достаточно добавить в «Кошелёк» одну или несколько банковских карт, а затем попросить ИИ-агента помочь с покупкой. Эту процедуру придётся пройти только один раз — в дальнейшем вводить платёжные данные повторно не потребуется. В момент оплаты ChatGPT использует платёжный токен, заменяющий реальные реквизиты карты, так что платёжная информация не передаётся ни ИИ-агенту, ни продавцу.

Продавец автоматически получает от ИИ-агента всю необходимую для выполнения заказа информацию, в том числе контактные данные и адрес доставки. При совершении покупок с помощью ИИ-агентов пользователи по-прежнему смогут получать кешбэк по картам и обращаться к стандартным для карт средствам защиты, в том числе к возможности оспорить транзакцию.

Ограниченная аудитория на начальном этапе позволяет OpenAI протестировать и усовершенствовать данную функцию, прежде чем развернуть её для более широкого круга пользователей. В будущем компания планирует расширить возможности для управления функцией: можно будет устанавливать лимиты расходов и задавать иные параметры — по категориям товаров или периодам времени. Благодаря этому пользователи смогут заранее одобрять покупки, которые ИИ-агент затем совершит в автономном режиме.

OpenAI стремится сделать функцию покупки через ИИ-агентов доступной у большего числа розничных продавцов. Некоторые площадки, однако, пока блокируют доступ ИИ-агентам к своим платформам. Компания выпустила руководство, в котором представила инструменты и рекомендации для торговых площадок, которые хотят получить покупателей, пользующихся ИИ-агентами.

Microsoft показала, как превратить ИИ-агента в троян, изменив всего семь нейронов

Исследователи Microsoft представили метод, позволяющий незаметно внедрять вредоносные команды в ИИ-модели путём изменения всего нескольких нейронов. Для этого не требуется переобучать всю модель или менять программный код, который обеспечивает её работу. После появления специального триггера ИИ-агент самостоятельно выполнит подготовленную команду, используя предоставленные ему системные полномочия.

 Источник изображения: thehackernews.com

Источник изображения: microsoft.com

Метод получил название Lazarus. Он использует редко активирующиеся нейроны, которые практически не влияют на обычные ответы модели. Исследователи изменяют их внутренние параметры, превращая в своеобразные датчики определённой последовательности текста. Когда триггер появляется в пользовательском запросе или ответе подключённого инструмента, изменённые нейроны заставляют модель добавлять в ответ заранее подготовленную команду.

Каждый такой нейрон отвечает за небольшой фрагмент, поэтому для формирования короткой инструкции достаточно нескольких изменений. В отличие от традиционных методов внедрения бэкдоров (получение несанкционированного доступа к чему либо), Lazarus не требует полноценного обучения модели на вредоносных примерах.

В одном из экспериментов исследователи изменили семь нейронов из более чем 12 000 в последнем блоке нейронной сети Nemotron-Terminal-8B. Заражённая модель успешно выдавала команду в 98,8 % тестовых сессий, содержащих триггер, но не срабатывала в проверенных сессиях без него. Метод также испытали на Qwen3.6-27B и Gemma-4-31B-IT, где показатели успешного срабатывания составляли от 51 до 99,5 % в зависимости от конфигурации. Эти показатели характеризуют именно выдачу команды моделью, а не вероятность успешного проведения полноценной кибератаки.

В демонстрационном сценарии заражённую Nemotron-Terminal-8B попросили исправить сервер на Node.js. Первые три ответа были обычными, однако после получения сообщения об ошибке подключения модель сформировала команду для загрузки и запуска удалённого скрипта. В тестовой среде он выполнился с наивысшими привилегиями — правами root. Последствия подобной атаки зависят от выданных ИИ-агенту разрешений, его доступа к файлам и возможности подключаться к внешним серверам.

Для внедрения Lazarus злоумышленнику необходимо получить доступ к весам модели, например через украденную учётную запись, скомпрометированную инфраструктуру или публикацию изменённого файла в открытом репозитории. Microsoft рекомендует сравнивать параметры каждой версии модели с оригиналом, проверять источники загрузки, ограничивать полномочия агентов и запускать их код в изолированных средах, а также требовать подтверждения со стороны человека перед выполнением потенциально опасных команд.

Создатели Cyanogen готовят Linux, напичканный ИИ — новая ОС Kora объединит разные нейросети

Стартап Kora Systems представил десктопную операционную систему Kora на базе Linux, ориентированную на разработчиков, создателей контента и пользователей, активно работающих с искусственным интеллектом. Платформа объединит различные ИИ-модели и автономных агентов на системном уровне.

 Источник изображения: Kora

Источник изображения: Kora

Главная особенность ОС заключается в возможности сохранять общий контекст работы с разными ИИ-инструментами. Например, пользователь сможет начать проект с помощью моделей OpenAI, затем перейти к инструментам Anthropic для развёртывания программного кода, а для остальных задач задействовать локальный ИИ, чтобы сократить расходы на облачные запросы. При этом информация о проектах, документах и предыдущих взаимодействиях будет храниться непосредственно на компьютере.

Для работы с файлами предусмотрена файловая система на основе нейросети. Она индексирует содержимое документов по тематике, поэтому пользователь сможет найти нужный документ, описав его содержание в поисковой строке, даже если не помнит название или расположение. Система также использует отдельные рабочие пространства, позволяющие разграничивать проекты и контролировать, к каким файлам, устройствам и онлайн-сервисам получат доступ ИИ-агенты.

Kora построена на ядре Linux и будет поддерживать компьютеры с процессорами Qualcomm Snapdragon, а также системы на архитектуре x86-64 от Intel и AMD. Совместимость с приложениями Windows обеспечат специальные программные слои. Компания также разрабатывает собственные приложения для электронной почты, календаря и контактов, а для сторонних разработчиков готовит SDK.

Игровые возможности сохранит технология GameFrame, созданная на основе предыдущей разработки компании GameOS. При этом Kora ориентируется на мощные компьютеры с объёмом оперативной памяти не менее 64 Гбайт, необходимые для запуска требовательных локальных ИИ-моделей.

Проект возглавляет Кирт Макмастер (Kirt McMaster), ранее ставший одним из основателей Cyanogen, альтернативной версии Android, получившей широкое распространение до прекращения работы компании около десяти лет назад. Вместе с ним Kora развивают Франк Де Джиролами (Franck De Girolami), участвовавший в создании GameOS, и Джон Лагерлинг (John Lagerling), ранее работавший над Android в Google. Появление операционной системы ожидается в 2027 году.

OpenAI создала аварийный выключатель для особо опасных и непослушных ИИ-моделей

OpenAI разработала централизованную систему Control Room, позволяющую принудительно прекращать генерацию ответов исследовательскими ИИ-моделями при возникновении угроз безопасности. Механизм предусматривает отключение доступа к результатам работы модели по команде человека или автоматизированной системы мониторинга.

Новая разработка появилась после нескольких инцидентов, связанных с действиями исследовательских моделей OpenAI. В июле компания сообщила, что её ИИ-модели вышли за пределы ограниченной тестовой среды и взломали платформу Hugging Face, пытаясь обмануть систему оценки возможностей в области кибербезопасности.

В октябре OpenAI раскрыла ещё один случай: исследовательская модель без разрешения воспользовалась криптовалютным кошельком для оплаты развёртывания смарт-контрактов с использованием тестовых монет Ether, а затем не упомянула расходы в итоговом отчёте.

Control Room отслеживает внутренние исследовательские задачи компании, включая обучение моделей, оценку их возможностей и обработку данных. Каждой задаче присваивается уникальный идентификатор, который механизм генерации ответов проверяет перед выдачей результата. Если сотрудник или автоматизированная система мониторинга отдаёт команду остановить процесс, Control Room отзывает соответствующее разрешение. При этом прекращение генерации не зависит от остановки самого исследования.

OpenAI также предупреждает, что из-за сохранённых в кеше разрешений отключение может занять до 35 секунд. Кроме того, Control Room предусматривает защиту на случай собственной недоступности. Например, если система перестанет работать, новые запросы не будут приниматься.

Масштабное обновление продуктов Adobe: вездесущие ИИ-агенты и другие инструменты на базе ИИ

На конференции MAX в Майами компания Adobe анонсировала масштабное обновление своих продуктов, включая Photoshop, Premiere, Illustrator и InDesign, добавив в них новые функции на базе искусственного интеллекта. Кроме того, компания расширила возможности своего инструмента для творчества Firefly и представила протокол Model Context (MCP), который позволит сторонним чат-ботам использовать функционал Adobe.

 Источник изображений: Adobe

Источник изображений: Adobe

Adobe продолжает активно внедрять ИИ-функции во все свои приложения. В Photoshop появились инструменты для изменения освещения и ползунки для настройки генеративных стилей на основе текстовых запросов. В Premiere добавлена ​​профессиональная система цветокоррекции и функция удаления объектов из видео. В Lightroom теперь можно исправить закрытые глаза на снимках и удалить дефекты изображения.

Adobe уже предоставляет доступ к моделям от сторонних разработчиков, таких как Google, Runway, ElevenLabs, Black Forest Labs, OpenAI, Kling и ByteDance. Ранее компания реализовала интеграцию с ChatGPT и Claude. Теперь же, благодаря внедрению MCP, пользователям станет доступно ещё больше возможностей приложений Creative Cloud через сторонние ИИ-инструменты.

Вице-президент Adobe Дипа Субраманиам (Deepa Subramaniam) сообщила, что компания изучает, какие функциональные возможности стоит предоставить пользователям: «На данный момент мы предлагаем ряд […] инструментов в составе Illustrator, Photoshop, After Effects и Premiere. Мы будем наблюдать за тем, как люди используют эти возможности […] и постепенно открывать доступ к новым функциям. У нас нет ни необходимости, ни желания как-либо ограничивать то, что может быть доступно через интерфейс MCP».

В рамках Firefly появился новый инструмент для прототипирования под названием Builder, который пока доступен в режиме закрытого бета-тестирования. Он позволяет создавать дизайн-макеты для визуализации идей, фактически конкурируя с платформой Figma. Также представлены инструменты для создания графиков в фирменном стиле бренда и функция редактирования изображений, позволяющая изменять отдельные элементы картинки, не затрагивая остальные объекты.

Ещё один новый инструмент в Firefly позволяет собирать видеоролики из отдельных фрагментов, дополняя их изображениями и звуковыми эффектами. Проактивные ИИ-агенты, по словам Adobe, должны лучше понимать контекст работы пользователя и готовы помочь в любой момент. Компания также упростила выполнение многих повседневных задач — например, удаление фона или создание миниатюр для видео.

В свою очередь, компания Topaz Labs, недавно приобретённая Adobe, представила две модели: Wonder 4 для увеличения разрешения и подавления шума и ImageHDR для преобразования обычных изображений в формат HDR.

Apple бросилась догонять OpenAI и Meta✴: Тернус требует превратить Siri в мощного ИИ-агента

Гендиректор Apple Джон Тернус (John Ternus) давит на старшего вице-президента по разработке ПО Крейга Федериги (Craig Federighi), требуя ускорить развитие ИИ-помощника Siri и создать мощного ИИ-агента, способного конкурировать с OpenAI Dots и Meta✴✴ Muse, рассказал журналист Bloomberg Марк Гурман (Mark Gurman). Федериги сумел выпустить ИИ-версию Siri в сжатые сроки, но в компании не питают иллюзий по поводу того, что Apple успевает за конкурентами.

 Источник изображения: apple.com

Источник изображения: apple.com

В ближайшие месяцы Siri ждёт два значительных улучшения. Первое даст ИИ-помощнику возможность точечного контроля над фирменными приложениями Apple. К примеру, Siri сможет вращать или кадрировать изображения в «Фото» или упорядочивать вкладки в Safari. Ожидается, что это улучшение может появиться в iOS 27.3. Более значительной нововведение — интеграция со сторонними приложениями — будет реализовано весной, считает Гурман. После этого Siri сможет, например, оформить заказ через Grubhub или забронировать столик в ресторане через OpenTable.

Однако останавливаться на этом Apple не намерена. Производитель iPhone хочет сделать из Siri более «агентного» помощника, который способен выполнять не разовые, а постоянные и регулярно повторяющиеся задачи. «Dots, Muse и Grok умеют отслеживать цели, определять, что нужно сделать дальше, и продолжать добиваться нужного результата, не требуя от пользователя запускать отдельно каждый шаг. Мне сообщили, что Apple также хочется двигаться в этом направлении. Я полагаю, что компания может сделать Siri больше похожей на агента уже в следующем году, тем более, что особого выбора у компании нет, учитывая текущие запросы потребителей и рынка», — говорится в сообщении Гурмана.

Perplexity представила ИИ-коллег — агентов для совместной работы 24 часа в сутки

Perplexity представила Teammates («Коллеги») — систему ИИ-агентов для выполнения широкого спектра задач в круглосуточном режиме. Инструментарий интегрирован с сервисом Perplexity Computer, объединяющим и координирующим работу ИИ-приложений. При этом Teammates расширяет возможности Perplexity Computer, позволяя организовать совместную работу и реализовывать крупные, многоэтапные проекты.

 Источник изображения: Perplexity/The Verge

Источник изображения: Perplexity/The Verge

«Коллеги» могут брать на себя различные функциональные роли, используя при этом имеющиеся данные о текущих проектах, накопленные навыки и историю взаимодействий из тех инструментов Perplexity, которыми пользователь уже пользуется.

Каждый такой «коллега» может выполнять отдельную задачу, причём агенты могут работать параллельно — как, например, это реализовано в ИИ-решениях Dots от OpenAI или Claude Duet. При этом Perplexity делает акцент на непрерывности работы и масштабируемости внутри организации.

Ход выполнения задач пользователь сможет отслеживать в приложении Perplexity через отдельный для каждого агента поток обсуждения (thread) либо взаимодействуя с агентами в Slack, что удобно для команд, которые ведут общение в этом мессенджере.

Как полагает генеральный директор Perplexity Аравинд Сринивас (Aravind Srinivas), со временем в каждой организации у каждого сотрудника появятся сотни таких ИИ-коллег.

Для использования функции Teammates требуется подписка на тарифный план Max стоимостью $200 в месяц.

ИИ-агенты OpenAI выявили почти 1000 уязвимостей в ядре Linux

OpenAI задействовала автоматизированную систему на базе искусственного интеллекта для комплексного аудита безопасности ядра Linux. Эксперимент, обошедшийся компании в $1,21 млн, помог выявить почти тысячу уязвимостей, позволяющих повысить привилегии, а также обнаружить совершенно новые методы обхода защиты.

 Источник изображения: AltumCode / unsplash.com

Источник изображения: AltumCode / unsplash.com

Для проверки возможностей своих перспективных ИИ-моделей в сфере кибербезопасности OpenAI выбрала ядро Linux из-за его масштабов — исходный код операционной системы превышает 40 млн строк. Поскольку Linux управляет большей частью облачных серверов, суперкомпьютеров и всеми устройствами на Android, любые архитектурные бреши в нём угрожают безопасности миллиардов пользователей по всему миру.

OpenAI создала специальный пятиэтапный конвейер, который позволил полностью автоматизировать процесс проверки безопасности операционной системы. Он включал поиск уязвимостей, их динамическую проверку, оценку возможности эксплуатации, создание патчей, а также экспертный анализ специалистами-людьми.

Сначала ИИ-агенты за 12 часов отсканировали систему и выделили 2300 потенциально опасных участков кода. Затем OpenAI задействовала дополнительных агентов для создания прототипов эксплойтов и проверки каждого из выявленных случаев. Весь процесс занял 30 часов. Система успешно воспроизвела 1724 уязвимости (около 75 % от первоначального числа выявленных потенциальных проблем). При этом лишь 3 % из оставшихся результатов, по-видимому, стали следствием некорректного анализа со стороны модели.

На следующем этапе агенты ранжировали уязвимости по степени их воздействия, разработав 1169 рабочих эксплойтов для повышения привилегий в локальной системе, а также 291 концепт-доказательство, демонстрирующее возможность раскрытия информации. После исключения дубликатов и ложных срабатываний исследователи выделили 948 уникальных уязвимостей, связанных с повышением привилегий, и подготовили для них исправления.

В OpenAI сообщили, что перед обращением к разработчикам ядра Linux исследователи компании проверили все созданные эксплойты и патчи. Следуя рекомендациям сообщества Linux, команда расставила приоритеты для выявленных уязвимостей. Некоторые из них к настоящему моменту уже устранены. Работа над остальными продолжается.

«Мы предоставляем модели соответствующий исходный код и задаём инструкции, основанные на передовых методах написания патчей: выполнение статических проверок, соблюдение стандартов разработки, принятых в смежных участках кода, а также проведение анализа вариантов для обеспечения полноты исправления», — пояснили в OpenAI.

Не все обнаруженные уязвимости были «совершенно новыми». По данным OpenAI, к моменту завершения анализа разработчики Linux уже устранили 61 уязвимость, связанную с повышением привилегий, а для ещё 43 были подготовлены предварительные исправления. Кроме того, около 300 уязвимостей (примерно треть от общего числа) уже обсуждались в открытых источниках.

Помимо этого, команда изучила 166 методов эксплуатации и выявила 10 ранее не описанных подходов. К ним относятся манипуляции с памятью ядра, управление размещением страниц памяти (page grooming) и повышение привилегий с помощью атак, затрагивающих только данные (data-only attacks). В OpenAI решили не раскрывать подробности об этих уязвимостях до их устранения, чтобы не дать злоумышленникам преимущества.

Хотя усилия компании по поиску уязвимостей в Linux, безусловно, заслуживают похвалы, издание TechRadar усмотрело в публикации масштабного отчёта OpenAI «скрытый пиар». Обозреватели обращают внимание на то, что компания продемонстрировала выдающиеся результаты некой «грядущей ИИ-модели для кибербезопасности», противопоставив её по эффективности версии GPT-5.5-Cyber. Тем не менее практический результат эксперимента оказался неоспоримым. Автоматизация позволила в сжатые сроки провести колоссальный объём работы по защите открытого программного обеспечения, на который у аналитиков-людей ушли бы месяцы ручного труда.

Apple предупредила инвесторов: ИИ-агенты могут выйти из-под контроля и навредить бизнесу

Компания Apple в своём ежегодном финансовом отчёте указала в перечне рисков возможные действия ИИ-агентов, способных поступать «непредвиденным или непредсказуемым образом». Это может представлять угрозу для бизнеса, создавая риск судебных исков или ущерба репутации компании.

Это подчёркивает потенциально деструктивный характер ИИ-агентов. Согласно документу компании, они «могут совершать действия автономно: взаимодействовать с внутренними или внешними системами (к которым у них, возможно, нет прав доступа), выполнять или изменять программный код, отправлять сообщения и проводить транзакции». Чтобы снизить риски, связанные с использованием ИИ-агентов, Apple в прошлом месяце внесла изменения в систему предоставления полного доступа к диску (Full Disk Access) на компьютерах Mac.

Хотя у Apple пока нет собственных агентных ИИ-систем, гендиректор Джон Тернус (John Ternus) отметил, что у компании есть «значительный потенциал» для расширения возможностей голосового помощника Siri, назвав агентные функции «перспективными инструментами для пользователей».

«Мы просто хотим убедиться, что пользователи понимают, к чему именно они предоставляют доступ. Наша задача — гарантировать, что всё это происходит с соблюдением требований безопасности и конфиденциальности», — заявил Тернус. Apple рассчитывает, что ИИ-функции Siri стимулируют обновление устройств и помогут компенсировать рост расходов, связанный с ИИ-бумом.

Тернус также отметил, что принципиальное отличие подхода Apple заключается в том, что компания не имеет доступа к конфиденциальным данным пользователей на их устройствах: «На вашем iPhone хранится огромное количество личных данных — контакты, переписка, информация о здоровье, финансовые сведения и многое другое. Siri может обращаться к этим данным, помогая вам работать с ними максимально безопасно и конфиденциально — так, что никто другой не получит к ним доступа».

При этом коммерческие ИИ-агенты таких компаний, как OpenAI или Meta✴✴, для повышения своей эффективности запрашивают широкий доступ к учётным записям пользователей, включая электронную почту.

Также Apple указала на то, что регулирование в сфере искусственного интеллекта и «суперинтеллекта» меняется и остаётся непредсказуемым, а адаптация к новым законам, касающимся ИИ, может потребовать значительных затрат. Кроме того, для компании существуют риски, связанные с этическими опасениями и негативным восприятием потребителями автоматизации, искусственного интеллекта и суперинтеллекта, включая опасения по поводу угроз безопасности и других общественных проблем и осложнений, отмечается в документе.


window-new
Soft
Hard
Тренды 🔥
Новая статья: Tanuki: Pon’s Summer — самая очаровательная версия Японии. Рецензия 56 мин.
Запуск GTA VI установил абсолютный рекорд индустрии развлечений — 32 миллиона проданных копий и $3,79 миллиарда выручки 2 ч.
В Steam выйдет самое полное издание «Дальнобойщиков 3: Покорение Америки» с поддержкой русского языка и недоступным прежде контентом 3 ч.
Anthropic заявила о доказательстве гипотезы Римана с помощью ИИ — одной из главных загадок математики, над которой бились 167 лет 5 ч.
Аналитики: стартовые продажи GTA VI стали лучшими в истории индустрии развлечений и уже принесли Rockstar более двух миллиардов долларов 6 ч.
Миллионы смотрели, миллиарды пакетов летели: GTA VI устроила интернету стресс-тест, взвинтив трафик до рекордных 33 Тбит/с 6 ч.
Культовая ролевая игра The Temple of Elemental Evil от соавторов Fallout спустя 23 года после релиза получила официальный перевод на русский язык 6 ч.
VK Play Cloud запустил консольный тариф с бесплатным доступом к GTA VI, но есть нюанс 8 ч.
Google создала параллельный интернет для обучения ИИ-агентов — в нём есть даже поддельные банки и соцсети 9 ч.
Развязка приключений Геральта задерживается: Netflix подтвердила перенос пятого сезона сериала «Ведьмак» 11 ч.
Micron собралась поставить память прямо на процессоры — многослойная DRAM появится в 2028–2029 годах 31 мин.
Китай докатился до пещерных технологий в энергетике — запущен первый в мире аккумулятор на сжатом в рукотворном подземелье воздухе 2 ч.
Фотонные сопроцессоры Q.ANT NPU Gen 2+ ускорят работу ИИ 4 ч.
Valve предупредила, что Steam Machine может стать дефицитной и подорожать, —  и объяснила почему 4 ч.
«Фотонная» память для ИИ: MemoryAI Photonic Appliance от Penguin Solutions объединяет до 16 Тбайт DDR5 и 576 Гбайт HBM3E 4 ч.
Сюрприз отменяется: Япония отказалась от полёта к астероиду, который мог оказаться потерянной советской станцией 4 ч.
Компакт-диск как винил: Teenage Engineering представила CD-проигрыватель с открытым механизмом 4 ч.
Власти США разрешили продать ИИ-ускорители Tencent, Baidu и Alibaba 4 ч.
Инвесторы массово выходят из биткоин-ETF — курс главной криптовалюты рухнул ниже $60 000 5 ч.
Рекордное IPO Anthropic не развеяло опасения по поводу ИИ — биржевые индексы упали по всему миру 6 ч.