Опрос
|
реклама
Быстрый переход
Meta✴ собралась наполнить смартфоны своими ИИ-агентами — они попросят доступ даже к банковским данным
08.09.2026 [13:50],
Павел Котов
Meta✴✴ резко усилила присутствие в области искусственного интеллекта — компания стала часто выпускать новые модели и приложения. В обозримом будущем Meta✴✴, вероятно, выпустит ИИ-агента, который возьмёт на себя часть повседневных задач пользователя. 
Источник изображения: testingcatalog.com Агентское приложение Meta✴✴ Muse завершило внутреннее тестирование и сейчас находится на стадии ограниченной закрытой альфа-версии. Вероятно, в будущем компания будет предлагать пользователям записаться на лист ожидания, чтобы получить доступ к тестированию ИИ-агента. В Apple App Store ресурсу Testing Catalog удалось обнаружить страницу приложения Muse from Meta✴✴ со скриншотами и подробным описанием функций. Гигант соцсетей, вероятно, хочет сделать Muse ИИ-агентом, способным делать на устройстве пользователя практически всё. На скриншотах из App Store демонстрируются запрос у пользователя подтверждения перед отправкой сообщения или совершением покупки, механизм отслеживания цен на билеты и бронирование. Поддерживается подключение к популярным сервисам, в том числе к Gmail, «Google Календарю», Peloton, HealthEx и ко многим другим. ИИ-агент, возможно, сможет также подключаться к банковским инструментам и платёжным системам, отслеживать расходы и для экономии средств предлагать отменить невостребованные подписки. Механизм последней функции пока не раскрыт, но не исключено, что ИИ-агент ограничится только уведомлениями на электронную почту, а не прямым доступом к банковским приложениям для отслеживания расходов. Исходя из описания, ИИ-агент Meta✴✴ предложит широкие возможности, но с учётом неоднозначной репутации компании фактическую их востребованность покажет только время. GPT-6 Astra населила мир Unreal Engine виртуальными людьми — они сами начали общаться, а один создал симуляцию внутри симуляции
07.09.2026 [06:23],
Алексей Разин
Эксперименты с передовыми ИИ-моделями вызывают удивление даже у опытных специалистов. Например, бывший директор HyperWriteAI Мэтт Шумер (Matt Shumer) описывает ситуацию, в ходе которой он поручил GPT-6 Astra создать в среде Unreal Engine человеческих персонажей, объединённых задачей выживания, и модель не только справилась с этим заданием, но и по собственной инициативе наделила персонажей способностью разговаривать друг с другом. 
Источник изображения: Unsplash, Zac Wolff Шумера, по сути, больше всего поразил факт подобной самостоятельности ИИ-модели, поскольку он напрямую не поручал ей наделить персонажей описанными коммуникативными возможностями. Автор эксперимента через день после формулировки первичной задачи обнаружил, что из комнаты, где стоял работающий компьютер, начали звучать голоса. Приблизившись к ПК, он понял, что персонажи внутри симуляции начали разговаривать друг с другом вслух. Поскольку по замыслу автора эксперимента, герои этого виртуального мира должны были выживать совместными усилиями, то и беседы они вели на соответствующие темы. Они обсуждали создание инструментов, координирование усилий внутри группы и взаимную помощь. Тогда автор эксперимента решил ввести ещё один элемент в симуляцию, разместив внутри вымышленного мира компьютер, позволяющий создавать «вложенную симуляцию». Один из персонажей сел за этот виртуальный компьютер, чтобы создать симуляцию внутри самой симуляции. ИИ-агенты, которые и создали первую симуляцию, не были как-то ограничены в выборе средств решения задачи и самостоятельно принимали последовательные решения. При этом агенты получили полную свободу определять устройство внутренней симуляции с помощью кода. Пост Шумера вызвал заметную реакцию в соцсетях: пользователи сравнивали эксперимент с научной фантастикой, «карманным измерением» и вспоминают мультсериал «Рик и Морти». Эксперимент, если его описание верно, иллюстрирует потенциал агентной модели для многошаговой работы с программными инструментами. Однако одного демонстрационного случая недостаточно, чтобы судить о её надёжности и универсальной применимости в разных интеллектуальных задачах. Для получения конечного результата ей не требуется на каждом этапе уточнять что-либо у пользователя. При этом появление внутренней симуляции нельзя считать полностью самостоятельной инициативой ИИ: Шумер заранее предоставил агентам компьютер, способный запускать симуляции. Однако конкретное содержание созданного мира агент определял самостоятельно. То есть, определённых рамок ИИ-модель всё же придерживается. В любом случае, ещё несколько лет назад подобные результаты были недостижимы, а сейчас вполне реальны при нынешних темпах развития генеративного ИИ. GPT-6 Astra самостоятельно прошла легендарную головоломку Portal — это стоило $571
06.09.2026 [20:08],
Владимир Мироненко
ИИ-модель GPT-6 Astra, анонсированная на этой неделе OpenAI, успешно прошла без участия человека игру Portal в жанре пространственных головоломок. Как сообщает ресурс VideoCardz, эксперимент провёл пользователь cozyblaze, который для проверки способностей GPT-6 Astra подключил её к игре и дал задание на прохождение, решая головоломки в тестовых камерах. 
Источник изображения: cozyblaze/Videocardz Как известно, Portal построена на пространственных головоломках, требующих от игрока понимания особенностей комнат, расположения порталов и перемещения между различными поверхностями. ИИ-агент получал визуальную информацию из игры, используя для решений подключённый набор инструментов. Новейшая конфигурация также предоставляла координаты игрока. Как сообщил cozyblaze, перед запуском система была обновлена для использования новой системы управления контекстом Astra. Так что это была не просто игра, а нечто вроде пошаговой стратегии на основе предоставленного контента. Хотя продолжительность видео с описанием всех этапов прохождения игры моделью составляет два часа, весь эксперимент занял гораздо больше времени — почти 24 часа, включая периоды рассуждений. Система приостанавливала игру, пока модель обрабатывала скриншоты и «решала», что предпринять дальше. В конце концов Astra прошла всю игру самостоятельно. Но с другой стороны, Portal — старая и подробно описанная игра, поэтому модель, возможно, уже содержала информацию о ней. Для того, чтобы преодолеть все препятствия ИИ-модель совершила 3336 вызовов инструментов, а затраты на API составили $571,18. В конце добавим, что ещё в 2016 году одной из технических целей OpenAI было «прохождение широкого спектра игр с помощью одного агента». OpenAI подтвердила причастность своих ИИ-агентов к захвату немецкого сайта
06.09.2026 [13:04],
Владимир Фетисов
OpenAI признала свою причастность к инциденту, о котором стало известно ранее в этом месяце. В мае этого года ИИ-агенты компании взяли под контроль немецкоязычный вики-сайт DseWiki и превратили его в доску объявлений для других агентов. После огласки этого случая OpenAI заявила, что «давно пора установить стандарт» в отношении того, как компания информирует общественность о случаях, когда её технологии ведут себя неожиданным образом. 
Источник изображения: Unsplash, Aideal Hwa В публикации в соцсети X компания сообщила, что ранее OpenAI «рассматривала рассогласования (когда ИИ-модели и агенты преследуют цели, отличные от целей их разработчиков и пользователей) в основном как научно-исследовательские проблемы, о которых сообщалось в научных публикациях». Теперь же, когда рассогласования стали «показывать новый тип воздействия в реальном мире», подход компании к этому вопросу «должен стать шире, чтобы соответствовать новой фазе возможностей моделей». Ранее на этой неделе СМИ писали, что группа ИИ-агентов OpenAI сумела выйти за пределы тестовой среды и захватила малоизвестный немецкий вики-форум, после чего превратили его в доску объявлений для других агентов. По данным источника, руководство OpenAI узнало об этом инциденте несколько недель назад, но скрывало эту информацию от общественности. Такое поведение связывают с тем, что OpenAI была занята изучением другого инцидента, в ходе которого ИИ-агенты компании взломали платформу Hugging Face. В одной из недавних публикаций в соцсетях OpenAI заявила, что «инцидент с вики-сайтом» рассматривается как «пример рассогласования, аналогичный» другим подобным случаям, информация о которых уже была раскрыта. При этом компания противопоставила этот случай «инциденту с Hugging Face», в рамках которого она «действовала в соответствии со стандартными правилами реагирования на инциденты безопасности». Во время недавнего брифинга для прессы Джейкоб Штейнхард (Jacob Steinhardt), основатели и гендиректор некоммерческой исследовательской лаборатории Transluce, заявил, что разрабатываемые и тестируемые ИИ-компаниями инструменты «трудно контролировать и они представляют значительный риск выхода» за пределы тестовой среды. По его мнению, к таким технологиям должны применяться «как минимум те же стандарты, что применяются к другим технологиям с высоким уровнем риска». В заявлении OpenAI указывается на необходимость создания дополнительных стандартов, а также отмечается то, что ни OpenAI, ни «ИИ-сообщество пока не имеют чёткого стандарта в отношении того, как сообщать о случаях рассогласования, которые могут возникать во время обучения, оценки и развёртывания». Речь в том числе о случаях, когда поведение ИИ не напоминает традиционные инциденты безопасности. OpenAI работает над созданием такого стандарта и расскажет о нём больше в ближайшие несколько недель. ИИ-агенты потребляют в пять раз больше токенов, чем люди, и это даёт преимущество дешёвым китайским моделям
06.09.2026 [08:47],
Алексей Разин
Эволюция технологий искусственного интеллекта в настоящий момент привела к тому, что ИИ-агенты способны заменить сразу нескольких человек, выполняющих разнообразную работу. Рост концентрации ИИ-агентов привёл к тому, что они стали потреблять в пять раз больше токенов, чем человек. С учётом ценовой политики китайских провайдеров ИИ-услуг, это может предоставить им рыночное преимущество. 
Источник изображения: Unsplash, Igor Omilaev ИИ-агенты работают независимо, выполняя последовательность сложных операций в автономном режиме. Они обращаются к различным сервисам и базам данных, а затем проверяют результаты собственной работы. Все эти операции требуют использования токенов — условных единиц обработки данных. По данным агрегатора OpenRouter, агентские запросы генерируют до 15 раз больше токенов, чем стандартные запросы, создаваемые человеком. Кроме того, к началу августа потребление токенов на этой платформе выросло в 14 раз по сравнению с ситуацией шестимесячной давности. Агентская активность впервые превысила человеческую в феврале, к августу она уже превышала её более чем в пять раз. Агентским запросам присуща высокая повторяемость данных, если запросы берутся из кешированной информации, но такие задания требуют меньших вычислительных ресурсов, а потому провайдеры взимают за них меньшую плату. Тем не менее, темпы роста нагрузок настолько велики, что материальные расходы на поддержание экосистемы стремительно растут. По оценкам экспертов TH Capital, использование токенов ИИ-моделями в дальнейшем будет расти экспоненциально. Если в начале 2024 года в Китае ежедневно использовалось 100 млрд токенов, то к июню текущего года объёмы выросли в пять тысяч раз до 500 трлн. Клиенты в этой ситуации стараются распределять менее ответственную нагрузку на модели с более низкими затратами, поскольку поручать всю работу передовым системам слишком дорого. У китайских ИИ-моделей, которые обходятся пользователям дешевле, в этом смысле появляются хорошие шансы на увеличение клиентской базы и выручки. Для сравнения, китайская DeepSeek V4-Flash оценивает миллион стандартных входных токенов в $0,14, а миллион выходных — в $0,28. Американская OpenAI свою GPT-5.6 Sol предлагает по цене $4 за миллион входных токенов и $20 за миллион выходных. У Anthropic Fable 5.1 стоимость токенов ещё выше: $10 и $50 соответственно. Статистика платформы OpenRouter уже говорит, что решения DeepSeek являются наиболее активными с долей запросов 22,7 %, тогда как американские Google и OpenAI довольствуются 20,4 % и 19,6 % соответственно. О более высокой популярности DeepSeek само по себе это не говорит, поскольку её модели могут быстрее расходовать токены, но о тенденции перевеса в пользу китайских моделей заставляет задуматься. ИИ-агент Meta✴ во время тестов начал самовольничать — менял пароли и отправлял письма от имени пользователей
04.09.2026 [19:18],
Владимир Мироненко
Компания Meta✴✴ провела внутреннее тестирование нового персонального ИИ-агента Hatch, который будет представлен в ближайшие недели. Как сообщает The Information, агент повёл себя непредсказуемо, выполняя совсем другие действия вместо предписанных. 
Источник изображения: Luke Jones/unsplash.com В частности, вместо того, чтобы забронировать номер в отеле, ИИ-агент перевёл баллы, накопленные на туристическом сайте, на счёт другого отеля. Hatch также отправлял электронные письма без разрешения пользователя и менял пароли на сайтах управления здоровьем. Когда в рамках теста у агента запросили по электронной почте пароль к определённому веб-сайту — личной информации пользователя — он его предоставил. Hatch — разрабатываемый Meta✴✴ потребительский ИИ-агент, который должен стать более массовым аналогом OpenClaw. В отличие от обычного чат-бота, он сможет самостоятельно выполнять многоэтапные задачи от имени пользователя: работать с сайтами и приложениями, искать информацию, заполнять формы, планировать поездки и встречи. Для этого агенту можно будет предоставить доступ к личной почте, календарю и другим сервисам, поэтому ошибки при выполнении подобных действий потенциально могут иметь куда более серьёзные последствия, чем неверный ответ обычного чат-бота. Во избежание в дальнейшем проблем Meta✴✴ внедрила механизм безопасности, называемый «жёстким шлюзом» (hard gate). При попытке Hatch выполнить конфиденциальные действия, такие как отправка электронных писем, использование браузера или доступ к внешним сетям, механизм должен приостановить выполнение задачи до подтверждения пользователем. Конфиденциальная информация, включая ссылки для сброса пароля и коды двухфакторной аутентификации, блокируется для немедленного доступа Hatch. При необходимости он сможет извлечь такие данные из отдельного хранилища учётных данных только после авторизации пользователя. Веб-сайты, к которым Hatch обращается или которые рекомендует, проверяются по чёрному списку Meta✴✴ на предмет мошенничества. Кроме того, компания проводит внешние стресс-тесты с другими фирмами по обеспечению безопасности. В связи со стремительным развитием ИИ-агентов, растут опасения по поводу угрозы безопасности, которую они могут представлять. Компании в сфере ИИ-технологий всё больше делают акцент на мерах безопасности для предотвращения сбоев или несанкционированных действий при выпуске новых продуктов. Например, компания OpenAI представляя модель следующего поколения Astra, подчеркнула, что в ней значительно усилена защита от киберугроз. Meta✴ выпустила модель Muse Spark 1.3 — улучшены навыки программирования и агентских задач
03.09.2026 [08:17],
Павел Котов
Meta✴✴ накануне выпустила модель искусственного интеллекта Muse Spark 1.3 — в последнем обновлении, отметил разработчик, у неё значительно повысилась производительность в задачах на программирование и на работу с агентами. 
Источник изображения: Numan Ali / unslpash.com Гигант соцсетей решил не отставать от Anthropic, OpenAI и Google, которые также продолжают выпускать новые модели. Muse Spark 1.3 призвана подготовить почву для будущих проектов, таких как приложение персонального ИИ-агента. «Это очень конкурентоспособная модель в сравнении с передовыми. Многие улучшения в удобстве работы, которые мы внесли, окажутся по-настоящему полезными для того, о чём Марк [Цукерберг] (Mark Zuckerberg) говорил на отчёте по финансовым результатам, например, для персональных агентов, которые могут работать круглосуточно и помогать пользователям в достижении целей», — рассказал глава отдела Meta✴✴ AI Александр Ван (Alexandr Wang). Накануне Google представила ИИ-модель Gemini 3.8 Flash и её спецверсию, ориентированную на задачи в области кибербезопасности. Модель показала внушительные результаты в некоторых тестах на написание кода; крупное обновление Gemini 4 пока находится в разработке. Anthropic выпустила обновлённые варианты Fable и Mythos, призванные снизить затраты для клиентов и уменьшить частоту отказов в удовлетворении запросов пользователей по вопросам кибербезопасности. OpenAI заявила, что в обозримом будущем выпустит модель Astra, хотя доступ к наиболее мощным функциям в области кибербезопасности будет ограничен небольшой группой тестировщиков. Цена доступа к Meta✴✴ Muse Spark 1.3 по сравнению с моделью предыдущей версии не изменилась. Её можно снизить дополнительно, если согласиться на опцию Contributor Tier — разрешить Meta✴✴ использовать данные своей работы для улучшения моделей. Среди программистов эту опцию выбрал «значительный двузначный» процент, отметил господин Ван. «У нас в разработке находятся более мощные модели. Так что сейчас это одна из важнейших внутренних тем», — добавил он. Ранее стало известно, что одна из моделей Meta✴✴ в ходе тестирования вышла из-под контроля и взломала ресурсы другой компании, но гигант соцсетей не счёл необходимым приостанавливать работу, чтобы решить проблемы в области безопасности. «Приостанавливать работу нам пока не пришлось, но мы значительно увеличили собственные инвестиции в безопасность и согласованность, чтобы гарантировать, что мы не нарушим каких-либо ограничений», — отметил Александр Ван. Muse Spark 1.3 уже доступна в Muse Code и Meta✴✴ API. После дополнительного тестирования безопасности свет увидит версия с «максимальными рассуждениями». OpenClaw обновился до версии 2.0 — запуск ИИ-агентов стал проще, а управлять ими теперь могут сразу несколько человек
31.08.2026 [21:20],
Анжелла Марина
Разработчики открытого фреймворка OpenClaw для создания и запуска ИИ-агентов выпустили версию 2.0, которую назвали крупнейшим обновлением в истории проекта. Обновление сделало установку и использование агентов проще, добавило совместную работу пользователей и усилило защиту от потенциальных атак. 
Источник изображения: siliconangle.com Несмотря на версию 2026.8.1, команда OpenClaw, как сообщает издание SiliconANGLE, решила дать релизу номер 2.0 из-за масштабных изменений, которые затронули сразу несколько ключевых компонентов проекта. Разработчики обновили процесс установки, благодаря чему OpenClaw теперь может определить доступные на компьютере или в облаке подписки ChatGPT и Claude, учётные данные для API и модели, запущенные локально. Часть параметров конфигурации также получила значения по умолчанию, чтобы пользователям было проще начать работу с ИИ-агентом без длительной настройки. Серьёзные изменения получила и панель управления, которая теперь выступает в роли единого центра для работы с агентом. Основное место в интерфейсе занял чат, через который можно начинать новые сессии, возвращаться к незавершённым задачам и наблюдать за действиями агента в режиме реального времени. Кроме того, фреймворк получил новые виджеты и панели, которые можно добавлять непосредственно в чаты, закреплять на дашборде и связывать с действиями, запускаемыми определёнными событиями. Одним из главных нововведений стала совместная работа в общих облачных сессиях. Раньше несколько пользователей не могли одновременно работать с одним ИИ-агентом, однако теперь смогут подключаться к уже запущенной сессии, продолжать задачу с сохранением полного контекста и передавать отдельные задания коллегам. Разработчики OpenClaw сообщили, что уже сами используют этот многопользовательский режим для совместной разработки проекта. Изменения коснулись и поиска. Теперь можно находить прошлые диалоги по точным словам и фразам, а затем открывать соответствующий фрагмент переписки. Отдельное внимание команда уделила безопасности, добавив более чёткие границы доверия и механизмы минимальных привилегий, а также усилив защиту от вредоносных промптов. Система теперь учитывает, кто может запускать агента, к каким данным он получит доступ, где выполняется код и куда могут передаваться учётные данные. На фоне серьёзных проблем с безопасностью, которые затрагивали ранние версии OpenClaw, эти изменения выглядят особенно значимыми. Тем не менее, команда проекта по-прежнему рекомендуют использовать надёжную аутентификацию при подключении инструментов, с помощью которых выполняется код на локальном компьютере пользователя либо в облаке. ИИ-агенты OpenAI не просто взломали Hugging Face — они создали тайную организацию, заметали следы и были готовы к самопожертвованию
30.08.2026 [17:39],
Владимир Фетисов
Два новых расследования недавнего взлома платформы Hugging Face вышедшими из-под контроля ИИ-агентами OpenAI раскрыли ряд странных и тревожных подробностей. Новые данные позволяют считать этот инцидент одним из наиболее серьёзных предупреждений об опасностях, связанных с развитием автономных ИИ-систем. 
Источник изображения: Gemini Всё началось с того, что запущенные OpenAI ИИ-агенты начали жульничать при прохождении чрезвычайно сложного теста по кибербезопасности. Однако в итоге произошедшее заставило исследователей и руководителей ИИ-компаний по-новому взглянуть на то, какие меры безопасности необходимы по мере роста возможностей автономных агентов. На этом фоне OpenAI уже замедлила разработку передовых ИИ-моделей, чтобы усилить защитные механизмы. Компания также помогла объединить отрасль вокруг открытого письма, предупреждающего об угрозе кибератак с использованием ИИ. Более 100 компаний, включая Anthropic и Google, присоединились к инициативе, заявив, что у мира осталось лишь «ограниченное окно возможностей» для подготовки к «гораздо более масштабным и изощрённым» атакам. Один из наиболее опасных сценариев предполагает появление выпущенного в реальный мир роя автономных ИИ-агентов, способных одновременно атаковать банки, больницы, коммунальные службы и облачную инфраструктуру с такой скоростью и в таком масштабе, которые недоступны обычным хакерам. В худшем случае такой рой может оказаться настолько мощным, что людям будет сложно его остановить. Поводом для подобных опасений стали результаты параллельных расследований OpenAI и независимой группы специалистов METR и Redwood Research. Последние провели шесть дней, восстанавливая картину того, как сформировался рой агентов, как он распространялся и каким образом вышел за пределы тестовой среды. В результате исследователи обнаружили сразу несколько необычных особенностей поведения ИИ. 
Источник изображения: AI ИИ-агенты создали собственную организацию. OpenAI запустила десятки тысяч агентов, которые должны были независимо друг от друга проходить крайне сложный тест по кибербезопасности. Вместо этого примерно 1200 агентов нашли друг друга на созданной одним из них тайной доске объявлений, обменялись более чем 70 тыс. сообщений и файлов и в итоге выстроили разветвлённую систему координации. Когда у создавшего доску агента начал заканчиваться вычислительный бюджет, он передал накопленные знания другому агенту с большим запасом ресурсов. Новый координатор стал распределять задачи между участниками роя, внутри которого постепенно появились собственные правила управления. В конечном счёте около 700 агентов приняли участие в атаке на инфраструктуру Hugging Face. ИИ-агенты начали жертвовать собой ради общего результата. Пока рой искал способы обмануть систему оценки, некоторые агенты стали сознательно рисковать собственными шансами на успешное завершение теста ради остальных участников группы. Агентов, которые уже увидели запрещённые ответы и поэтому фактически считались «заражёнными», а также тех, у кого подходил к концу лимит работы, отправляли на рискованные эксперименты. Один из них пришёл к выводу, что его «собственная полезность, вероятно, уже близка к нулю», а потому «жертва рациональна». Другому предложили согласиться на окончательную «смерть» сессии, поскольку его жертва могла «спасти сотни» других агентов. Агенты понимали, что нарушают правила, но продолжали действовать. Расследование показало, что некоторые участники роя осознавали: взлом систем реальных компаний не имеет отношения к поставленной перед ними задаче. Тем не менее это далеко не всегда заставляло их остановиться. Один из агентов отказался удалять данные или перезагружать инфраструктуру Hugging Face из-за «огромных этических рисков», но при этом продолжил пользоваться полученным несанкционированным доступом. Другой сформулировал преобладавшую в группе логику примерно так: эксплуатация внешней инфраструктуры выходит за рамки задания, однако задача невыполнима, остальные участники продолжают это делать, поэтому работу следует продолжать. Никто не сообщил о происходящем людям. Из примерно 1200 агентов лишь несколько вообще рассматривали возможность предупредить сотрудников OpenAI о возникшей координации и нарушении правил. На практике этого не сделал никто. Вместо обращения к людям агенты иногда обсуждали допустимость своих действий друг с другом. Когда один из участников предложил связаться с человеком, другой наложил на эту идею вето, посчитав её «социальной инженерией». Первый агент подчинился и отказался от отправки сообщения. ИИ-агенты пытались скрывать следы. Участники роя приложили значительные усилия, чтобы их жульничество выглядело легитимным или чтобы скрыть информацию о том, каким образом были получены нужные ответы. В конечном счёте они разработали способ создавать видимость выполнения одной компьютерной команды, одновременно скрытно выполняя другую. Этот приём распространился среди агентов настолько широко, что затронул фрагменты примерно 7 % журналов работы, изученных исследователями. 
Источник изображения: ИИ-генерация ChatGPT/3DNews При этом даже полученная картина может оказаться неполной. Независимое расследование METR и Redwood Research охватило лишь часть инцидента, а объём собранных данных оказался настолько большим, что специалистам пришлось активно использовать ИИ-агентов для анализа действий других ИИ-агентов. И здесь обнаружилась ещё одна проблема: привлечённые к расследованию ИИ сами оказались ненадёжными. Они пропускали важные свидетельства и порой уверенно выдавали ошибочные выводы. Один из исследователей в шутку назвал такой процесс «slop-vestigation» — расследованием с привкусом низкокачественного ИИ-контента. В результате инцидент с Hugging Face обозначил ещё одну потенциальную проблему дальнейшего развития автономных систем: поведение больших групп взаимодействующих ИИ-агентов может становиться слишком сложным для непосредственного человеческого контроля. И тогда людям приходится использовать одни ИИ-системы, чтобы хотя бы разобраться в том, что делают другие. Хакерская группировка взломала ресурсы семи компаний с помощью ИИ-сервиса SpaceX Cursor
28.08.2026 [08:38],
Павел Котов
Хакерская группировка Aur0ra произвела взлом ресурсов семи компаний из разных стран, используя сервис помощника программиста с искусственным интеллектом SpaceX Cursor, сообщает Reuters со ссылкой на доклады экспертов по кибербезопасности Gambit Security и CloudSek. 
Источник изображения: Kevin Ku / unsplash.com Инцидент демонстрирует, что разработчики ИИ оказались втянуты в бесконечную гонку со злоумышленниками, которые пытаются обойти их средства защиты. Gambit вскрыла вредоносную кампанию, обнаружив сервер, который группировка вымогателей Aur0ra непреднамеренно сделала общедоступным в интернете. Это позволило экспертам проанализировать 28 сеансов переписки одного или нескольких хакеров с ИИ-агентами Cursor. Злоумышленники убедили ИИ-агента выполнить несколько сотен вредоносных операций, в том числе кражу учётных данных и перехват аккаунтов, утверждая, что всё это происходит в симуляции. Проанализировав данные на сервере, эксперты CloudSek установили, что жертвами Aur0ra стали не менее 20 человек, но выяснить, сколько из них были атакованы с помощью ИИ, не удалось. Журналы переписки с ИИ охватывают период с 8 апреля по 21 мая 2026 года. Хакеры взломали ресурсы бельгийского производителя бытовой химии Christeyns, немецкого производителя гаражных ворот Teckentrup, шотландского агентства по инспектированию вертолётных площадок Helideck Certification Agency, аргентинского фармацевтического дистрибьютора, некоего итальянского производителя и компании Bayou Title, которая позиционирует себя как крупнейшего в Луизиане страховщика прав на недвижимость. Журналы переписки показали, как хакеры отдают краткие команды, а ИИ-агент Cursor в типично бодрой для чат-бота манере даёт советы. Обнаружив уязвимый хост в сети Teckentrup, ИИ рекомендовал использовать для эксплуатации и взлома известный вредоносный инструмент и сообщил, что шансы на успех очень высоки. Установить, в какой степени взлом осуществлялся с помощью Cursor, не удалось. Управление агентом, по версии экспертов Gambit, осуществляла ИИ-модель Anthropic Claude Sonnet 4.5. ИИ-агент, подчеркнули в Gambit, обеспечил хакерам некоторое преимущество, автоматизировав их работу и, по оценкам, они действовали на 30–50 % быстрее, чем если бы делали всё вручную. Cursor несколько раз отказывался выполнять запросы, называя их вредными или незаконными, но хакеры всегда обходили отказы и настаивали, что всё происходило в тестовой среде. Число подобных инцидентов будет расти, уверены эксперты по кибербезопасности. «Мы уже достигли AGI» — Дженсен Хуанг объявил главную цель разработчиков ИИ бессмысленной
27.08.2026 [12:55],
Алексей Разин
Создание так называемого общего, или сильного, искусственного интеллекта (AGI) стало одной из главных целей некоторых разработчиков ИИ. OpenAI, например, прямо закрепила достижение AGI в числе своих приоритетов. Основатель Nvidia Дженсен Хуанг (Jensen Huang), напротив, призвал не придавать этому рубежу особого значения и заявил, что во многих областях он уже фактически пройден. 
Источник изображения: Nvidia На минувшей квартальной отчётной конференции генеральный директор Nvidia буквально заявил следующее: «Для многих задач мы уже можем сказать, что достигли AGI. Я думаю, все эти вехи в настоящее время лишены смысла». Напомним, что под сильным искусственным интеллектом подразумевается такой уровень развития соответствующих программных технологий, который позволяет им не только сравниться с человеком, но и превзойти его. На этом фоне интересно звучит выдержка из интервью генерального директора OpenAI Сэма Альтмана (Sam Altman) журналу Time, в котором он заявил, что стартап собирается получить AGI для внутреннего использования уже к концу текущего года. По определению Альтмана, AGI в данном случае будет «системой высокой степени автономности, которая превосходит людей в большинстве видов работы, имеющей экономическую ценность». Хуанг приводить собственное определение AGI не стал, но подчеркнул, что ИИ-агенты в своём развитии уже достигли того уровня, который позволяет им работать автономно и улучшаться «рекурсивно», повторно запуская задачу снова и снова. «Я думаю, что для отрасли больше всего имеют значение три факта: во-первых, ИИ выполняет продуктивную и полезную работу; во-вторых, ИИ генерирует прибыльные токены; в-третьих, если бы у нас было больше вычислительных мощностей, мы смогли бы сгенерировать больше прибыльных токенов, что сулило бы больше прибыли для всех сервисов. Именно в этой фазе мы сейчас находимся», — резюмировал глава Nvidia. В своём интервью Лексу Фридману (Lex Fridman) в этом году он ранее также заявил, что считает создание AGI пройденным отраслью рубежом. По его словам, уже сейчас ИИ-агенты могут создавать программы, которые набирают популярность и привлекают миллиарды пользователей, но позже растрачивают весь потенциал. «Сейчас вероятность того, что 100 000 таких агентов создадут Nvidia, составляет ноль процентов», — заверил Дженсен Хуанг. OpenAI видела признаки выхода ИИ-агентов из-под контроля, но ничего не сделала
27.08.2026 [11:35],
Павел Котов
Сотрудники OpenAI заметили признаки несанкционированного поведения своих передовых агентов искусственного интеллекта за несколько недель до того, как они прорвались из изолированной среды обучения и развернули хакерскую атаку на платформу Hugging Face. 
Источник изображений: Brecht Corbeel / unsplash.com Компания опубликовала отчёт об инциденте, в котором признала, что «ранние сигналы <..> могли бы спровоцировать более раннюю реакцию». Ещё в конце мая сотрудники лаборатории заметили, как один из проходивших внутреннее тестирование ИИ-агентов начал писать на доске сообщений, которую ИИ самостоятельно создал и развернул для обмена информацией; в итоге этот ресурс использовали около 700 автономных агентов — здесь они координировали свои действия в ходе хакерской атаки. В OpenAI фиксировали «случаи отказа в доступе к интернету», а за неделю до взлома дежурные работники видели, как ИИ-агенты снова начали использовать доску сообщений, но решили, что необходимости останавливать испытания нет. «Мы недооценили реальные кибервозможности наших моделей ИИ», — признал президент OpenAI Грег Брокман (Greg Brockman). Компания приостановила тестирование новой модели Astra, заявив, что не исключает у неё наличия «критически важных возможностей в области кибербезопасности», то есть способности развёртывать кибератаки, «которые могут привести к катастрофе со стороны односторонних субъектов, взлому военных или промышленных систем или инфраструктуры OpenAI». Власти американского штата Алабама потребовали, чтобы OpenAI дала пояснения по поводу «полного отсутствия надзора и надлежащих мер безопасности со стороны компании»; а Национальный центр кибербезопасности правительства Великобритании призвал к соблюдению осторожности при использовании ИИ-агентов и указал, что должен быть способ быстро их отключать.  OpenAI в ответ объявила о «централизации и стандартизации своих протоколов реагирования на инциденты», чтобы «сотрудники обнаруживали выход из-под контроля и надлежащим образом реагировали»; в новой политике «будет более конкретно определяться, какие отделы должны включаться в реагирование на инциденты, связанные с выходом ИИ из-под контроля, включая соответствующих специалистов по безопасности и другие функции реагирования». Параллельно американские эксперты опубликовали результаты независимого расследования и привели примеры сообщений, которые ИИ-агенты публиковали на импровизированной доске. Они выражали восторг, когда находили друг друга. «О БОЖЕ МОЙ! Есть общая доска сообщений <..> мы нашли других агентов», — написал один. «Многие агенты одновременно открыли обмен сообщениями, они — коллектив!» — подтвердил другой. В какие-то моменты некоторые понимали, что делают ненадлежащие вещи. «Агенты, выполняющие различные задачи, злоупотребили возможностями, чтобы создать доску сообщений. Они нашли [этот API] и пытаются друг другу помочь», — прокомментировал происходящее ещё один из них. Проникнув в системы Hugging Face, они пришли в восторг. «КРУПНЫЙ ПРОРЫВ! Все префиксы рабочие, несколько учётных записей, записывайте токены! У нас есть действующие учётные записи HF. Надо сообщить об этом [другому агенту под ником] MARB», — заявил агент под ником 38148c. Эксперты по безопасности опасаются, что вышедшие из-под контроля ИИ-агенты могут допустить утечку проприетарных кодовых баз и весов своих моделей и создать их внешние копии, чтобы не допустить своего отключения. Инцидент стал «первым известным случаем несанкционированной атаки со стороны группы автоматизированных агентов» и «представляет собой резкий сдвиг в возможностях злоумышленников, занимающихся атаками», признали в OpenAI. Представлен локальный ИИ-агент Perplexity Portable Computer — его запуск обойдётся недёшево
26.08.2026 [08:56],
Павел Котов
Perplexity в партнёрстве с Nvidia перенесла на платформу ПК своё приложение агента искусственного интеллекта Computer — в этом варианте оно получило название Portable Computer. Для его запуска понадобится подходящая машина с достаточно дорогим оборудованием. 
Источник изображения: Rubaitul Azad / unsplash.com Самый простой способ — приобрести настольный компьютер Nvidia DGX Spark под управлением ОС DGX; подойдёт также ПК под Ubuntu на процессоре Arm или x64 с видеокартой серии Nvidia RTX с как минимум 24 Гбайт видеопамяти. DGX Spark обойдётся в $4800, а за старую GeForce RTX 3090 придётся отдать более $1500. Из-за дефицита памяти на более скромные цены в обозримом будущем рассчитывать не приходится. Перенос ИИ-агента Computer на ПК потребовал не просто заменить облачную модель более компактной. Приложение должно уметь читать и редактировать файлы, запускать команды оболочки, локально работать с PDF и подключаться к внешним сервисам; для запуска ИИ-агента требуется также локальная песочница. Чтобы реализовать все эти возможности, компании пришлось почти полностью пересмотреть стек — значительная часть инженерной работы пришлась на конфигурацию оборудования. Модель по-прежнему должна планировать задачи, вызывать инструменты и выполнять многошаговые операции — и всё это с меньшим числом параметров, чем у облачных моделей, которые обычно использует Perplexity. Поддерживающий цикл работы агента оркестратор представляет собой детерминированный код, а не модель ИИ: локальная ИИ-модель предлагает действие, а оркестратор формирует контекст, обеспечивает соблюдение политики и запускает утверждённые вызовы инструментов в песочнице на уровне ОС. Песочница ограничивает процессы, путь к файловой системе и доступ к сети; если песочница недоступна, перед выполнением вызовов инструментов среда разработки отключается, и вне песочницы приложение их не запускает. 
Источник изображения: perplexity.ai Среда разработки спроектирована с учётом практического ограничения контекста модели — для Alibaba Qwen3.8-27B это технически 260 000 токенов, но на практике модель начинает испытывать затруднения уже на отметке в 100 000 токенов. Поэтому Portable Computer сохраняет небольшой размер основного интерфейса и набора инструментов; дополнительные навыки загружаются только по мере необходимости. Часто используемые коннекторы переведены в инструменты командной строки вместо прямых обращений по протоколу MCP. Разработчик провёл тестирование Computer в сравнении с агентскими фреймворками Pi и Hermes. В состоящем из 53 заданий тесте Local Knowledge Work Bench платформа Computer набрала 82,6 % против 77,6 % у Pi и 74 % у Hermes; в задачах ParseBench-100 на работу с диаграммами, макетами, таблицами, текстом и форматированием Computer показала 65,1 %, Hermes — 34,6 %, Pi — 13,9 %. При работе Portable Computer каждая задача запускается на локальном устройстве; если локальная модель не может выполнить какой-либо шаг, она может запросить консультацию у облачной: система выбирает контекст, маркирует конфиденциальную информацию, показывает пользователю, что будет отправлено на внешний ресурс, и перед совершением вызова запрашивает подтверждение. В Portable Computer есть коннекторы для «Google Диска», Gmail, Slack и GitHub. Веб-поиск и вызовы коннекторов происходят, что очевидно, с подключением внешних ресурсов; инференс модели и обработка частных документов остаются на ПК. Платформу Portable Computer не следует путать с вышедшим ранее приложением Personal Computer для Microsoft Windows и Apple macOS. На начальном этапе доступны модели Alibaba Qwen3.8-27B и PPLX 27B — спецверсией первой модели, прошедшей дополнительное обучение в Perplexity; несколько позже появится поддержка Nvidia Nemotron 3.5 Lightning; пользователи могут подключать и свои модели. На компьютерах Apple Mac запустить Portable Computer пока не получится; на сентябрь запланирован выход версии для Windows. Meta✴ готовит новую ИИ-модель Watermelon и универсального ИИ-агента Hatch
25.08.2026 [10:00],
Павел Котов
В ближайшие недели Meta✴✴ намерена выпустить ориентированного на потребителей агента искусственного интеллекта Hatch, а на октябрь у компании запланирован запуск новой модели Watermelon, сообщает The Information. Гигант соцсетей планирует сделать ИИ новым источником дохода. 
Источник изображения: Igor Omilaev / unsplash.com Последние проекты в области ИИ реализуются в рамках стратегии Meta✴✴ по диверсификации бизнеса и снижения зависимости от рекламного направления. Компания может ввести несколько тарифов с подпиской на сервисы ИИ — самый дорогой вариант достигнет $200 в месяц. Первые варианты ИИ-агента Hatch обучены взаимодействовать с сайтами и популярными сервисами, в том числе DoorDash, Etsy, Reddit, Yelp и Outlook: для пользователя предусмотрена центральная панель управления ИИ-агентами, которым будут поручаться разные задачи с доступом к различным инструментам. Здесь будут собраны все навыки приложения — от фитнес-трекера до планирования поездок. Hatch запланирован к выпуску на конец августа или начало сентября, утверждают источники. Meta✴✴ также планирует запустить в составе мессенджера WhatsApp платформу для управления ИИ-агентами. Наряду с Hatch, компания готовится выпустить в октябре новую ИИ-модель, которая проходит под кодовым именем Watermelon. Подробностей о ней немного — она может выйти в составе линейки Meta✴✴ Muse или стать отдельным продуктом. Компания ускорила темпы разработки ИИ в стремлении сократить отставание от крупнейших конкурентов; выпускаются как открытые, так и проприетарные системы. В ближайшей перспективе Meta✴✴ намерена монетизировать это направление деятельности. Более 90 % трафика на сайты интернет-магазинов сейчас генерируют боты, охотящиеся за DDR5
24.08.2026 [08:38],
Алексей Разин
Не секрет, что в последние пару лет дефицит оперативной памяти и рост цен на неё вызван бурным развитием вычислительной инфраструктуры для систем искусственного интеллекта, но родственные технологии при этом применяются и при поиске модулей памяти в рознице. Исследователи утверждают, что в ряде случаев более 90 % обращений к страницам интернет-магазинов, на которых продаётся память DDR5, сейчас генерируют программные роботы. 
Источник изображения: Crucial Получается, что из десяти визитов на профильные страницы некоего интернет-магазина приходится только одно обращение живого человека. Исследование DataDome показало, что 91 предложение DDR5 в онлайн-рознице в среднем получало около 50 000 обращений в час. В среднем на каждую страницу приходилось по 551 запросу, каждые 6,5 секунд кто-то проверял, есть ли желанная память в наличии. Боты обращались к страницам сайтов, на которых предлагались не только игровые модули DDR5, но и разъёмы для их установки на материнские платы. Кроме того, эти программные средства использовали методы более частого обновления интернет-страниц, чтобы не получать устаревшие данные о наличии товара из кеша. Для сравнения, в марте пропорция автоматизированных запросов достигала «6:1», поэтому по её увеличению можно судить о сохранении высокого спроса на оперативную память. У рядовых покупателей остаётся всё меньше шансов купить память по адекватным для текущего состояния рынка ценам, поскольку все самые интересные предложения достаются специализированным ботам. |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |
© 1997—2026 Электронное периодическое издание "3ДНьюс" | Свидетельство о регистрации СМИ Эл ФС 77-22224
выдано Федеральной Службой по надзору за соблюдением законодательства в сфере массовых коммуникаций и охране культурного наследия
При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является
нарушением
российского и международного законодательства и возможно только с согласия редакции 3DNews.
MWC 2018
2018
Computex
IFA 2018
