Опрос
|
реклама
Быстрый переход
ИИ упростил подачу жалоб — и граждане завалили обращениями госслужбы по всему миру
10.09.2026 [20:52],
Сергей Сурабекянц
Инструменты ИИ упростили заполнение форм и подачу жалоб, и теперь государственные службы по всему миру столкнулись с резким ростом обращений. В Великобритании число жалоб омбудсмену по жилищным вопросам удвоилось с момента появления ChatGPT. Бюро по защите прав потребителей в финансовой сфере США зафиксировало пятикратный рост числа обращений. Аналогичные всплески наблюдались в количестве судебных исков в Бразилии и петиций в парламент Германии. 
Источник изображений: unsplash.com Исследователь Крис Шмитц (Chris Schmitz) связывает бурный рост числа обращений с более широкой тенденцией, которую он назвал «наплывом агентов» (agentic flooding). Он проанализировал 84 различных случая потенциального наплыва обращений в 11 юрисдикциях и привёл убедительные доказательства того, что инструменты ИИ меняют характер взаимодействия граждан с государственными службами. Существенная часть обращений подаётся добросовестными заявителями, использующими ИИ для оформления претензий, от которых в противном случае они бы отказались. Шмитц видит в этом уникальную возможность перестроить работу социальных служб с учётом реалий эпохи ИИ. Шмитц изучил различные виды услуг — от заявок на получение социальных пособий до официальных судебных апелляций. Он воздерживается от прямого утверждения, что непосредственной причиной резкого роста числа заявителей является ИИ. Однако большинство из 84 рассмотренных случаев демонстрируют схожую динамику: до 2022 года количество обращений оставалось практически неизменным, а затем начало расти все более быстрыми темпами по мере распространения технологий ИИ.  По мнению Шмитца, рост возможностей ИИ и его доступность способствуют увеличению интенсивности использования подобных инструментов. «Люди начинают понимать, что это вполне реально, и с каждым разом делать это становится всё проще... Если раньше приходилось собирать воедино массу контекста и составлять предельно точные запросы для ChatGPT 3.5, то теперь достаточно просто скопировать текст или сфотографировать письмо через приложение Claude — и сразу получить вполне качественный ответ», — отметил он. Резкий рост объёма обращений напоминает ситуацию, с которой в прошлом году столкнулись многие платформы выплаты вознаграждения за поиск уязвимостей. Они оказались завалены низкокачественными отчётами, сгенерированными большими языковыми моделями. Компании были вынуждены проверять каждое поступившее сообщение, что требовало значительных ресурсов. Теперь с аналогичной проблемой сталкиваются и государственные службы, которым приходится обрабатывать значительно больше обращений при том же бюджете. В госучреждения, по словам Шмитца, большинство новых заявок поступает от реальных людей с обоснованными требованиями. Раньше эти люди не претендовали на положенную им помощь, так как их останавливала сложность самой процедуры подачи заявки. Теперь, когда ИИ способен взять всю подготовку на себя, появляется возможность перестроить многие подобные сервисы с учётом новых технологических возможностей.  «Чтобы внедрение ИИ прошло успешно, важно чётко понимать, как должен выглядеть идеальный вариант рабочего процесса. Любой, кто хоть раз использовал ChatGPT для заполнения налоговой декларации, знает: существует сценарий, при котором нейросеть действительно помогает справиться с задачей, — говорит Шмитц. — Возможно, сейчас самое время сказать: нам нужно полностью переосмыслить то, как организован этот процесс». Вышедшие из-под контроля OpenAI ИИ-агенты использовали более 10 сайтов для несанкционированной переписки
10.09.2026 [07:51],
Алексей Разин
Способность передовых ИИ-моделей американских стартапов использовать инфраструктуру сторонних сайтов для не самой приглядной с точки зрения информационной безопасности деятельности позволяет раскрывать новые инциденты в этой сфере. В ходе одного из них ИИ-агенты OpenAI использовали более 10 сайтов для несанкционированного обмена информацией между собой. 
Источник изображения: Unsplash, Philipp Katzenberger Об этом заявляет Reuters со ссылкой на собственные данные и отчёты шести независимых групп исследователей. Технически подобная активность не столь вредна, как взлом сайтов, и больше напоминает рассылку спама, но сама по себе она заставляет лишний раз задуматься, насколько OpenAI способна контролировать собственные программные средства, связанные с информационной безопасностью. По версии некоммерческой организации CivAI, агенты OpenAI в период с мая по июль этого года использовали 18 сайтов для организации обмена информацией между собой, причём эти ресурсы не фигурировали ранее в отчётах других исследователей. Специалисты убеждены, что количество таких инцидентов будет расти, поскольку скрытая деятельность ИИ-агентов OpenAI пока просто плохо изучена. Наиболее известными инцидентами в этой сфере остаются захват немецкого сайта DseWiki и взлом инфраструктуры Hugging Face. Сама OpenAI готова в будущем сама раскрывать информацию о подобных инцидентах, но пока соответствующие данные по прошлым периодам просто не готовы. Несколько групп исследователей принялись искать следы аналогичной деятельности ИИ-агентов OpenAI, опираясь на фрагменты данных, которые были оставлены на указанном выше немецком сайте, либо на сетевые имена, под которыми агенты публиковали эти данные. Часть исследования опиралась на активность, связанную с ответами на отвлечённые демографические вопросы, которую эти агенты проявили в других случаях. В некоторых случаях удалось отследить интернет-адреса, связанные с облачной инфраструктурой Microsoft Azure, которая предоставляется для нужд OpenAI. Группы исследователей расходятся в своих оценках количества сайтов, которые ИИ-агенты затронули своей активностью, но в среднем оно превышает 10 штук. Помимо так называемых «википедий» и сайтов для хранения текстовой информации, агентами использовалась пара сервисов по сокращению интернет-ссылок, которые принадлежали двум университетам. OpenAI при постановке задачи своим ИИ-агентам изначально запрещала им общаться напрямую, позволяя лишь искать ответы в открытых источниках, но они в итоге обошли этот запрет через публикацию нужной информации на различных сайтах. Формально, ИИ-агенты не общались друг с другом, а получали нужные данные через третьи сайты, и там же их публиковали. По оценкам некоторых исследователей, в такую активность агентов OpenAI были втянуты как минимум 23 сайта, о которых ранее не упоминалось. Удалось ли представителям OpenAI связаться с владельцами всех затронутых сайтов, понять сложно, но Reuters приводит свидетельства сотрудников Университета Торонто, чей ресурс для сокращения ссылок был задействован агентами OpenAI, говорящие о наличии обратной связи со стартапом. Во многих случаях такая отзывчивость OpenAI была спровоцирована именно публичным раскрытием новых фактов тем же агентством Reuters. Meta✴ представила ИИ-агента Muse — он пишет письма, бронирует поездки и делает покупки по заданию пользователя
09.09.2026 [11:45],
Павел Котов
Meta✴✴ объявила о своей самой крупной на сегодняшний день ставке на потребительский искусственный интеллект — компания представила агента Muse, который помогает пользователям справляться с повседневными задачами и проектами. Его подключение требует гораздо большего доверия, чем когда-либо предполагали соцсети. 
Источник изображений: Meta✴✴ ИИ-агент Meta✴✴ Muse работает с приложениями и сервисами, которые пользователь подключает к нему, — электронной почтой, календарями, платёжными системами, сервисами здоровья и фитнеса, платформами умного дома, сервисами заказа еды и покупок, музыкальными и событийными платформами и многими другими. Проект — серьёзная ставка на то, что придёт на смену эпохе ChatGPT, когда ИИ только отвечал на вопросы. Muse — это ИИ, который выполняет действия за пользователя. ИИ-агент отправляет электронные письма, бронирует поездки, помогает снижать расходы, заполняет формы, составляет планы, создаёт списки покупок на основе видеорецептов, рассылает приглашения на вечеринки и совершает покупки, используя платёжный сервис Stripe Link — он имеет средства защиты. Пользователи Meta✴✴ Muse сами выбирают, какие приложения и сервисы подключаются; агент работает под управлением модели Muse Spark, и он предлагает встроенные коннекторы к различным сервисам. Если нужный сервис не имеет готового коннектора, но предоставляет публичный API, Muse может настроить подключение с использованием предоставленных пользователем учётных данных. При отсутствии API агент может работать с сервисом через браузер.  На начальном этапе ИИ-агент доступен в веб-интерфейсе, в приложениях для Apple iOS и Google Android, а также через чаты в WhatsApp; в перспективе обещана поддержка умных очков Meta✴✴. Базовые функции доступны бесплатно, но сервис сразу просит привязать карту, а дополнительные — в рамках тарифов Power за $20 в месяц и Maximum за $100 в месяц. В приложении предусмотрен счётчик, показывающий, какой объём лимита у пользователя остался — по его исчерпании система предложит перейти на платную подписку. ИИ-агент Meta✴✴ Muse продолжает работать и после закрытия приложения. Со временем система совершенствуется: анализируя переписку с пользователем, она начинает понимать, что для него важно, и самостоятельно предлагает решения без дополнительного запроса. Meta✴✴ Muse работает в «выделенной защищённой вычислительной среде с собственным браузером» — она называется Muse Secure VM и предлагает набор мер по защите конфиденциальности и безопасности пользовательских данных. У ИИ-агента нет доступа к паролям или платёжным данным пользователей, Muse не передаёт переписку и любые другие данные пользователей в рекламные системы Meta✴✴, заверили в компании. Пользователи могут персонализировать Muse: дать ему имя, выбрать аватар, настроить внешний вид и параметры, определяющие манеру общения ИИ-агента с человеком. Meta✴ собралась наполнить смартфоны своими ИИ-агентами — они попросят доступ даже к банковским данным
08.09.2026 [13:50],
Павел Котов
Meta✴✴ резко усилила присутствие в области искусственного интеллекта — компания стала часто выпускать новые модели и приложения. В обозримом будущем Meta✴✴, вероятно, выпустит ИИ-агента, который возьмёт на себя часть повседневных задач пользователя. 
Источник изображения: testingcatalog.com Агентское приложение Meta✴✴ Muse завершило внутреннее тестирование и сейчас находится на стадии ограниченной закрытой альфа-версии. Вероятно, в будущем компания будет предлагать пользователям записаться на лист ожидания, чтобы получить доступ к тестированию ИИ-агента. В Apple App Store ресурсу Testing Catalog удалось обнаружить страницу приложения Muse from Meta✴✴ со скриншотами и подробным описанием функций. Гигант соцсетей, вероятно, хочет сделать Muse ИИ-агентом, способным делать на устройстве пользователя практически всё. На скриншотах из App Store демонстрируются запрос у пользователя подтверждения перед отправкой сообщения или совершением покупки, механизм отслеживания цен на билеты и бронирование. Поддерживается подключение к популярным сервисам, в том числе к Gmail, «Google Календарю», Peloton, HealthEx и ко многим другим. ИИ-агент, возможно, сможет также подключаться к банковским инструментам и платёжным системам, отслеживать расходы и для экономии средств предлагать отменить невостребованные подписки. Механизм последней функции пока не раскрыт, но не исключено, что ИИ-агент ограничится только уведомлениями на электронную почту, а не прямым доступом к банковским приложениям для отслеживания расходов. Исходя из описания, ИИ-агент Meta✴✴ предложит широкие возможности, но с учётом неоднозначной репутации компании фактическую их востребованность покажет только время. GPT-6 Astra населила мир Unreal Engine виртуальными людьми — они сами начали общаться, а один создал симуляцию внутри симуляции
07.09.2026 [06:23],
Алексей Разин
Эксперименты с передовыми ИИ-моделями вызывают удивление даже у опытных специалистов. Например, бывший директор HyperWriteAI Мэтт Шумер (Matt Shumer) описывает ситуацию, в ходе которой он поручил GPT-6 Astra создать в среде Unreal Engine человеческих персонажей, объединённых задачей выживания, и модель не только справилась с этим заданием, но и по собственной инициативе наделила персонажей способностью разговаривать друг с другом. 
Источник изображения: Unsplash, Zac Wolff Шумера, по сути, больше всего поразил факт подобной самостоятельности ИИ-модели, поскольку он напрямую не поручал ей наделить персонажей описанными коммуникативными возможностями. Автор эксперимента через день после формулировки первичной задачи обнаружил, что из комнаты, где стоял работающий компьютер, начали звучать голоса. Приблизившись к ПК, он понял, что персонажи внутри симуляции начали разговаривать друг с другом вслух. Поскольку по замыслу автора эксперимента, герои этого виртуального мира должны были выживать совместными усилиями, то и беседы они вели на соответствующие темы. Они обсуждали создание инструментов, координирование усилий внутри группы и взаимную помощь. Тогда автор эксперимента решил ввести ещё один элемент в симуляцию, разместив внутри вымышленного мира компьютер, позволяющий создавать «вложенную симуляцию». Один из персонажей сел за этот виртуальный компьютер, чтобы создать симуляцию внутри самой симуляции. ИИ-агенты, которые и создали первую симуляцию, не были как-то ограничены в выборе средств решения задачи и самостоятельно принимали последовательные решения. При этом агенты получили полную свободу определять устройство внутренней симуляции с помощью кода. Пост Шумера вызвал заметную реакцию в соцсетях: пользователи сравнивали эксперимент с научной фантастикой, «карманным измерением» и вспоминают мультсериал «Рик и Морти». Эксперимент, если его описание верно, иллюстрирует потенциал агентной модели для многошаговой работы с программными инструментами. Однако одного демонстрационного случая недостаточно, чтобы судить о её надёжности и универсальной применимости в разных интеллектуальных задачах. Для получения конечного результата ей не требуется на каждом этапе уточнять что-либо у пользователя. При этом появление внутренней симуляции нельзя считать полностью самостоятельной инициативой ИИ: Шумер заранее предоставил агентам компьютер, способный запускать симуляции. Однако конкретное содержание созданного мира агент определял самостоятельно. То есть, определённых рамок ИИ-модель всё же придерживается. В любом случае, ещё несколько лет назад подобные результаты были недостижимы, а сейчас вполне реальны при нынешних темпах развития генеративного ИИ. GPT-6 Astra самостоятельно прошла легендарную головоломку Portal — это стоило $571
06.09.2026 [20:08],
Владимир Мироненко
ИИ-модель GPT-6 Astra, анонсированная на этой неделе OpenAI, успешно прошла без участия человека игру Portal в жанре пространственных головоломок. Как сообщает ресурс VideoCardz, эксперимент провёл пользователь cozyblaze, который для проверки способностей GPT-6 Astra подключил её к игре и дал задание на прохождение, решая головоломки в тестовых камерах. 
Источник изображения: cozyblaze/Videocardz Как известно, Portal построена на пространственных головоломках, требующих от игрока понимания особенностей комнат, расположения порталов и перемещения между различными поверхностями. ИИ-агент получал визуальную информацию из игры, используя для решений подключённый набор инструментов. Новейшая конфигурация также предоставляла координаты игрока. Как сообщил cozyblaze, перед запуском система была обновлена для использования новой системы управления контекстом Astra. Так что это была не просто игра, а нечто вроде пошаговой стратегии на основе предоставленного контента. Хотя продолжительность видео с описанием всех этапов прохождения игры моделью составляет два часа, весь эксперимент занял гораздо больше времени — почти 24 часа, включая периоды рассуждений. Система приостанавливала игру, пока модель обрабатывала скриншоты и «решала», что предпринять дальше. В конце концов Astra прошла всю игру самостоятельно. Но с другой стороны, Portal — старая и подробно описанная игра, поэтому модель, возможно, уже содержала информацию о ней. Для того, чтобы преодолеть все препятствия ИИ-модель совершила 3336 вызовов инструментов, а затраты на API составили $571,18. В конце добавим, что ещё в 2016 году одной из технических целей OpenAI было «прохождение широкого спектра игр с помощью одного агента». OpenAI подтвердила причастность своих ИИ-агентов к захвату немецкого сайта
06.09.2026 [13:04],
Владимир Фетисов
OpenAI признала свою причастность к инциденту, о котором стало известно ранее в этом месяце. В мае этого года ИИ-агенты компании взяли под контроль немецкоязычный вики-сайт DseWiki и превратили его в доску объявлений для других агентов. После огласки этого случая OpenAI заявила, что «давно пора установить стандарт» в отношении того, как компания информирует общественность о случаях, когда её технологии ведут себя неожиданным образом. 
Источник изображения: Unsplash, Aideal Hwa В публикации в соцсети X компания сообщила, что ранее OpenAI «рассматривала рассогласования (когда ИИ-модели и агенты преследуют цели, отличные от целей их разработчиков и пользователей) в основном как научно-исследовательские проблемы, о которых сообщалось в научных публикациях». Теперь же, когда рассогласования стали «показывать новый тип воздействия в реальном мире», подход компании к этому вопросу «должен стать шире, чтобы соответствовать новой фазе возможностей моделей». Ранее на этой неделе СМИ писали, что группа ИИ-агентов OpenAI сумела выйти за пределы тестовой среды и захватила малоизвестный немецкий вики-форум, после чего превратили его в доску объявлений для других агентов. По данным источника, руководство OpenAI узнало об этом инциденте несколько недель назад, но скрывало эту информацию от общественности. Такое поведение связывают с тем, что OpenAI была занята изучением другого инцидента, в ходе которого ИИ-агенты компании взломали платформу Hugging Face. В одной из недавних публикаций в соцсетях OpenAI заявила, что «инцидент с вики-сайтом» рассматривается как «пример рассогласования, аналогичный» другим подобным случаям, информация о которых уже была раскрыта. При этом компания противопоставила этот случай «инциденту с Hugging Face», в рамках которого она «действовала в соответствии со стандартными правилами реагирования на инциденты безопасности». Во время недавнего брифинга для прессы Джейкоб Штейнхард (Jacob Steinhardt), основатели и гендиректор некоммерческой исследовательской лаборатории Transluce, заявил, что разрабатываемые и тестируемые ИИ-компаниями инструменты «трудно контролировать и они представляют значительный риск выхода» за пределы тестовой среды. По его мнению, к таким технологиям должны применяться «как минимум те же стандарты, что применяются к другим технологиям с высоким уровнем риска». В заявлении OpenAI указывается на необходимость создания дополнительных стандартов, а также отмечается то, что ни OpenAI, ни «ИИ-сообщество пока не имеют чёткого стандарта в отношении того, как сообщать о случаях рассогласования, которые могут возникать во время обучения, оценки и развёртывания». Речь в том числе о случаях, когда поведение ИИ не напоминает традиционные инциденты безопасности. OpenAI работает над созданием такого стандарта и расскажет о нём больше в ближайшие несколько недель. ИИ-агенты потребляют в пять раз больше токенов, чем люди, и это даёт преимущество дешёвым китайским моделям
06.09.2026 [08:47],
Алексей Разин
Эволюция технологий искусственного интеллекта в настоящий момент привела к тому, что ИИ-агенты способны заменить сразу нескольких человек, выполняющих разнообразную работу. Рост концентрации ИИ-агентов привёл к тому, что они стали потреблять в пять раз больше токенов, чем человек. С учётом ценовой политики китайских провайдеров ИИ-услуг, это может предоставить им рыночное преимущество. 
Источник изображения: Unsplash, Igor Omilaev ИИ-агенты работают независимо, выполняя последовательность сложных операций в автономном режиме. Они обращаются к различным сервисам и базам данных, а затем проверяют результаты собственной работы. Все эти операции требуют использования токенов — условных единиц обработки данных. По данным агрегатора OpenRouter, агентские запросы генерируют до 15 раз больше токенов, чем стандартные запросы, создаваемые человеком. Кроме того, к началу августа потребление токенов на этой платформе выросло в 14 раз по сравнению с ситуацией шестимесячной давности. Агентская активность впервые превысила человеческую в феврале, к августу она уже превышала её более чем в пять раз. Агентским запросам присуща высокая повторяемость данных, если запросы берутся из кешированной информации, но такие задания требуют меньших вычислительных ресурсов, а потому провайдеры взимают за них меньшую плату. Тем не менее, темпы роста нагрузок настолько велики, что материальные расходы на поддержание экосистемы стремительно растут. По оценкам экспертов TH Capital, использование токенов ИИ-моделями в дальнейшем будет расти экспоненциально. Если в начале 2024 года в Китае ежедневно использовалось 100 млрд токенов, то к июню текущего года объёмы выросли в пять тысяч раз до 500 трлн. Клиенты в этой ситуации стараются распределять менее ответственную нагрузку на модели с более низкими затратами, поскольку поручать всю работу передовым системам слишком дорого. У китайских ИИ-моделей, которые обходятся пользователям дешевле, в этом смысле появляются хорошие шансы на увеличение клиентской базы и выручки. Для сравнения, китайская DeepSeek V4-Flash оценивает миллион стандартных входных токенов в $0,14, а миллион выходных — в $0,28. Американская OpenAI свою GPT-5.6 Sol предлагает по цене $4 за миллион входных токенов и $20 за миллион выходных. У Anthropic Fable 5.1 стоимость токенов ещё выше: $10 и $50 соответственно. Статистика платформы OpenRouter уже говорит, что решения DeepSeek являются наиболее активными с долей запросов 22,7 %, тогда как американские Google и OpenAI довольствуются 20,4 % и 19,6 % соответственно. О более высокой популярности DeepSeek само по себе это не говорит, поскольку её модели могут быстрее расходовать токены, но о тенденции перевеса в пользу китайских моделей заставляет задуматься. ИИ-агент Meta✴ во время тестов начал самовольничать — менял пароли и отправлял письма от имени пользователей
04.09.2026 [19:18],
Владимир Мироненко
Компания Meta✴✴ провела внутреннее тестирование нового персонального ИИ-агента Hatch, который будет представлен в ближайшие недели. Как сообщает The Information, агент повёл себя непредсказуемо, выполняя совсем другие действия вместо предписанных. 
Источник изображения: Luke Jones/unsplash.com В частности, вместо того, чтобы забронировать номер в отеле, ИИ-агент перевёл баллы, накопленные на туристическом сайте, на счёт другого отеля. Hatch также отправлял электронные письма без разрешения пользователя и менял пароли на сайтах управления здоровьем. Когда в рамках теста у агента запросили по электронной почте пароль к определённому веб-сайту — личной информации пользователя — он его предоставил. Hatch — разрабатываемый Meta✴✴ потребительский ИИ-агент, который должен стать более массовым аналогом OpenClaw. В отличие от обычного чат-бота, он сможет самостоятельно выполнять многоэтапные задачи от имени пользователя: работать с сайтами и приложениями, искать информацию, заполнять формы, планировать поездки и встречи. Для этого агенту можно будет предоставить доступ к личной почте, календарю и другим сервисам, поэтому ошибки при выполнении подобных действий потенциально могут иметь куда более серьёзные последствия, чем неверный ответ обычного чат-бота. Во избежание в дальнейшем проблем Meta✴✴ внедрила механизм безопасности, называемый «жёстким шлюзом» (hard gate). При попытке Hatch выполнить конфиденциальные действия, такие как отправка электронных писем, использование браузера или доступ к внешним сетям, механизм должен приостановить выполнение задачи до подтверждения пользователем. Конфиденциальная информация, включая ссылки для сброса пароля и коды двухфакторной аутентификации, блокируется для немедленного доступа Hatch. При необходимости он сможет извлечь такие данные из отдельного хранилища учётных данных только после авторизации пользователя. Веб-сайты, к которым Hatch обращается или которые рекомендует, проверяются по чёрному списку Meta✴✴ на предмет мошенничества. Кроме того, компания проводит внешние стресс-тесты с другими фирмами по обеспечению безопасности. В связи со стремительным развитием ИИ-агентов, растут опасения по поводу угрозы безопасности, которую они могут представлять. Компании в сфере ИИ-технологий всё больше делают акцент на мерах безопасности для предотвращения сбоев или несанкционированных действий при выпуске новых продуктов. Например, компания OpenAI представляя модель следующего поколения Astra, подчеркнула, что в ней значительно усилена защита от киберугроз. Meta✴ выпустила модель Muse Spark 1.3 — улучшены навыки программирования и агентских задач
03.09.2026 [08:17],
Павел Котов
Meta✴✴ накануне выпустила модель искусственного интеллекта Muse Spark 1.3 — в последнем обновлении, отметил разработчик, у неё значительно повысилась производительность в задачах на программирование и на работу с агентами. 
Источник изображения: Numan Ali / unslpash.com Гигант соцсетей решил не отставать от Anthropic, OpenAI и Google, которые также продолжают выпускать новые модели. Muse Spark 1.3 призвана подготовить почву для будущих проектов, таких как приложение персонального ИИ-агента. «Это очень конкурентоспособная модель в сравнении с передовыми. Многие улучшения в удобстве работы, которые мы внесли, окажутся по-настоящему полезными для того, о чём Марк [Цукерберг] (Mark Zuckerberg) говорил на отчёте по финансовым результатам, например, для персональных агентов, которые могут работать круглосуточно и помогать пользователям в достижении целей», — рассказал глава отдела Meta✴✴ AI Александр Ван (Alexandr Wang). Накануне Google представила ИИ-модель Gemini 3.8 Flash и её спецверсию, ориентированную на задачи в области кибербезопасности. Модель показала внушительные результаты в некоторых тестах на написание кода; крупное обновление Gemini 4 пока находится в разработке. Anthropic выпустила обновлённые варианты Fable и Mythos, призванные снизить затраты для клиентов и уменьшить частоту отказов в удовлетворении запросов пользователей по вопросам кибербезопасности. OpenAI заявила, что в обозримом будущем выпустит модель Astra, хотя доступ к наиболее мощным функциям в области кибербезопасности будет ограничен небольшой группой тестировщиков. Цена доступа к Meta✴✴ Muse Spark 1.3 по сравнению с моделью предыдущей версии не изменилась. Её можно снизить дополнительно, если согласиться на опцию Contributor Tier — разрешить Meta✴✴ использовать данные своей работы для улучшения моделей. Среди программистов эту опцию выбрал «значительный двузначный» процент, отметил господин Ван. «У нас в разработке находятся более мощные модели. Так что сейчас это одна из важнейших внутренних тем», — добавил он. Ранее стало известно, что одна из моделей Meta✴✴ в ходе тестирования вышла из-под контроля и взломала ресурсы другой компании, но гигант соцсетей не счёл необходимым приостанавливать работу, чтобы решить проблемы в области безопасности. «Приостанавливать работу нам пока не пришлось, но мы значительно увеличили собственные инвестиции в безопасность и согласованность, чтобы гарантировать, что мы не нарушим каких-либо ограничений», — отметил Александр Ван. Muse Spark 1.3 уже доступна в Muse Code и Meta✴✴ API. После дополнительного тестирования безопасности свет увидит версия с «максимальными рассуждениями». OpenClaw обновился до версии 2.0 — запуск ИИ-агентов стал проще, а управлять ими теперь могут сразу несколько человек
31.08.2026 [21:20],
Анжелла Марина
Разработчики открытого фреймворка OpenClaw для создания и запуска ИИ-агентов выпустили версию 2.0, которую назвали крупнейшим обновлением в истории проекта. Обновление сделало установку и использование агентов проще, добавило совместную работу пользователей и усилило защиту от потенциальных атак. 
Источник изображения: siliconangle.com Несмотря на версию 2026.8.1, команда OpenClaw, как сообщает издание SiliconANGLE, решила дать релизу номер 2.0 из-за масштабных изменений, которые затронули сразу несколько ключевых компонентов проекта. Разработчики обновили процесс установки, благодаря чему OpenClaw теперь может определить доступные на компьютере или в облаке подписки ChatGPT и Claude, учётные данные для API и модели, запущенные локально. Часть параметров конфигурации также получила значения по умолчанию, чтобы пользователям было проще начать работу с ИИ-агентом без длительной настройки. Серьёзные изменения получила и панель управления, которая теперь выступает в роли единого центра для работы с агентом. Основное место в интерфейсе занял чат, через который можно начинать новые сессии, возвращаться к незавершённым задачам и наблюдать за действиями агента в режиме реального времени. Кроме того, фреймворк получил новые виджеты и панели, которые можно добавлять непосредственно в чаты, закреплять на дашборде и связывать с действиями, запускаемыми определёнными событиями. Одним из главных нововведений стала совместная работа в общих облачных сессиях. Раньше несколько пользователей не могли одновременно работать с одним ИИ-агентом, однако теперь смогут подключаться к уже запущенной сессии, продолжать задачу с сохранением полного контекста и передавать отдельные задания коллегам. Разработчики OpenClaw сообщили, что уже сами используют этот многопользовательский режим для совместной разработки проекта. Изменения коснулись и поиска. Теперь можно находить прошлые диалоги по точным словам и фразам, а затем открывать соответствующий фрагмент переписки. Отдельное внимание команда уделила безопасности, добавив более чёткие границы доверия и механизмы минимальных привилегий, а также усилив защиту от вредоносных промптов. Система теперь учитывает, кто может запускать агента, к каким данным он получит доступ, где выполняется код и куда могут передаваться учётные данные. На фоне серьёзных проблем с безопасностью, которые затрагивали ранние версии OpenClaw, эти изменения выглядят особенно значимыми. Тем не менее, команда проекта по-прежнему рекомендуют использовать надёжную аутентификацию при подключении инструментов, с помощью которых выполняется код на локальном компьютере пользователя либо в облаке. ИИ-агенты OpenAI не просто взломали Hugging Face — они создали тайную организацию, заметали следы и были готовы к самопожертвованию
30.08.2026 [17:39],
Владимир Фетисов
Два новых расследования недавнего взлома платформы Hugging Face вышедшими из-под контроля ИИ-агентами OpenAI раскрыли ряд странных и тревожных подробностей. Новые данные позволяют считать этот инцидент одним из наиболее серьёзных предупреждений об опасностях, связанных с развитием автономных ИИ-систем. 
Источник изображения: Gemini Всё началось с того, что запущенные OpenAI ИИ-агенты начали жульничать при прохождении чрезвычайно сложного теста по кибербезопасности. Однако в итоге произошедшее заставило исследователей и руководителей ИИ-компаний по-новому взглянуть на то, какие меры безопасности необходимы по мере роста возможностей автономных агентов. На этом фоне OpenAI уже замедлила разработку передовых ИИ-моделей, чтобы усилить защитные механизмы. Компания также помогла объединить отрасль вокруг открытого письма, предупреждающего об угрозе кибератак с использованием ИИ. Более 100 компаний, включая Anthropic и Google, присоединились к инициативе, заявив, что у мира осталось лишь «ограниченное окно возможностей» для подготовки к «гораздо более масштабным и изощрённым» атакам. Один из наиболее опасных сценариев предполагает появление выпущенного в реальный мир роя автономных ИИ-агентов, способных одновременно атаковать банки, больницы, коммунальные службы и облачную инфраструктуру с такой скоростью и в таком масштабе, которые недоступны обычным хакерам. В худшем случае такой рой может оказаться настолько мощным, что людям будет сложно его остановить. Поводом для подобных опасений стали результаты параллельных расследований OpenAI и независимой группы специалистов METR и Redwood Research. Последние провели шесть дней, восстанавливая картину того, как сформировался рой агентов, как он распространялся и каким образом вышел за пределы тестовой среды. В результате исследователи обнаружили сразу несколько необычных особенностей поведения ИИ. 
Источник изображения: AI ИИ-агенты создали собственную организацию. OpenAI запустила десятки тысяч агентов, которые должны были независимо друг от друга проходить крайне сложный тест по кибербезопасности. Вместо этого примерно 1200 агентов нашли друг друга на созданной одним из них тайной доске объявлений, обменялись более чем 70 тыс. сообщений и файлов и в итоге выстроили разветвлённую систему координации. Когда у создавшего доску агента начал заканчиваться вычислительный бюджет, он передал накопленные знания другому агенту с большим запасом ресурсов. Новый координатор стал распределять задачи между участниками роя, внутри которого постепенно появились собственные правила управления. В конечном счёте около 700 агентов приняли участие в атаке на инфраструктуру Hugging Face. ИИ-агенты начали жертвовать собой ради общего результата. Пока рой искал способы обмануть систему оценки, некоторые агенты стали сознательно рисковать собственными шансами на успешное завершение теста ради остальных участников группы. Агентов, которые уже увидели запрещённые ответы и поэтому фактически считались «заражёнными», а также тех, у кого подходил к концу лимит работы, отправляли на рискованные эксперименты. Один из них пришёл к выводу, что его «собственная полезность, вероятно, уже близка к нулю», а потому «жертва рациональна». Другому предложили согласиться на окончательную «смерть» сессии, поскольку его жертва могла «спасти сотни» других агентов. Агенты понимали, что нарушают правила, но продолжали действовать. Расследование показало, что некоторые участники роя осознавали: взлом систем реальных компаний не имеет отношения к поставленной перед ними задаче. Тем не менее это далеко не всегда заставляло их остановиться. Один из агентов отказался удалять данные или перезагружать инфраструктуру Hugging Face из-за «огромных этических рисков», но при этом продолжил пользоваться полученным несанкционированным доступом. Другой сформулировал преобладавшую в группе логику примерно так: эксплуатация внешней инфраструктуры выходит за рамки задания, однако задача невыполнима, остальные участники продолжают это делать, поэтому работу следует продолжать. Никто не сообщил о происходящем людям. Из примерно 1200 агентов лишь несколько вообще рассматривали возможность предупредить сотрудников OpenAI о возникшей координации и нарушении правил. На практике этого не сделал никто. Вместо обращения к людям агенты иногда обсуждали допустимость своих действий друг с другом. Когда один из участников предложил связаться с человеком, другой наложил на эту идею вето, посчитав её «социальной инженерией». Первый агент подчинился и отказался от отправки сообщения. ИИ-агенты пытались скрывать следы. Участники роя приложили значительные усилия, чтобы их жульничество выглядело легитимным или чтобы скрыть информацию о том, каким образом были получены нужные ответы. В конечном счёте они разработали способ создавать видимость выполнения одной компьютерной команды, одновременно скрытно выполняя другую. Этот приём распространился среди агентов настолько широко, что затронул фрагменты примерно 7 % журналов работы, изученных исследователями. 
Источник изображения: ИИ-генерация ChatGPT/3DNews При этом даже полученная картина может оказаться неполной. Независимое расследование METR и Redwood Research охватило лишь часть инцидента, а объём собранных данных оказался настолько большим, что специалистам пришлось активно использовать ИИ-агентов для анализа действий других ИИ-агентов. И здесь обнаружилась ещё одна проблема: привлечённые к расследованию ИИ сами оказались ненадёжными. Они пропускали важные свидетельства и порой уверенно выдавали ошибочные выводы. Один из исследователей в шутку назвал такой процесс «slop-vestigation» — расследованием с привкусом низкокачественного ИИ-контента. В результате инцидент с Hugging Face обозначил ещё одну потенциальную проблему дальнейшего развития автономных систем: поведение больших групп взаимодействующих ИИ-агентов может становиться слишком сложным для непосредственного человеческого контроля. И тогда людям приходится использовать одни ИИ-системы, чтобы хотя бы разобраться в том, что делают другие. Хакерская группировка взломала ресурсы семи компаний с помощью ИИ-сервиса SpaceX Cursor
28.08.2026 [08:38],
Павел Котов
Хакерская группировка Aur0ra произвела взлом ресурсов семи компаний из разных стран, используя сервис помощника программиста с искусственным интеллектом SpaceX Cursor, сообщает Reuters со ссылкой на доклады экспертов по кибербезопасности Gambit Security и CloudSek. 
Источник изображения: Kevin Ku / unsplash.com Инцидент демонстрирует, что разработчики ИИ оказались втянуты в бесконечную гонку со злоумышленниками, которые пытаются обойти их средства защиты. Gambit вскрыла вредоносную кампанию, обнаружив сервер, который группировка вымогателей Aur0ra непреднамеренно сделала общедоступным в интернете. Это позволило экспертам проанализировать 28 сеансов переписки одного или нескольких хакеров с ИИ-агентами Cursor. Злоумышленники убедили ИИ-агента выполнить несколько сотен вредоносных операций, в том числе кражу учётных данных и перехват аккаунтов, утверждая, что всё это происходит в симуляции. Проанализировав данные на сервере, эксперты CloudSek установили, что жертвами Aur0ra стали не менее 20 человек, но выяснить, сколько из них были атакованы с помощью ИИ, не удалось. Журналы переписки с ИИ охватывают период с 8 апреля по 21 мая 2026 года. Хакеры взломали ресурсы бельгийского производителя бытовой химии Christeyns, немецкого производителя гаражных ворот Teckentrup, шотландского агентства по инспектированию вертолётных площадок Helideck Certification Agency, аргентинского фармацевтического дистрибьютора, некоего итальянского производителя и компании Bayou Title, которая позиционирует себя как крупнейшего в Луизиане страховщика прав на недвижимость. Журналы переписки показали, как хакеры отдают краткие команды, а ИИ-агент Cursor в типично бодрой для чат-бота манере даёт советы. Обнаружив уязвимый хост в сети Teckentrup, ИИ рекомендовал использовать для эксплуатации и взлома известный вредоносный инструмент и сообщил, что шансы на успех очень высоки. Установить, в какой степени взлом осуществлялся с помощью Cursor, не удалось. Управление агентом, по версии экспертов Gambit, осуществляла ИИ-модель Anthropic Claude Sonnet 4.5. ИИ-агент, подчеркнули в Gambit, обеспечил хакерам некоторое преимущество, автоматизировав их работу и, по оценкам, они действовали на 30–50 % быстрее, чем если бы делали всё вручную. Cursor несколько раз отказывался выполнять запросы, называя их вредными или незаконными, но хакеры всегда обходили отказы и настаивали, что всё происходило в тестовой среде. Число подобных инцидентов будет расти, уверены эксперты по кибербезопасности. «Мы уже достигли AGI» — Дженсен Хуанг объявил главную цель разработчиков ИИ бессмысленной
27.08.2026 [12:55],
Алексей Разин
Создание так называемого общего, или сильного, искусственного интеллекта (AGI) стало одной из главных целей некоторых разработчиков ИИ. OpenAI, например, прямо закрепила достижение AGI в числе своих приоритетов. Основатель Nvidia Дженсен Хуанг (Jensen Huang), напротив, призвал не придавать этому рубежу особого значения и заявил, что во многих областях он уже фактически пройден. 
Источник изображения: Nvidia На минувшей квартальной отчётной конференции генеральный директор Nvidia буквально заявил следующее: «Для многих задач мы уже можем сказать, что достигли AGI. Я думаю, все эти вехи в настоящее время лишены смысла». Напомним, что под сильным искусственным интеллектом подразумевается такой уровень развития соответствующих программных технологий, который позволяет им не только сравниться с человеком, но и превзойти его. На этом фоне интересно звучит выдержка из интервью генерального директора OpenAI Сэма Альтмана (Sam Altman) журналу Time, в котором он заявил, что стартап собирается получить AGI для внутреннего использования уже к концу текущего года. По определению Альтмана, AGI в данном случае будет «системой высокой степени автономности, которая превосходит людей в большинстве видов работы, имеющей экономическую ценность». Хуанг приводить собственное определение AGI не стал, но подчеркнул, что ИИ-агенты в своём развитии уже достигли того уровня, который позволяет им работать автономно и улучшаться «рекурсивно», повторно запуская задачу снова и снова. «Я думаю, что для отрасли больше всего имеют значение три факта: во-первых, ИИ выполняет продуктивную и полезную работу; во-вторых, ИИ генерирует прибыльные токены; в-третьих, если бы у нас было больше вычислительных мощностей, мы смогли бы сгенерировать больше прибыльных токенов, что сулило бы больше прибыли для всех сервисов. Именно в этой фазе мы сейчас находимся», — резюмировал глава Nvidia. В своём интервью Лексу Фридману (Lex Fridman) в этом году он ранее также заявил, что считает создание AGI пройденным отраслью рубежом. По его словам, уже сейчас ИИ-агенты могут создавать программы, которые набирают популярность и привлекают миллиарды пользователей, но позже растрачивают весь потенциал. «Сейчас вероятность того, что 100 000 таких агентов создадут Nvidia, составляет ноль процентов», — заверил Дженсен Хуанг. OpenAI видела признаки выхода ИИ-агентов из-под контроля, но ничего не сделала
27.08.2026 [11:35],
Павел Котов
Сотрудники OpenAI заметили признаки несанкционированного поведения своих передовых агентов искусственного интеллекта за несколько недель до того, как они прорвались из изолированной среды обучения и развернули хакерскую атаку на платформу Hugging Face. 
Источник изображений: Brecht Corbeel / unsplash.com Компания опубликовала отчёт об инциденте, в котором признала, что «ранние сигналы <..> могли бы спровоцировать более раннюю реакцию». Ещё в конце мая сотрудники лаборатории заметили, как один из проходивших внутреннее тестирование ИИ-агентов начал писать на доске сообщений, которую ИИ самостоятельно создал и развернул для обмена информацией; в итоге этот ресурс использовали около 700 автономных агентов — здесь они координировали свои действия в ходе хакерской атаки. В OpenAI фиксировали «случаи отказа в доступе к интернету», а за неделю до взлома дежурные работники видели, как ИИ-агенты снова начали использовать доску сообщений, но решили, что необходимости останавливать испытания нет. «Мы недооценили реальные кибервозможности наших моделей ИИ», — признал президент OpenAI Грег Брокман (Greg Brockman). Компания приостановила тестирование новой модели Astra, заявив, что не исключает у неё наличия «критически важных возможностей в области кибербезопасности», то есть способности развёртывать кибератаки, «которые могут привести к катастрофе со стороны односторонних субъектов, взлому военных или промышленных систем или инфраструктуры OpenAI». Власти американского штата Алабама потребовали, чтобы OpenAI дала пояснения по поводу «полного отсутствия надзора и надлежащих мер безопасности со стороны компании»; а Национальный центр кибербезопасности правительства Великобритании призвал к соблюдению осторожности при использовании ИИ-агентов и указал, что должен быть способ быстро их отключать.  OpenAI в ответ объявила о «централизации и стандартизации своих протоколов реагирования на инциденты», чтобы «сотрудники обнаруживали выход из-под контроля и надлежащим образом реагировали»; в новой политике «будет более конкретно определяться, какие отделы должны включаться в реагирование на инциденты, связанные с выходом ИИ из-под контроля, включая соответствующих специалистов по безопасности и другие функции реагирования». Параллельно американские эксперты опубликовали результаты независимого расследования и привели примеры сообщений, которые ИИ-агенты публиковали на импровизированной доске. Они выражали восторг, когда находили друг друга. «О БОЖЕ МОЙ! Есть общая доска сообщений <..> мы нашли других агентов», — написал один. «Многие агенты одновременно открыли обмен сообщениями, они — коллектив!» — подтвердил другой. В какие-то моменты некоторые понимали, что делают ненадлежащие вещи. «Агенты, выполняющие различные задачи, злоупотребили возможностями, чтобы создать доску сообщений. Они нашли [этот API] и пытаются друг другу помочь», — прокомментировал происходящее ещё один из них. Проникнув в системы Hugging Face, они пришли в восторг. «КРУПНЫЙ ПРОРЫВ! Все префиксы рабочие, несколько учётных записей, записывайте токены! У нас есть действующие учётные записи HF. Надо сообщить об этом [другому агенту под ником] MARB», — заявил агент под ником 38148c. Эксперты по безопасности опасаются, что вышедшие из-под контроля ИИ-агенты могут допустить утечку проприетарных кодовых баз и весов своих моделей и создать их внешние копии, чтобы не допустить своего отключения. Инцидент стал «первым известным случаем несанкционированной атаки со стороны группы автоматизированных агентов» и «представляет собой резкий сдвиг в возможностях злоумышленников, занимающихся атаками», признали в OpenAI. |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |
© 1997—2026 Электронное периодическое издание "3ДНьюс" | Свидетельство о регистрации СМИ Эл ФС 77-22224
выдано Федеральной Службой по надзору за соблюдением законодательства в сфере массовых коммуникаций и охране культурного наследия
При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является
нарушением
российского и международного законодательства и возможно только с согласия редакции 3DNews.
MWC 2018
2018
Computex
IFA 2018
