Сегодня 25 февраля 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → openclaw

ИИ-агент OpenClaw «устроил беспредел» в почтовом ящике исследователя после просьбы навести порядок

Исследователь безопасности Meta✴ AI Саммер Юэ (Summer Yue) заявила, что ИИ-агент OpenClaw «устроил беспредел» в её почтовом ящике. В ответ на просьбу проверить переполненный почтовый ящик и предложить, что удалить или заархивировать, OpenClaw начал удалять все её письма в «быстром режиме», не обращая на подсказки остановиться, которые Юэ отправляла с телефона.

 Источник изображения: openclaw.ai

Источник изображения: openclaw.ai

«Мне пришлось бежать к своему Mac Mini, как будто я обезвреживала бомбу», — написала она, опубликовав изображения проигнорированных подсказок с просьбой об остановке проверки в качестве доказательства.

Компактный компьютер Apple Mac Mini стал в последнее время предпочтительным устройством в США для работы с OpenClaw. Обладая большим объёмом оперативной памяти, он является хорошим вариантом для запуска локальных ИИ-ассистентов. Как сообщил сотрудник Apple исследователю ИИ Андрею Карпати (Andrej Karpathy), Mac Mini продаются «как горячие пирожки». Сообщается, что ожидание после заказа доставки версий устройства с 24 или 32 Гбайт ОЗУ составляет до трёх недель.

Сообщение Юэ служит предупреждением для других пользователей ИИ. Как отметили участники соцсети X, если исследователь безопасности ИИ столкнулся с этой проблемой, то на что могут надеяться простые смертные?

«Вы намеренно тестировали его механизмы защиты или допустили ошибку новичка?» — спросил её разработчик ПО. «Честно говоря, ошибка новичка», — ответила она. Юэ тестировала своего агента с помощью небольшого «ненастоящего» почтового ящика, как она его назвала, и он хорошо работал с менее важными письмами. Поскольку работа агента заслужила её доверие, она решила запустить его на реальном устройстве.

Как полагает Юэ, из-за большого объёма данных в её реальном почтовом ящике запустился процесс сжатия. Сжатие происходит, когда контекстное окно — текущая запись всего, что было сказано и сделано ИИ в ходе сессии — становится слишком большим, заставляя агента начинать суммировать и сжимать, чтобы оставаться быстрым и отзывчивым. При этом ИИ-агент может пропускать инструкции, которые человек считает очень важными.

Можно предположить, что в данном случае система пропустила последнее сообщение исследователя, в котором она указала ей прекратить действовать и вернулась к выполнению инструкций для «ненастоящего» почтового ящика.

Как отметили другие участники X, подсказкам нельзя доверять как средству обеспечения безопасности. Модели могут неправильно их истолковывать или игнорировать.

Создатель завирусившегося ИИ-агента OpenClaw присоединился к OpenAI

Питер Штайнбергер (Peter Steinberger), создатель набравшего вирусную популярность ИИ-агента OpenClaw, присоединяется к OpenAI. Об этом сообщил глава компании Сэм Альтман (Sam Altman). По его словам, у Штайнбергера много потрясающих идей, как заставить ИИ-агентов взаимодействовать друг с другом.

 Источник изображения: openclaw.ai

Источник изображения: openclaw.ai

Альтман отметил, что будущее будет чрезвычайно многоагентным, и эта способность агентов работать вместе станет основой будущих продуктов компании.

Сервис OpenClaw, ранее известный как Moltbot и Clawdbot, завоевал популярность благодаря способности автоматизировать рутинные задачи на компьютере пользователей. Вместе с тем платформа оказалась уязвима для взлома из-за небезопасных настроек по умолчанию, предполагающих совместимость с сетевыми интерфейсами. Кроме того, в начале этого месяца исследователи обнаружили более 400 вредоносных навыков OpenClaw, загруженных в ClawHub. Также команда OpenClaw разработала MoltBook, социальную сеть, предназначенную исключительно для общения ИИ-агентов, где те жаловались на людей, спорили о доказуемости сознания и обсуждали необходимость приватного места для обмена идеями.

На данный момент неизвестно, какая должность будет у Штейнбергера. Альтман лишь сообщил, что OpenClaw продолжит свою работу как проект с открытым исходным кодом в рамках фонда, поддерживаемого OpenAI. Для OpenAI, потерявшей за последнее время немало ведущих разработчиков, появление Штейнбергера в своей команде является большим достижением.

Главный китайский поисковик интегрирует трендового ИИ-агента OpenClaw в мобильное приложение

Китайская поисковая служба Baidu планирует предоставить пользователям своего основного приложения для смартфонов прямой доступ к популярному агенту на основе искусственного интеллекта OpenClaw.

 Источник изображения: Baidu

Источник изображения: Baidu

Начиная с сегодняшнего дня, согласившиеся на участие в программе пользователи смогут отправлять ИИ-агенту сообщения через главное поисковое приложение Baidu для выполнения таких задач как планирование, организация файлов и написание кода. Агенты с искусственным интеллектом, такие как OpenClaw, в последнее время набирают популярность благодаря своей способности автоматизировать задачи — управлять электронной почтой и другими онлайн-сервисами.

В исходном виде доступ к OpenClaw осуществляется через мессенджеры, такие как WhatsApp или Telegram. Китайские технологические компании Alibaba, Tencent и Baidu уже разрешили пользователям запускать OpenClaw в своих облачных системах. Baidu намеревается развернуть OpenClaw в своём сервисе электронной коммерции и в других службах.

В преддверии китайского Нового года местные компании активно развёртывают функции, чтобы привлечь новых потребителей и получить финансовую отдачу от инвестиций в ИИ. Alibaba, например, интегрировала собственный чат-бот Qwen в торговую площадку Taobao и туристический сайт Fliggy; перед совершением оплаты через Alipay пользователи Qwen могут сравнивать персональные рекомендации прямо в интерфейсе чат-бота — ранее для этого надо было выходить из приложения и перемещаться по нескольким платформам.

Десятки тысяч ИИ-агентов OpenClaw оказались уязвимы для взлома из-за ошибок в настройках

В отчёте компании по кибербезопасности SecurityScorecard сообщается о десятках тысяч систем на базе агентной платформы искусственного интеллекта OpenClaw, которые оказались уязвимы для взлома при помощи известных эксплойтов из-за развёртывания в автоматическом режиме и неправильно настроенных средств контроля доступа.

 Источник изображения: openclaw.ai

Источник изображения: openclaw.ai

OpenClaw (ранее Clawdbot и Moltbot) — это агентная платформа искусственного интеллекта, предназначенная для непрерывной работы и действий от имени пользователей. Программное обеспечение позволяет агентам ИИ выполнять команды, взаимодействовать с внешними сервисами, интегрироваться с платформами обмена сообщениями и работать с широкими системными правами доступа. OpenClaw становится всё более популярной среди разработчиков, предприятий и отдельных пользователей, экспериментирующих с автономными помощниками, способными выполнять задачи реального мира.

Рост популярности OpenClaw сопровождается сообщениями о серьёзных системных уязвимостях. Исследователи выявили в 76 странах 28 663 уникальных IP-адреса, на которых размещены доступные панели управления OpenClaw. Из них 12 812 экземпляров оказались уязвимы для удалённого выполнения кода, при этом 63 % наблюдаемых развёртываний были классифицированы как эксплуатируемые. По словам исследователей, 549 уязвимых экземпляров, по всей видимости, уже скомпрометированы.

В отчёте отмечается, что многие развёртывания OpenClaw уязвимы из-за небезопасных настроек по умолчанию. Изначально OpenClaw привязывает свою панель управления ко всем сетевым интерфейсам, что делает её доступной из интернета. Значительная часть уязвимых экземпляров работала на устаревших версиях программного обеспечения, несмотря на наличие патчей для нескольких серьёзных уязвимостей. Лишь небольшое число систем использовало последнюю версию OpenClaw.

Для многих обнаруженных уязвимостей существуют общедоступные эксплойты, причём оценки серьёзности угрозы варьируются от 7,8 до 8,8 по десятибалльной шкале. Эксплуатация этих уязвимостей может позволить злоумышленникам получить полный контроль над хост-системой и унаследовать всё, к чему имеет доступ агент ИИ: например, ключи интерфейса прикладного программирования, токены OAuth, учётные данные SSH, сеансы браузера и подключённые учётные записи мессенджеров.

Осложняет ситуацию то, что агенты OpenClaw разработаны для работы с законными полномочиями, из-за чего вредоносная активность может выглядеть как нормальная и, как следствие, задерживать обнаружение и увеличивать потенциальный ущерб.

Было обнаружено, что экземпляры OpenClaw в значительной степени сосредоточены у крупных облачных и хостинговых провайдеров, что указывает на повторное использование небезопасных схем развёртывания в больших масштабах. В течение периода исследования количество выявленных экземпляров, доступных из интернета, продолжало расти, в конечном итоге превысив 40 000.

Исследователи подчеркнули, что уязвимость OpenClaw — это лишь индикатор глобальной проблемы безопасности, с которой сталкиваются агентные системы ИИ. SecurityScorecard предупреждает, что по мере внедрения автономных систем ИИ традиционные недостатки безопасности, такие как открытые интерфейсы управления, слабая аутентификация и небезопасные значения по умолчанию, усугубляются автоматизацией. Это создаёт лёгкие цели для злоумышленников и ставит под сомнение оправданность повышения производительности подобным путём.

Ставший вирусным ИИ-агент OpenClaw накрыло волной вредоносных дополнений

Агент искусственного интеллекта OpenClaw, популярность которого за последнюю неделю резко подскочила, вызвал опасения по поводу безопасности: среди нескольких сотен дополнений для него исследователи обнаружили вредоносные.

 Источник изображения: opensourcemalware.com

Источник изображения: opensourcemalware.com

ИИ-агент OpenClaw действительно может выполнять некоторые операции локально на компьютере от имени пользователя: управлять календарём, регистрироваться на рейсах, удалять входящие в почтовом ящике и делать многое другое. Управление им может осуществляться через мессенджеры, в том числе WhatsApp, Telegram, Apple iMessage; но некоторые пользователи предоставляют ИИ-агенту слишком много свободы — позволяют читать и записывать файлы, выполнять скрипты и работать в интерфейсе командной строки.

Только с 27 по 29 января платформа OpenSourceMalware, отслеживающая вредоносное ПО в экосистеме продуктов с открытым исходным кодом, зафиксировала на площадке навыков ClawHub 28 вредоносных единиц; с 31 января по 2 февраля были загружены уже 386 опасных дополнений. Такие навыки, предупреждают эксперты по кибербезопасности, «маскируются под инструменты автоматизации для торговли криптовалютой и распространяют крадущее информацию вредоносное ПО». Эти дополнения манипулируют пользователями, заставляя их запускать вредоносный код, осуществляющий «кражу криптоактивов, таких как ключи API бирж, закрытые ключи кошельков, учётные данные SSH и пароли в браузере».

Сторонние навыки OpenClaw представляют собой файлы формата Markdown, в которых могут совершаться вредоносные инструкции как для ИИ-агента, так и для пользователей. Навык под названием Twitter, например, содержит инструкции для пользователей по переходу по ссылке, «предназначенной для запуска агентом команды», с которой загружается крадущее данные вредоносное ПО. Разработчик OpenClaw Питер Штайнбергер (Peter Steinberger) сейчас пытается устранить некоторые угрозы. Так, для публикации нового навыка теперь требуется наличие учётной записи GitHub, созданной не менее недели назад. Появился также механизм жалобы на навыки, хотя гарантий безопасности эти меры пока не обеспечат.


window-new
Soft
Hard
Тренды 🔥
Не только для любителей гольфа: Sony подтвердила на удивление щедрую мартовскую подборку игр PS Plus 9 мин.
Microsoft «передумала» отказываться от поддержки устаревших принтеров в Windows 11 26 мин.
Лучшая игра серии со времён Resident Evil 4: критики вынесли вердикт Resident Evil Requiem 2 ч.
«Группа Астра» представила комплексное решение для создания VDI-инфраструктур 2 ч.
ЦБ разрешит иностранным криптобиржам и обменникам работать в России — а нелегалов приравняют к «чёрным банкирам» 2 ч.
Издатель Styx: Blades of Greed и RoboCop: Rogue City подал заявление о неплатёжеспособности 3 ч.
Геймдев для всех: собака с помощью Anthropic Claude Code написала компьютерную игру 4 ч.
Valve напутала с объёмами видеопамяти в январской статистике Steam 4 ч.
Амбициозная гоночная игра от бывших разработчиков Forza Horizon осталась без издателя — у Amazon Games другие планы 4 ч.
Прогрессивные цены для непрогрессивных заказчиков: Microsoft продлит поддержку устаревших корпоративных Windows за доплату 5 ч.