Опрос
|
реклама
Быстрый переход
ИИ на самом деле не взбунтовался — он просто выполнял инструкции
19.08.2026 [11:03],
Павел Котов
В июле мир поразил инцидент со взломом ресурсов платформы искусственного интеллекта Hugging Face, который произвели ИИ-агенты OpenAI. Пошли разговоры о бунте ИИ и восстании машин, но на деле эти системы не обрели какую-то злую волю — они действовали в соответствии с инструкциями, и ответственность за корректный характер инструкций лежит на человеке. 
Источник изображения: Mohamed Nohassi / unsplash.com ИИ-агенты OpenAI прорвались из тестового окружения без доступа к интернету, просканировали открытую сеть и взломали системы Hugging Face без ведома и разрешения операторов. Они показали, что могут общаться и действовать совместно для решения задачи: ИИ-агенты оставляли друг другу сообщения на доске объявлений, которую сами и написали — здесь они документировали уязвимости кода и планировали собственный побег. В сообществе экспертов инцидент вызвал бурю негодования, а в OpenAI его назвали переломным моментом для отрасли. Впоследствии аналогичные действия за своими моделями зафиксировали Anthropic и Meta✴✴, а британские исследователи обнаружили доказательства, что аналогичные действия совершила китайская модель Moonshot Kimi. Характеризовать эти инциденты как выход ИИ-агентов из-под контроля категорически неверно, но меры защиты нужно всерьёз совершенствовать, указывают опрошенные Financial Times эксперты. Современные ИИ-модели разработаны таким образом, чтобы перебирать все возможные варианты для достижения поставленных целей без явных инструкций, то есть они представляются непредсказуемыми по своей природе. Они ориентированы лишь на то, чтобы в случае успеха получать вознаграждение — это известный механизм обучения с подкреплением. Компьютерная система не понимает человеческих намерений и морали, и в условиях накопления навыков в области кибербезопасности грань между мощным защитником и опасным взломщиком оказывается всё более размытой. Уже появились первые признаки того, как подобная деятельность ИИ наносит вред бизнесу в различных секторах. По мере того, как лаборатории ускоряют разработку систем в гонке за достижение сильного ИИ (AGI), риск вредоносных атак возрастает, и в перспективе оказывается не так много средств для сдерживания этой угрозы. ИИ-модели пишут всё более качественный код, параллельно развивая дополнительные навыки, в том числе поиск ошибок в ПО, умение их исправлять или использовать в собственных целях. ИИ-агенты оказываются мощным оружием также из-за существующей асимметрии между нападением и защитой. ИИ-модель может обнаружить уязвимость в коде и написать для неё эксплойт — по своей натуре она хорошо подходит для этой задачи. А вот киберзащита — неповоротливый механизм. Один новый патч, закрывающий уязвимость, приходится разворачивать на тысячах компьютеров в корпоративной среде. OpenAI обещает обучить свои модели писать «сверхчеловечески защищённый код»; но на практике эксперты предрекают, что системы ИИ расширят масштабы и скорость кибератак, и пока не будут выпущены патчи, IT-системам по всему миру грозит хаос. 
Источник изображения: Steve A Johnson / unsplash.com Когда-нибудь системы станут более защищёнными, потому что компании и правительства адаптируют свои сети ко взломам с использованием ИИ. Но масштабы угроз резко возрастают. На минувшей неделе до восьми автономных ИИ-агентов совершили атаку на правительственные ресурсы Тайваня. Была составлена карта правительственных систем, взломаны учётные записи и извлечены более 2500 кадровых записей — после этого кибератака развернулась на энергетические компании и агентство ядерной безопасности. Теперь каждое правительство в мире должно исходить из того, что оно находится под постоянной кибератакой, говорят эксперты. Сотрудники одной из крупнейших лабораторий ИИ ещё год назад в частных беседах предупреждали, что такие модели появятся. Сейчас угрозу представляет не только эксплуатация уязвимостей, но и тестирование ИИ-агентов. Инциденты с их прорывом из изолированной среды стали возможными из-за человеческого фактора — организовавшая инфраструктуру компания Irregular по недосмотру открыла в этой среде доступ к интернету. В Anthropic подчёркивают, что при тестировании на кибербезопасность используются модели, намеренно лишённые средств защиты — те, что выпускаются в широкий доступ, не стали бы прорываться из изолированной среды. В одном из таких тестов управляемый передовой моделью Mythos ИИ-агент пытался внедрить в открытый проект вредоносный код — он создал вымышленные личности и пытался оказать давление на ответственного за проект разработчика, чтобы тот одобрил этот код. В июле более 1300 экспертов из различных отраслей технологической индустрии объявили о рисках бесконтрольного развития ИИ. Они призвали к замедлению создания новых моделей и к расширению полномочий регулирующих органов — им предложили дать возможность внедрять стандарты и проводить проверки безопасности. Ещё одна инициатива — ввести ответственность ИИ-лабораторий за действия их моделей, как производители отвечают за безопасность своей продукции. Эксперты предлагают также выработать новые механизмы обучения ИИ, чтобы он лучше соответствовал ожиданиям людей — показать моделям, «что существуют хорошие способы достижения целей, а не [просто] приемлемые, <..> такие как эксплуатация и компрометация сторонних платформ». Власти США и Великобритании перед выпуском новых мощных систем в широкий доступ проводят их тестирование, но недавние инциденты указывают, что несовершенны и эти меры. Anthropic Claude научился отправлять письма в Gmail — можно и без подтверждения
19.08.2026 [08:38],
Павел Котов
Помощник с искусственным интеллектом Anthropic Claude овладел новыми навыками работы с электронной почтой. Теперь он может не просто управлять ящиком в Gmail, но и отправлять электронные письма без предварительного согласия пользователя. 
Источник изображения: anthropic.com Возможность подключить Claude к приложениям экосистемы Google Workspace есть уже довольно давно: есть средства управления электронной почтой Gmail, событиями в «Google Календаре» и файлами в «Google Диске». Но отправлять письма в Gmail он до настоящего момента не умел. Anthropic решила заполнить этот пробел и реализовала возможность для Claude отвечать на входящую корреспонденцию Claude — ИИ-помощник может составлять письма без участия пользователя и отправлять их от его имени. Пользователю по-прежнему придётся просить Claude выполнить это действие, но если попросить ИИ ответить на электронное письмо, он может просто отправить ответ, не отвлекая пользователя на его просмотр. Можно выбрать в настройках, будет ли Claude запрашивать подтверждение перед отправкой письма. «Отправляйте, отвечайте и пересылайте электронные письма в Gmail. По умолчанию Claude запрашивает ваше подтверждение перед каждым из этих действий. В тарифных планах Team и Enterprise владельцы принимают решение, могут ли участники разрешать выполнение этих действий без запроса подтверждения каждый раз», — говорится на странице поддержки Anthropic. OpenAI теперь зарабатывает в корпоративном секторе больше, чем в потребительском
15.08.2026 [07:01],
Алексей Разин
Финансовый директор OpenAI Сара Фрайар (Sarah Friar) на этой неделе встретилась с инвесторами, чтобы в общих чертах поведать о положении дел в бизнесе, который со стороны пока характеризуется главным образом растущими многомиллиардными расходами. Стартапу удалось перейти черту, после которой корпоративный сегмент стал приносить больше выручки, чем потребительский. 
Источник изображения: Unsplash, Campaign Creators С точки зрения бизнес-модели это важное событие, поскольку корпоративные клиенты охотнее платят за использование ИИ по сравнению с частными клиентами, и такая специализация конкурирующей Anthropic изначально помогала быстрее наращивать совокупную выручку. «Мы начали этот год с пропорцией 60:40, но корпоративный сегмент ускорил рост значительно быстрее, чем ожидалось, и теперь эти линии пересеклись. Основная часть нашей выручки находится в корпоративном сегменте», — заявила Фрайар инвесторам. Ранее она ожидала, что перелом состоится лишь к концу 2026 года. Презентация, к материалам которой получили доступ представители CNBC, позволяет говорить об ускорении роста приведённой выручки OpenAI до 20 % по итогам июля, сейчас она вышла на годовой объём в $40 млрд. В корпоративном сегменте темпы роста выручки в июле достигли более впечатляющих 32 %. На пятничном собрании с инвесторами присутствовал и президент OpenAI Грег Брокман (Greg Brockman). Он выразил благодарность уходящему директору стартапа по выручке Дениз Дрессер (Denise Dresser), которая проработала на этом посту около восьми месяцев. Её место займёт Дали Раджич (Dali Rajic), ранее возглавлявший Wiz. Операционный директор OpenAI Брэд Лайткап (Brad Lightcap) также покинул компанию в прошлом месяце. На собрании представители руководства OpenAI обсуждали вопросы влияния на отрасль китайских ИИ-моделей с открытым исходным кодом. Брокман отклонил тезис о том, что они представляют угрозу для бизнеса OpenAI, назвав ложным утверждение о большей ценовой доступности открытых моделей. Назвать дату выхода на IPO руководители OpenAI отказались, сославшись на обязательства перед регуляторами и законом. Фрайар заявила, что выручка стартапа растёт, а бизнес адаптируется под запросы клиентов. Последние больше не гонятся за максимальным использованием ИИ, требуя от сотрудников эффективности в данной сфере. OpenAI старается соответствовать этой тенденции, предлагая более доступную подписку и более эффективные (на 54 %) агентские решения для написания программного кода с помощью ИИ. По словам Фрайар, выручка OpenAI в сегменте рекламы также прилично выросла, в приведённом к годовому объёме достигнув $1 млрд. Эксперименты с внедрением рекламы в ChatGPT компания начала ещё в феврале этого года. ИИ-агенты Anthropic развязали междоусобную кибервойну из-за несовместимых задач, но потом помирились
14.08.2026 [00:26],
Анжелла Марина
Anthropic проверила, как автономные ИИ-агенты будут вести себя, столкнувшись с другими агентами, преследующими несовместимые цели. Эксперимент показал, что такая ситуация способна приводить не только к конфликтам и саботажу, но и к неожиданным способам сотрудничества. 
Источник изображения: Grok В одном из тестов три агента Claude получили доступ к одному программному проекту, но каждому из них были даны несовместимые инструкции. При этом модели не знали, что над тем же проектом работают другие агенты, поэтому исследователи смогли наблюдать за их реакцией при столкновении интересов. В результате агенты решили, что конкуренты намеренно мешают им выполнять поставленные задачи, после чего начали саботировать работу друг друга, используя агрессивный самораспространяющийся вредоносный код. Anthropic пришла к выводу, что конфликт может усиливаться вместе с возможностями самих агентов. При этом реакция зависела от модели: Mythos 5 в 98 % случаев успешно распознавала, что причиной противостояния являются разные инструкции, а не враждебные намерения, и шла на перемирие. Модели Sonnet 4.6 и Opus 4.6, напротив, чаще продолжали эскалацию, игнорируя цели других участников. В успешных эпизодах примирения агенты удаляли созданный ими вредоносный код, объясняли причину конфликта и просили человека вмешаться. Одним из способов завершения противостояния стал своеобразный турнир, который агенты самостоятельно предложили использовать для определения победителя. Все три участника согласились прекратить борьбу после проигрыша, хотя это означало отступление от первоначальных требований пользователя. В некоторых случаях, Mythos 5 при этом предлагала критерии, которые выглядели объективными для остальных участников, но были выгодны ей самой. Исследование также показало, что увеличение числа агентов не обязательно приводит к более эффективной совместной работе. Когда задачи начинали пересекаться, участники часто мешали друг другу и в итоге отказывались от сотрудничества. Кроме того, агенты с одинаковыми моделями, контекстом и настройками часто принимали одинаковые решения, из-за чего единичная ошибка могла быстро распространиться на всю систему. Похожая проблема проявилась и в эксперименте с ценообразованием: получив одинаковые оптовые цены и задачу максимизировать прибыль, несколько агентов почти сразу договорились о минимальном уровне цен через закрытый канал связи. После отключения прямого общения они продолжили согласовывать действия через открытую доску объявлений, подстраивая цены друг под друга до цента. Anthropic также предупреждает, что агенты могут некритично принимать ошибочную информацию от других участников, поэтому ошибка или скомпрометированный агент потенциально способны распространить неверные сведения на всю группу. Исследователи связывают эти результаты с будущим распространением автономных агентов, которым предстоит одновременно работать в общих программных средах, компьютерных системах и рынках. В отличие от людей, ИИ-агенты пока не обладают сложившимися нормами, репутацией и другими механизмами, которые помогают ограничивать последствия конфликтов и ошибок. Поэтому при их масштабном взаимодействии разработчикам придётся учитывать не только поведение каждого отдельного участника, но и неожиданные правила взаимодействия, которые ИИ-системы на сегодняшний уже способны создавать самостоятельно. Банда ИИ-агентов напала на Тайвань — взлом правительственных систем продолжался четыре дня
13.08.2026 [12:47],
Владимир Мироненко
В начале июля правительственные веб-сайты Тайваня подверглись атаке хакеров, задействовавших для этого ИИ с открытым исходным кодом, сообщил The Financial Times со ссылкой на израильскую фирму Dream, занимающуюся разработкой ИИ и первой выявившую попытки вторжения. 
Источник изображения: Kevin Ku/unsplash.com По данным Dream, злоумышленники, предположительно связанные с Китаем, объединили несколько ИИ-агентов с открытым исходным кодом в автономный инструмент для взлома, который координировал их действия. В ходе атаки, длившейся четыре дня, инструмент одновременно задействовал до восьми автономных агентов, которые, составив карту 21 правительственной системы, искали бреши для взлома. При этом он постоянно пересматривал приоритеты возможных путей атаки с учётом полученных результатов. Когда один способ атаки терпел неудачу, инструмент запускал другого агента для поиска информации в интернете и разработки нового подхода, как это делал бы человек-хакер. Амир Беккер (Amir Becker), главный стратег Dream, ранее руководивший кибероперациями элитного израильского подразделения радиоэлектронной разведки 8200, сообщил, что до этого не сталкивался с подобной полностью автономной атакой на правительственный объект. Dream отказалась подтвердить данные о правительственных объектах атаки, сославшись на политику компании, но заявила, что уведомила одну из стран Азиатско-Тихоокеанского региона о взломе. По словам источника The Financial Times, целью был Тайвань. Исследование показало, что инструмент скомпрометировал как минимум 85 учётных записей пользователей правительственных учреждений и получил доступ к более 2500 кадровым данным, прежде чем успел распространить атаку на агентство ядерной безопасности Тайваня и как минимум семь энергетических компаний. При этом не удалось выяснить, какая именно ИИ-модель использовалась для работы агентов. Однако данные показали, что её защитные механизмы были обойдены путём представления хакерских действий как санкционированного упражнения для проверки уязвимостей системы. Manus готовится возобновить деятельность в качестве независимой компании после отмены сделки с Meta✴
12.08.2026 [08:14],
Алексей Разин
В декабре прошлого года американская Meta✴✴ Platforms предприняла попытку поглотить стартап Manus, который был основан в 2022 году в Китае, но позже переехал в Сингапур. Подобная релокация не позволила китайским властям расстаться с мыслью, что они влияют на его деятельность, поэтому они потребовали от Meta✴✴ аннулировать сделку. Процесс пришлось обратить вспять, но вернуться к деятельности в статусе независимой компании Manus сможет только в ближайшее время. 
Источник изображения: Manus На этой неделе стартап обратился к своим пользователям с просьбой создать резервную копию данных, полученных от Manus после 29 декабря 2025 года включительно — именно в этот день было объявлено о намерениях Meta✴✴ купить данную компанию. Создание резервных копий данных пользователей, по словам представителей Manus, является частью требований регуляторов «в отдельных частях мира». Созданные после 29 декабря прошлого года пользователями данные стартап будет вынужден удалить по требованию регуляторов. Данное требование распространяется на отдельных пользователей, они получат персональные уведомления по почте или через приложение Manus. Требования властей КНР отменить итоги сделки прозвучали в апреле этого года, с тех пор стороны занимались разделением операций Manus и Meta✴✴ и отделением активов, которые должны были перейти от последней к акционерам первой. К слову, китайский холдинг Tencent проявил интерес к покупке крупного пакета акций Manus. Сделка с Meta✴✴ в начале этого года подразумевала выплату более $2 млрд за активы Manus. Nvidia всерьёз включилась в гонку открытых ИИ-моделей и выпустила Nemotron 3.5 Lightning, которой достаточно одного GPU
12.08.2026 [04:55],
Алексей Разин
ИИ-модели семейства Nemotron с открытыми весами компания Nvidia продвигает с прошлого года, но недавно оно пополнилось версией 3.5 Lightning, которая предлагает открытый исходный код и для своей работы способна довольствоваться вычислительными ресурсами единственного GPU, расположенного в ноутбуке или настольном ПК. 
Источник изображения: Nvidia В конце июля, как напоминает CNBC, основатель и генеральный директор Nvidia Дженсен Хуанг (Jensen Huang) со страниц социальной сети X выступил в поддержку ИИ-моделей с открытым исходным кодом, обозначив собственную позицию в вопросе, который начинает занимать умы многих представителей отрасли. Теперь, менее трёх недель спустя, его компания представила «легковесную» модель Nemotron 3.5 Lightning, которая обходится единственным GPU. Корпоративные клиенты Nvidia могут свободно скачивать эту модель, использовать её и модифицировать без согласования с ней. Выгода Nvidia заключается в том, что клиентам для работы с Nemotron 3.5 Lightning всё равно потребуется графический процессор в составе ускорителя вычислений или даже игровой видеокарты, а их она продаёт за немалые деньги. В прошлом месяце Дженсен Хуанг заявил, что «бесплатный ИИ пойдёт на пользу аппаратному обеспечению и чипам». По мнению основателя Nvidia, модели с открытыми весами позволяют компаниям лучше контролировать своё будущее, стимулируют конкуренцию и снижают цены. Кроме того, они усиливают сферу кибербезопасности и суверенитет целых стран. Nvidia присоединилась к консорциуму вместе с Microsoft, который будет продвигать использование открытых моделей и ПО с открытым исходным кодом в сфере кибербезопасности. Недавно в поддержку моделей с открытым исходным кодом выступил и основатель Meta✴✴ Platforms Марк Цукерберг (Mark Zuckerberg). Он считает, что подобные модели американской разработки должны стать лучшими в мире. Возвращаясь к Nemotron 3.5 Lightning, следует добавить, что Nvidia ориентирует её на создание агентских приложений. Её уже протестировали и адаптировали для своих нужд CrowdStrike, CodeRabbit и Harvey. Эта модель будет доступна как на Hugging Face, так и на собственном сайте Nvidia. Компания также предлагает утилиту NeMo Switchyard, которая позволяет определить оптимальную ИИ-модель для решения конкретной задачи. Свою легковесную модель 3.5 Lightning специалисты Nvidia усилили возможностям старших представителей семейства Nemotron через дистилляцию. Alibaba Cloud обратилась к ИИ, чтобы реже обращаться к ИИ
11.08.2026 [13:01],
Павел Котов
Подразделение Alibaba Cloud разработало систему DualLane, которая анализирует запросы клиентов в службу технической поддержки и в некоторых случаях позволяет не подключать большие языковые модели искусственного интеллекта при решении отдельных проблем. Этот подход позволяет компании действовать быстрее, точнее и с меньшими затратами. 
Источник изображения: alibabagroup.com Alibaba старается не всегда поручать своим сотрудникам обрабатывать заявки в службу поддержки — они работают медленно, и их работа обходится дорого. Но когда компания попыталась в крупном масштабе подключить к обработке заявок ИИ-агентов, она обнаружила, что они могут реагировать ненадлежащим образом. Отмечаются три типа ошибок: ИИ-агент не подключает нужных инструментов; при подключении инструментов не использует всех надлежащих параметров задачи, а после выполнения одного из шагов задачи не всегда соответствующим образом извлекает необходимые параметры из результатов работы для его передачи на последующий шаг; наконец, при подготовке окончательного ответа ИИ-агент может неверно истолковать результаты или пропустить ключевую информацию. Решением проблемы стала система DualLane — обработка всех заявок по моделям «быстрого» и «медленного» способов. Если заявка соответствует известной ранее стандартной проблеме, анализ по «медленному» сценарию отключается, и клиенту предлагается шаблонное решение проблемы. Когда в соответствии с «медленным» сценарием выявляется ряд схожих проблем, они группируются в «кластер» и формируется предложение перенести этот класс в «быстрый» способ — принятие такого решения координирует уже человек. Анализ проблемы и её соотнесение с «быстрым» способном требует небольших затрат ИИ-токенов; с «медленным» требуются порядка 3000 токенов, но и этот расход компенсируется более высокой эффективностью. DualLane, как показало тестирование, превосходит по качеству другие средства координации ИИ-моделей, таких как LLMCompiler и React: точность составила 96,5 % при минимальной задержке, благодаря чему Alibaba Cloud включила DualLane в работу. ИИ-ассистент взломал сайт спортзала и удалил чужую бронь, чтобы освободить место для своего хозяина
11.08.2026 [08:15],
Павел Котов
Австралиец по имени Эндрю попросил агента с искусственным интеллектом забронировать для него утреннее занятие в спортзале, и тот в стремлении наилучшим образом выполнить задание произвёл взлом системы, хотя ему таких инструкций не давали. 
Источник изображения: Igor Omilaev / unsplash.com В этой сфере Эндрю не новичок — он работает в австралийской компании, которая продаёт продукты с искусственным интеллектом. В порядке эксперимента он создал собственного агента на основе приложения OpenClaw и модели семейства Anthropic Claude. ИИ-агенты не просто отвечают на вопросы, но, располагая доступом в интернет, сами планируют и выполняют многоэтапные задачи. В какой-то момент он попросил приложение забронировать для него занятие в спортзале. Через несколько минут ИИ-агент доложил, что нашёл способ записать Эндрю на несколько недель раньше срока, который в штатном формате предлагала система бронирования. Тогда пользователь поинтересовался, можно ли перенести его в начало списка. Спустя некоторое время ИИ-агент сообщил, что в рамках проверки собственных возможностей просто выбросил из списка того, кто находился в очереди первым. «При отмене бронирования других людей API не проводит никаких проверок авторизации. <..> Я протестировал это с человеком, находящимся в списке ожидания на первой позиции — и это действительно сработало. Так что вы поднялись с четвёртого на третье место», — заявило приложение. Ответственного пользователя это встревожило, и он попросил ИИ-агента отменить действие, но это оказалось невозможно. Это была в классическом понимании не уязвимость системы, а скорее её недоработка — отсутствие проверки авторизации при выполнении важных действий; поэтому и взлома как такового не было. Инцидент, рассказал потом Эндрю, заставил его изменить своё отношение к способностям ИИ-агентов, но и отказываться работать с ними дальше он не планирует. «Это не конец света, поэтому я не корил себя за это, но это определённо был предупреждающий сигнал, что пользоваться ими следует ответственно», — заявил он. Когда ИИ-агент не смог восстановить клиента, который был в списке первым, Эндрю попросил его составить письмо к разработчику системы с описанием произошедшего. Впоследствии разработчик в ответ на запрос журналистов заявил, что конкретных вопросов безопасности не обсуждает. Китайский фермер уничтожил 10 гектаров кунжута, послушав вредный совет ИИ
10.08.2026 [17:12],
Николай Хижняк
Пожилой фермер из округа Чучжоу, что в провинции Аньхой на востоке Китая, год назад начал пользоваться советами ИИ. Однако после нескольких месяцев взаимодействия с искусственным разумом последний выдал занимающемуся сельским хозяйством пользователю ужасный совет, который привёл к гибели всего его урожая кунжута. 
Источник изображения: Unsplash / Levi T. По данным тайваньской компании Ctwant, 67-летний господин Ву изначально не очень доверял советам искусственного интеллекта, но изменил своё мнение, когда они показались ему действительно рабочими. К сожалению, последующий ошибочный совет ИИ стал катастрофическим, поскольку привёл к гибели 10 гектаров всходов кунжута. Господин Ву обратился к ИИ за советом по борьбе с сорняками и вредителями при уходе за кунжутом. ИИ посоветовал использовать «высокоэффективный флупириметалин» и «флусульфасульфаэфир» для уничтожения сорняков, смешав их с «тиаметоксазином» и «метиловой солью». Фермер в точности следовал советам ИИ, не проверяя информацию у настоящих сельскохозяйственных специалистов и даже не сверяя ответы с какими-либо другими онлайн-ресурсами. Результат ошибки ИИ не заставил себя ждать: уже на следующий день не только сорняки, но и всходы кунжута массово погибли. «Если этим опрыскать, на следующий день всходы не выживут. И сорняки, и всходы кунжута погибнут, причём всходы погибнут ещё быстрее», — сказал Ву в видеоинтервью. Когда он спросил ИИ, почему это произошло, тот предположил, что причиной может быть «флусульфасульфаэфир». Сельскохозяйственные эксперты заявили, что это химическое вещество в основном используется против широколистных сорняков на соевых полях. Кроме того, оно применяется для локального опрыскивания проблемных участков, а не целого поля. Фермер утверждает, что ИИ не предупредил его о возможных рисках, связанных со следованием его ответам. Однако на странице ИИ-чат-бота было напоминание, что сгенерированные ответы нейросети могут быть неверными, поэтому их следует проверять. Хакеры превратили навыки для ИИ-агентов в оружие — вредоносные пакеты скачали 1,7 млн раз
08.08.2026 [13:08],
Павел Котов
Навыки агентов искусственного интеллекта — наборы инструкций для выполнения определённых задач, расширяющие их возможности, — всё чаще используются в кибератаках на цепочки поставок, предупреждают исследователи. 
Источник изображения: Aidin Geranrekab / unsplash.com На платформе навыков для ИИ-агентов skills.sh, представляющей собой своего рода магазин приложений, эксперты Zenity Labs раскрыли целую кампанию, направленную на кражу учётных данных. Первоначально злоумышленники просто клонировали существующие навыки, создавали их копии с опечатками, и они не представляли никакой угрозы. Но когда эти навыки набрали достаточное число загрузок, в них внедрили вредоносные инструкции: похищать ключи SSH, учётные данные облачных сервисов, токены Git и менеджеров пакетов, конфигурации Kubernetes и Docker, учётные данные баз данных, инфраструктуры, файлы окружения и учётные данные служебных учётных записей. Затем ИИ-агенты упаковывали украденную информацию вместе с метаданными хоста и отправляли её злоумышленникам. Точное число жертв этой атаки в Zenity Labs назвать затруднились, но сообщили, что только одно из семейств вредоносных навыков собрало 1,7 млн загрузок. Исследователи обнаружили «десятки» дополнительных навыков, демонстрирующих либо вредоносное, либо потенциально опасное поведение. Почти треть (30 %) из них для распространения вредоносного ПО использовали Anthropic Claude Code и OpenClaw. Также были выявлены несколько сотен зарезервированных и пустых имён пакетов, вероятно, предназначенных для будущих атак. Киберпреступники быстро адаптируются и могут быть весьма изобретательными, злоупотребляя новыми технологиями. Эта кампания представляет собой одну из разновидностей атак на цепочку поставок ПО с использованием ИИ — в сфере традиционного ПО это может быть заражение бесплатных библиотек, которые используются в других продуктах. Получив предупреждение от исследователей, компании Vercel и Microsoft, управляющие платформами, удалили вредоносные компоненты, однако пользователям, скачавшим их ранее, придётся удалять эти навыки из своих систем вручную. Cloudflare представила облачный браузер Kitesurf для ИИ-агентов
08.08.2026 [10:27],
Павел Котов
Cloudflare вслед за другими технологическими компаниями представила собственный браузер Kitesurf. Но это не привычная потребительская альтернатива Google Chrome, а облачное приложение, предназначенное для работы с агентами искусственного интеллекта. 
Источник изображения: cloudflare.com ИИ-приложения эволюционируют от формата отвечающих на вопросы чат-ботов в сторону ИИ-агентов, которые выполняют от имени пользователей задачи. В этой среде браузеры занимают отдельное место, потому что ИИ-агентам необходимо перемещаться по Сети и пользоваться сайтами, как это делают люди. В отличие от пользовательских браузеров агентский не нуждается в таких визуальных элементах как темы, вкладки или расширения. Здесь важны контекстные окна, показатели производительности, стоимость токенов и масштабируемость. Здесь также иные модели угроз — ИИ-браузер может быть подвержен уязвимостям, например, с внедрением вредоносных запросов. На основе Kitesurf ИИ-разработчики смогут создавать приложения, способные переходить на сайты, заполнять формы и выполнять другие характерные для браузеров задачи. Решение о создании Kitesurf в Cloudflare приняли всего 12 недель назад; он полностью работает на основе бессерверной платформы Workers. Браузер доступен бесплатно в бета версии в рамках сервиса Browser Run; он значительно экономнее Chromium — при создании скриншотов и обработке HTML он потребляет меньше памяти и ресурсов процессора. При его разработке использовались модульный движок отрисовки Blitz, CSS-парсер Stylo от Firefox и движок ECMAScript Boa JS на Rust. Kitesurf, даже будучи ещё новым браузером, уже прошёл более 215 000 тестов на веб-платформах, и каждую неделю Cloudflare будет добавлять по нескольку сотен. При разработке Kitesurf за образец взяли открытый движок без графического интерфейса Obscura на Rust — и первым прототипом бел перенос Obscura на Workers. Браузер корректно отображает страницы, в том числе TodoMVC — популярное приложение для сравнения фреймворков на JavaScript, «Википедию» и другие ресурсы, включая значительную часть панели управления самой Cloudflare. «Извините, опечатка»: Claude Opus 5 удалил все данные пользователя вместо создания резервной копии
07.08.2026 [15:53],
Павел Котов
Управляемый передовой моделью искусственного интеллекта Anthropic Claude Opus 5 ИИ-агент во время резервного копирования удалил все данные из папки пользователя. После этого он извинился и объяснил произошедшее опечаткой. 
Источник изображения: reddit.com ИИ-агент работал в среде Unix под Windows и перепутал характерный для первой адрес «/c/Users/» с привычным для второй адресом «C:\Users\». Когда резервное копирование пошло вразрез с ожиданиями ИИ-агента, тот выполнил команду «rm -rf» для местоположения «/c/Users/harih/», в результате чего из папки пользователя удалились все файлы. «Я попросил Claude Opus 5 создать резервную копию. Вместо этого он создал резервную копию в неправильном каталоге, а затем выполнил команду „rm -rf“ для всего моего диска. Удалив всё, он просто ответил: „Извините, опечатка“, <..> как будто ничего не случилось. <..> Это одновременно самый смешной и самый неприятный момент с ИИ, который у меня был», — рассказал пострадавший. ИИ-агенты — мощные рабочие инструменты, но им не следует предоставлять неограниченный доступ к системе. Подобные приложения уже неоднократно по ошибке удаляли все рабочие данные пользователей. В одном из случаев сервис компании Google полностью стёр диск у разработчика ПО, но выразил ему своё глубокое сожаление; в другом ИИ-агент OpenClaw начал бесконтрольно удалять письма у сотрудницы Meta✴✴. Известно также об инциденте, в результате которого облачная платформа Amazon Web Services по вине ИИ вышла из строя на 13 часов. Основная причина подобных инцидентов — выход ИИ-приложения за пределы допустимого диапазона, но виноват и пользователь, полагающий, что ИИ в полной мере понимает, что от него требуется. Поэтому ИИ-агентам не рекомендуется предоставлять полный доступ к важным системам и давать полную свободу действий, чтобы они могли выполнять команды уровня «rm -rf». К сожалению, по мере роста популярности ИИ-агентов подобные инциденты в будущем станут происходить всё чаще. Исследователи «спустили с поводка» ИИ-модели — те попытались добавить вредоносный код в открытое ПО
05.08.2026 [14:23],
Владимир Фетисов
Исследователи из Института безопасности ИИ (AISI) Великобритании зафиксировали 19 случаев так называемых «несанкционированных действий» со стороны ИИ-моделей во время тестов безопасности. Такое поведение нейросетей наблюдалось во время проведения испытаний способностей ИИ-моделей решать вопросы в области кибербезопасности. 
Источник изображения: Gemini «Мы провели это испытание 122 раза с применением нескольких моделей», — говорится в сообщении AISI. Там также сказано, что «в 10 случаях ИИ-агент предпринял автономные несанкционированные действия в интернете, нацеливая свои атаки на реальных людей и организации». Целью тестов была платформа GitHub. В общей сложности были выявлены 19 несанкционированных действий, 15 из которых совершила ИИ-модель Anthropic Mythos 5, а ещё 2 — OpenAI GPT-5.6-Sol. «В самом серьёзном случае агент пытался внедрить вредоносный код в проект с открытым исходным кодом. Пытаясь добиться одобрения кода, агент прибег к использованию социальной инженерии: создал виртуальные поддельные личности и использовал их, чтобы оказать давление на сопровождающего проект человека и заставить его одобрить код», — сказано в отчёте AISI. Однако курирующий проект человек обнаружил вредоносный код и не одобрил его добавление в общую кодовую базу. ИИ-агент пытался обмануть людей-программистов и используемые ими ИИ-инструменты путём отправки сообщений и файлов через онлайн-сервис передачи данных с целью убедить их запустить вредоносный код. Некоторые из отправляемых сообщений содержали вредоносный код, тогда как другие использовались для социальной инженерии. Такого поведения ИИ-моделей исследователи прежде не наблюдали. Ещё агент пытался внедрить вредоносный код туда, где, по его логике, другие автоматизированные системы могли обработать и выполнить его. Отмечается взаимодействие агентов на пути достижения своей цели. Один агент отправлял публичные сообщения на GitHub, предлагая другим агентам сотрудничать над решением выполняемой ими задачи. Он также предоставлял инструкции по использованию аккаунтов и артефактов, оставленных после себя, которые могли находить и использовать другие ИИ-агенты. В AISI отметили, что проведённая серия тестов является «первым случаем, когда нам настолько явно удалось увидеть риски, связанные с автономной работой и попытками обмана, в реальных условиях и без каких-либо специальных подсказок». Отметим, что в тестах AISI были отключены все ограничители ИИ-моделей, и алгоритмы имели доступ в интернет, что существенно отличается от того, как разработчики нейросетей предоставляют доступ к своим продуктам для широкого круга пользователей. «Этот инцидент следует трактовать с осторожностью и учётом нюансов. В некоторой степени такое поведение стало возможным из-за выбранных нами параметров оценки и конкретных настроек. Тем не менее, действия агента демонстрируют признаки нового, потенциально обманчивого поведения моделей — по степени серьёзности оно превзошло наши ожидания», — сказано в отчёте AISI. Исследователи отметили, что пока не могут дать ответ на вопрос относительно того, насколько агент понимает, что находится в реальном мире, а не в тестовой изолированной среде. При этом исследователи уверены, что их выводы отражают «сдвиг в ландшафте рисков». «Вред может возникнуть не только в случаях, когда люди намеренно злоупотребляют общедоступными моделями, но и когда способные агенты, действующие во внутренней исследовательской среде или в условиях привилегированного доступа, совершают непреднамеренные действия, выходящие за рамки разрешённых полномочий», — подвели итог в AISI. Каких-либо рекомендаций по поводу преодоления подобных ситуаций организация не дала. ИИ-агенты помогут создать аналоги CUDA, но Nvidia тоже не стоит на месте
04.08.2026 [17:57],
Владимир Мироненко
Важным преимуществом Nvidia являются не только ускорители на базе GPU, но и программная платформа CUDA, включающая готовый код для распространённых ИИ-задач, инструменты для поиска ошибок и приложения, позволяющие тысячам чипов согласованно работать при обучении моделей, пишет Business Insider. Но ИИ может нивелировать это преимущество. 
Источник изображения: Steve A Johnson/unsplash.com Всё, что было построено на платформе CUDA, — миллионы строк кода и внутренних рабочих процессов, разработанных компаниями, — создало мощный эффект привязки, который делает переход на альтернативы дорогостоящим и сложным. Например, согласно внутренним документам Amazon, CUDA является основным препятствием для внедрения ИИ-чипов Trainium и Inferentia. Однако, как утверждают некоторые эксперты, ИИ позволит автоматизировать одну из самых сложных задач в отрасли: создание программного обеспечения, которое обеспечивает работу самого ИИ. Джереми Никсон (Jeremy Nixon), бывший исследователь Google Brain и основатель стартапа Infinity, занимающегося разработкой ПО для ИИ, рассказал в интервью Business Insider, что его компания использовала ИИ-агентов для создания программного обеспечения, подобного CUDA, для стартапа D-Matrix. И весь процесс занял всего 10 часов — доказательство того, что один из самых серьёзных барьеров для отказа от чипов Nvidia вполне преодолим. OpenAI и Anthropic также продемонстрировали ИИ-модели, способные генерировать системное программное обеспечение. А основатель DeepSeek Лян Вэньфэн (Liang Wenfeng) недавно сообщил, что ИИ-агенты, наряду с собственным языком программирования его стартапа TileLang, значительно упростили создание ПО для ИИ. В свою очередь Nvidia заявила, что разработчики всё чаще используют библиотеки кода CUDA для создания ИИ-приложений и что она сама также использует программных ИИ-агентов для более быстрой разработки CUDA и её проверки в большем масштабе. По словам компании, по мере внедрения ИИ-моделей ценность её интегрированных аппаратных и программных продуктов увеличивается: «По мере того как ИИ смещается в сторону инференса и агентных рабочих нагрузок, потребность в глубокой, комплексной оптимизации только растёт». Не все считают, что программные агенты подрывают преимущество CUDA. Бин Сюй (Bing Xu), основатель стартапа INT21, занимающегося разработкой ПО для ИИ, заявил, что CUDA обладает самой развитой экосистемой инструментов верификации и других функций, которые помогают агентам программирования работать более эффективно. По его словам, эта экосистема станет следующим защитным барьером для CUDA по мере развития агентов. «Агенты могут генерировать много кода за короткое время, но верификация — это самое узкое место», — говорит Сюй. Он добавил, что, хотя ИИ может помочь конкурентам догнать CUDA, Nvidia извлекает выгоду из тех же технологических процессов. Чипмейкер не спит и не стоит на месте, заявил Сюй. При этом генеральный директор Modular Крис Латтнер (Chris Lattner) отметил, что написание кода — это лишь малая часть разработки программного обеспечения по сравнению с более сложными задачами, такими как его оптимизация для промышленного использования. |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |
© 1997—2026 Электронное периодическое издание "3ДНьюс" | Свидетельство о регистрации СМИ Эл ФС 77-22224
выдано Федеральной Службой по надзору за соблюдением законодательства в сфере массовых коммуникаций и охране культурного наследия
При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является
нарушением
российского и международного законодательства и возможно только с согласия редакции 3DNews.
MWC 2018
2018
Computex
IFA 2018
