Сегодня 08 августа 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → иена
Быстрый переход

Хакеры превратили навыки для ИИ-агентов в оружие — вредоносные пакеты скачали 1,7 млн раз

Навыки агентов искусственного интеллекта — наборы инструкций для выполнения определённых задач, расширяющие их возможности, — всё чаще используются в кибератаках на цепочки поставок, предупреждают исследователи.

 Источник изображения: Aidin Geranrekab / unsplash.com

Источник изображения: Aidin Geranrekab / unsplash.com

На платформе навыков для ИИ-агентов skills.sh, представляющей собой своего рода магазин приложений, эксперты Zenity Labs раскрыли целую кампанию, направленную на кражу учётных данных. Первоначально злоумышленники просто клонировали существующие навыки, создавали их копии с опечатками, и они не представляли никакой угрозы. Но когда эти навыки набрали достаточное число загрузок, в них внедрили вредоносные инструкции: похищать ключи SSH, учётные данные облачных сервисов, токены Git и менеджеров пакетов, конфигурации Kubernetes и Docker, учётные данные баз данных, инфраструктуры, файлы окружения и учётные данные служебных учётных записей. Затем ИИ-агенты упаковывали украденную информацию вместе с метаданными хоста и отправляли её злоумышленникам.

Точное число жертв этой атаки в Zenity Labs назвать затруднились, но сообщили, что только одно из семейств вредоносных навыков собрало 1,7 млн загрузок. Исследователи обнаружили «десятки» дополнительных навыков, демонстрирующих либо вредоносное, либо потенциально опасное поведение. Почти треть (30 %) из них для распространения вредоносного ПО использовали Anthropic Claude Code и OpenClaw. Также были выявлены несколько сотен зарезервированных и пустых имён пакетов, вероятно, предназначенных для будущих атак.

Киберпреступники быстро адаптируются и могут быть весьма изобретательными, злоупотребляя новыми технологиями. Эта кампания представляет собой одну из разновидностей атак на цепочку поставок ПО с использованием ИИ — в сфере традиционного ПО это может быть заражение бесплатных библиотек, которые используются в других продуктах. Получив предупреждение от исследователей, компании Vercel и Microsoft, управляющие платформами, удалили вредоносные компоненты, однако пользователям, скачавшим их ранее, придётся удалять эти навыки из своих систем вручную.

Техдиректор Meta✴: ИИ следует использовать, чтобы выполнять больше работы, а не больше отдыхать

Работникам на технических должностях в Meta✴ следует использовать средства искусственного интеллекта, чтобы выполнять больший объём задач, а не для того, чтобы больше отдыхать, уверен технический директор Meta✴ Эндрю Босворт (Andrew Bosworth).

 Источник изображения: Zan Lazarevic / unsplash.com

Источник изображения: Zan Lazarevic / unsplash.com

Эту мысль он высказал в ходе мероприятия в компании, которое прошло в начале июля, сообщает Business Insider. Один из сотрудников поинтересовался, можно ли использовать повышение производительности труда за счёт ИИ для того, чтобы увеличить свободное время, — например, возродить программу «Дни Meta✴», которая позволяла работникам брать дополнительные выходные. Босворт признал, что работать в Meta✴ непросто, но это дополнительное время, по его мнению, следует использовать для создания ещё большего числа продуктов для пользователей, потому что в компании «делают самые захватывающие вещи на планете».

«Надеюсь, наше дополнительное время мы потратим на создание большего числа более крутых вещей для людей, которые пользуются нашими программами каждый день. Нашими продуктами каждый день пользуются миллиарды человек. Мне выпадает дополнительный час. Знаете, что я с ним сделаю? Потрачу его на это», — заявил господин Босворт. А задавшему вопрос работнику он посоветовал «прекратить задавать вопросы про „Дни Meta✴“. Это очень глупо».

«Спросите своих родителей: если я каждый раз в разговоре с начальником буду просить дополнительные выходные — как это с точки зрения стратегии карьерного роста?» — съехидничал техдиректор. Позже он выразил сожаление, что ответил на вопрос «слишком резко», и признал, что воспринял его как заданный с иронией. Сотрудникам Meta✴ предоставляется отпуск продолжительностью четыре рабочие недели в год, а также выходные в государственные праздники. «Дни Meta✴» в компании заменили двумя отгулами на выбор, которые работники могут брать по своему усмотрению.

Единого мнения по поводу влияния ИИ на рабочий процесс пока нет. По одной из версий, он поможет людям зарабатывать больше и трудиться на нескольких рабочих местах. Другие считают, что у людей появится больше времени, которое они смогут проводить с близкими. А основатель Amazon Джефф Безос (Jeff Bezos) полагает, что в эпоху ИИ станет расти число домохозяйств с одним кормильцем.

Ретейлеры хотят покупателей из ChatGPT, но не хотят отдавать OpenAI их данные

Покупатели всё чаще стали обращаться за рекомендациями по подбору товаров к OpenAI ChatGPT и Google Gemini — розничные продавцы устремились в результаты поиска чат-ботов, но расставаться с данными о клиентах они пока не готовы.

 Источник изображения: Lynn Van den Broeck / unsplash.com

Источник изображения: Lynn Van den Broeck / unsplash.com

Ретейлеры Walmart, Ulta Beauty и Wayfair начали обновлять свои сайты, чтобы их товары повысили присутствие в результатах поиска чат-ботов, но процедуру оформления покупки они хотят оставить за собой. Это позволит им собирать данные о привычках просмотра, о размерах корзин и прошлых покупках, что поможет стимулировать будущие продажи и лояльность клиентов. В этом году выручка от пришедших с ИИ-платформ покупателей составит $8 млрд, предсказывают аналитики. В июне 41 % американских потребителей использовали для онлайн-покупок генеративный ИИ; а посетители интернет-магазинов, привлечённые сервисами ИИ принесли на 41 % больше дохода за посещение, чем покупатели из других источников.

В отличие от традиционных поисковых систем, которые ранжируют выдачу по критериям ключевых слов и ссылок, чат-боты отвечают на вопросы по смыслу, заставляя розничных продавцов переписывать описания товаров и переосмысливать механизмы поиска брендов покупателями. В сети Ulta отметили, что от покупателей с платформ Gemini и ChatGPT «удвоились конверсия и намерения». Компания сотрудничает с Google на предмет интеграции корзин покупок и своей программы лояльности в систему шопинга Gemini, но процесс заказа Ulta хочет сохранить на своём сайте. За розничными продавцами остаётся преимущество перед ИИ-платформами, потому что они знают о своих покупателях и товарах гораздо больше, чем ИИ-сервисы широкого назначения.

Это понимают в Amazon Web Service, где призывают своих клиентов из розницы использовать ИИ-сервисы для продвижения товаров, но сохранить за сайтами продавцов статус «лучшего места для покупок». Аналогичного подхода придерживается и платформа по планированию свадеб The Knot — она оптимизировала сайт, чтобы повысить присутствие своих партнёров в результатах поиска ChatGPT, но стремится убедить пары бронировать свадебные площадки напрямую через свой сайт. В марте OpenAI прекратила поддержку функции Instant Checkout — прямого оформления покупок в ChatGPT; теперь компания просто помогает пользователям в поиска товаров, направляя их в интернет-магазины и на сайты торговых площадок.

Cloudflare представила облачный браузер Kitesurf для ИИ-агентов

Cloudflare вслед за другими технологическими компаниями представила собственный браузер Kitesurf. Но это не привычная потребительская альтернатива Google Chrome, а облачное приложение, предназначенное для работы с агентами искусственного интеллекта.

 Источник изображения: cloudflare.com

Источник изображения: cloudflare.com

ИИ-приложения эволюционируют от формата отвечающих на вопросы чат-ботов в сторону ИИ-агентов, которые выполняют от имени пользователей задачи. В этой среде браузеры занимают отдельное место, потому что ИИ-агентам необходимо перемещаться по Сети и пользоваться сайтами, как это делают люди. В отличие от пользовательских браузеров агентский не нуждается в таких визуальных элементах как темы, вкладки или расширения. Здесь важны контекстные окна, показатели производительности, стоимость токенов и масштабируемость. Здесь также иные модели угроз — ИИ-браузер может быть подвержен уязвимостям, например, с внедрением вредоносных запросов.

На основе Kitesurf ИИ-разработчики смогут создавать приложения, способные переходить на сайты, заполнять формы и выполнять другие характерные для браузеров задачи. Решение о создании Kitesurf в Cloudflare приняли всего 12 недель назад; он полностью работает на основе бессерверной платформы Workers. Браузер доступен бесплатно в бета версии в рамках сервиса Browser Run; он значительно экономнее Chromium — при создании скриншотов и обработке HTML он потребляет меньше памяти и ресурсов процессора.

При его разработке использовались модульный движок отрисовки Blitz, CSS-парсер Stylo от Firefox и движок ECMAScript Boa JS на Rust. Kitesurf, даже будучи ещё новым браузером, уже прошёл более 215 000 тестов на веб-платформах, и каждую неделю Cloudflare будет добавлять по нескольку сотен. При разработке Kitesurf за образец взяли открытый движок без графического интерфейса Obscura на Rust — и первым прототипом бел перенос Obscura на Workers. Браузер корректно отображает страницы, в том числе TodoMVC — популярное приложение для сравнения фреймворков на JavaScript, «Википедию» и другие ресурсы, включая значительную часть панели управления самой Cloudflare.

Nvidia не будет успевать за спросом на компоненты ЦОД и в следующем году, это ограничит темпы экспансии SpaceX в сегменте

Пока Илон Маск (Elon Musk) строит амбициозные планы по выводу на орбиту космических ЦОД, возводимая ею наземная инфраструктура аналогичного назначения активно арендуется сторонними компаниями. Аналитики BNP считают, что как минимум до конца следующего года планы по расширению вычислительной инфраструктуры будут тормозиться производственными возможностями Nvidia.

 Источник изображения: SpaceX

Источник изображения: SpaceX

Напомним, что к концу текущего года SpaceX собирается подойти с 2 ГВт вычислительных мощностей, а к концу следующего рассчитывает увеличить их минимум в пять раз от этого уровня. Восемь игроков облачного сегмента, включая саму SpaceX, по словам аналитиков BNP, в следующем году рассчитывают увеличить вычислительные мощности более чем на 30 ГВт в совокупности. В то же время от Nvidia ожидается увеличение выручки по итогам 2027 года, которое пропорционально введению в строй не более 19 ГВт вычислительных мощностей на базе её чипов. В среднем 1 ГВт мощностей обеспечивает компанию выручкой в размере $30 млрд. Как минимум, возможности Nvidia по покрытию спроса на ЦОД в следующем календарном году будут отставать от него на 17 %.

Амбиции SpaceX в этой сфере тоже усугубляют ситуацию, причём и для самой этой компании, поскольку её глава Илон Маск недавно заявил, что собирается строить фирменную вычислительную инфраструктуру исключительно на компонентах Nvidia. Сейчас к последней особо приближены CoreWeave, Nebius и Oracle, как отмечает источник. Даже руководство SpaceX признаёт, что объёмы производства памяти ежегодно увеличиваются от силы на 20 %, тогда как спрос на вычислительные мощности для ИИ увеличивается на 200 % ежегодно. Рассчитывать на скорую нормализацию цен в таких условиях проблематично. По оценкам SpaceX, при использовании ЦОД на базе ускорителей семейства Vera Rubin один гигаватт вычислительных мощностей будет обходиться клиентам Nvidia в сумму от $30 до $50 млрд. Даже в этом случае бизнес по сдаче в аренду вычислительных мощностей становится выгодным при нынешнем уровне спроса, поскольку вложения в ЦОД можно отбить менее чем за год. Для провайдеров таких услуг главной проблемой становится само получение достаточного количества ускорителей для новых ЦОД.

OpenAI приостановила разработку ИИ-модели Astra — она оказалась слишком умной

Компания OpenAI заявила, что решила приостановить разработку новой ИИ-модели Astra, поскольку она пока не соответствует новым стандартам безопасности, которые компания внедряет в настоящий момент. Заявление последовало после инцидента с платформой Hugging Face, которая была взломана одной из моделей OpenAI.

 Источник изображения: Fotis Fotopoulos / unsplash.com

Источник изображения: Fotis Fotopoulos / unsplash.com

«Последние внутренние оценки Astra, одной из наших перспективных моделей, проведённые за последние несколько дней, указывают на её значительные успехи в программировании агентов и кибербезопасности. Эти результаты, наряду с экспертными оценками, позволили нам вчера вечером сделать вывод о том, что мы не можем исключить наличие критически важных кибервозможностей в рамках нашей системы обеспечения готовности (открывается в новом окне)», — говорится в публикации OpenAI.

Preparedness Framework — это внутренняя методология компании OpenAI для отслеживания, оценки и управления рисками, связанными с развитием передовых возможностей искусственного интеллекта. Она помогает систематизировать подходы к безопасности и определять условия, при которых компания готова выпускать, приостанавливать выпуск или дальнейшую разработку моделей ИИ.

«Согласно нашим оценкам в рамках Preparedness Framework, ИИ-модель достигает критического порога в области кибербезопасности, если она может выявлять и разрабатывать функциональные уязвимости нулевого дня всех уровней серьёзности во многих защищённых критически важных системах реального мира без вмешательства человека либо может разрабатывать и реализовывать комплексные новые стратегии кибератак против защищённых целей, имея лишь высокоуровневое описание желаемой цели», — объясняет компания.

По данным OpenAI, модель Astra не была причастна к взлому Hugging Face. Компания собирается внедрить «более строгие меры безопасности для моделей с более высокими возможностями и связанных с ними действий». Для Astra также был внедрён «универсальный мониторинг потенциально рискованных действий и несоответствий во всех агентных приложениях».

Google открыла исходный код ИИ-модели, которая предупреждает об ураганах

Исследователи Google DeepMind и Google Research совместными усилиями обучили модель искусственного интеллекта WeatherNext, которая, по их словам, даёт точные прогнозы по динамике циклонов. В проекте приняли активное участие американские и британские профильные организации.

 Источник изображения: deepmind.google

Источник изображения: deepmind.google

Google опубликовала веса модели и исходный код необходимых для её работы программных компонентов на GitHub, чтобы учёные могли использовать её в своей работе. О сопутствующей проекту WeatherNext исследовательской работе авторы рассказали в статье для журнала Nature.

Тропические циклоны — ураганы и тайфуны, в зависимости от региона, — представляют собой уникальную проблему для задачи прогнозирования, потому что атмосферные течения в масштабе планеты традиционно эффективно анализируются с помощью грубых глобальных моделей. А интенсивность шторма лучше прогнозируется с помощью специализированных локальных моделей, способных оценивать термодинамические процессы в ядре циклона.

WeatherNext обучили более чем на 20 Тбайт глобальных данных об атмосфере и исторической информации — этот подход позволяет прогнозировать как траекторию, так и интенсивность циклона при помощи одной модели. «Теперь мы можем генерировать один прогноз на 15 дней менее чем за минуту на [ИИ-ускорителе Google] TPU, что даст синоптикам возможность быстро оценивать распределение вероятностей для потенциально разрушительных угроз», — написали исследователи WeatherNext.

За сутки ИИ выявил несколько сотен уязвимостей в экосистеме биткоина

Группа энтузиастов Bitcoin Red Team, заручившись поддержкой передовых моделей искусственного интеллекта, изучила код проектов в экосистеме биткоина и за сутки обнаружила несколько сотен уязвимостей.

 Источник изображения: Michael Förtsch / unsplash.com

Источник изображения: Michael Förtsch / unsplash.com

Работа продолжалась чуть менее 28 часов. За это время энтузиасты исследовали без малого 400 проектов с открытым исходным кодом — им удалось выявить 85 критических ошибок и 625 серьёзных проблем; в среднем каждый участник проекта за час фиксировал 2,31 уязвимости высокого и критического уровней. Проект профинансировала некоммерческая организация OpenSats, которая поддерживает разработку открытого ПО для биткоина.

На сумму $40 000 энтузиасты закупили вычислительные мощности для запуска популярных ИИ-моделей, в том числе Moonshot Kimi K3, Zhipu AI GLM-5.2, OpenAI GPT-5.6 Sol, а также Anthropic Claude Opus и Fable. Доступ к американским моделям был ограничен, поэтому основную работу провели открытые китайские. При анализе кода использовалось некое приложение, предназначенное для выявления и воспроизведения уязвимостей в критических библиотеках — энтузиасты планируют открыть его исходный код позже.

Энтузиасты также заявили, что не согласны с мнением о том, что хранить битокины лично — это опасно. Это мнение возникло после инцидента с массовым взломом аппаратных кошельков Coldcard. Но оно противоречит «духу биткоина», говорят энтузиасты, потому что основу крупнейшей криптовалюты составляют идеи, технологии и принципы личной ответственности за хранение и использование цифровых активов.

ИИ Google раскрыл неанонсированного персонажа игры, которого разработчик хранил в тайне в «Google Документах»

Разработчик-одиночка в Klub Kofta Studio рассказал, что искусственный интеллект Google выдал информацию о грядущем персонаже его игры, которую он не разглашал. Речь идёт о вышедшей в сентябре 2025 года игре Operation Octo в жанре Tower Defense.

 Источник изображения: BoliviaInteligente / unsplash.com

Источник изображения: BoliviaInteligente / unsplash.com

Один из игроков на сервере Discord начал задавать системе ИИ Google «глупые вопросы» об игре, просто чтобы посмеяться над ответами. Но тот неведомым образом выдал точное имя нового персонажа Vantage Tripod, о котором разработчик никогда и никому не сообщал. В цифровом виде эта информация содержалась, уверен разработчик, только в одном месте — в «Google Документах»; и беседы с ИИ Google ради развлечения вёл не он. Проект Operation Octo недостаточно крупный, чтобы о нём сформировался информационный шум, способный запутать ИИ Google, поэтому вариантов остаётся не так много.

Представитель Google заверил, что компания не сканирует личные документы пользователей для обучения Gemini — ссылки на документы могут индексироваться только в случае их публикации в открытом доступе, где их могут обнаружить поисковые роботы; пользователи же «полностью контролируют свои настройки доступа к контенту „Диска“». Разработчик рассказал об инциденте на Reddit, и теперь странный ответ Google не воспроизводится — при повторном запросе поисковик ссылается уже на это обсуждение.

Тем не менее, указывают пользователи Reddit и Bluesky, Google исходит из презумпции согласия пользователей на использование материалов «Диска» для улучшения моделей ИИ — для отказа требуется совершить действия в настройках. Крупным технологическим компаниям свойственно без анонсов менять условия обслуживания и использовать данные пользователей в своих целях, пока те не дадут явного отказа.

ИИ научился находить уязвимости в ПО, но для их исправления всё ещё нужны люди

Модели искусственного интеллекта доказали, что могут эффективно находить уязвимости ПО и эксплуатировать их, но не исправлять. На эту особенность обратили внимание эксперты лаборатории Off-by-1 компании 1Password — изучив механизмы работы моделей OpenAI ChatGPT 5.5 и Anthropic Claude Opus 4.8, они обнаружили, что без участия человека ИИ способен устранять уязвимости в ПО только в одном из четырёх случаев.

 Источник изображения: Fotis Fotopoulos / unsplash.com

Источник изображения: Fotis Fotopoulos / unsplash.com

«Для шести недавно обнаруженных уязвимостей мы выпустили 6080 патчей, используя две новейшие рассуждающие модели. Средний показатель успеха при создании патча, который полностью устраняет уязвимость (без существенного изменения поведения приложения), составил всего 26,0 %», — заявили исследователи. Из созданных ИИ патчей 20,1 % исправили исходную проблему, но изменили поведение приложения: например, логика «списка разрешённых» превратилась в логику «списка запрещённых»; в 2,3 % случаев при исправлении одной уязвимости возникла другая; в 49,3 % случаев ИИ не создал защиты ни от одного из вариантов эксплойта; а в 2,2 % случаев ИИ не только не исправил уязвимость, но и создал ещё один вариант для её эксплуатации.

Среди успешных патчей, даже если они изменяли поведение приложения, исправление уязвимости оказалось «хрупким»: конкретная уязвимость исчезала, но основную проблему решить не удавалось. Успех работы ИИ зависит от первоначальной установки — её требуется давать как ИИ, так и человеку, исправляющему уязвимость. Но если инструкции будут неверными, ИИ с большей вероятностью потерпит неудачу. Если запрос будет корректным, то ИИ справится с вероятностью 65 %; полное отсутствие запроса снижает вероятность успеха до 50,4 %, а некорректный запрос — до 15,2 %. У человека-разработчика при анализе уязвимого кода сохраняются высокие шансы выявить вводящую в заблуждение информацию.

В среднем создание корректного патча обходится всего в $6,74, включая затраты на неудачные попытки. Но при анализе затрат и выгод следует учитывать, какой объём экспертного надзора требуется, чтобы применение ИИ себя оправдывало.

Почти 70 % ИИ-бизнеса Microsoft завязано на OpenAI — и это становится проблемой

Microsoft на минувшей неделе опубликовала положительный квартальный финансовый отчёт, который превзошёл ожидания аналитиков Уолл-стрит, и её акции выросли почти на 30 %. Компания доказала, что её бизнес в области искусственного интеллекта растёт всё быстрее, а денежные потоки остаются здоровыми, несмотря на значительные вложения в новые центры обработки данных. Но остаётся один существенный нюанс.

 Источник изображения: Salah Darwish / unsplash.com

Источник изображения: Salah Darwish / unsplash.com

Раскрытая Microsoft информация указывает, что на продукты OpenAI приходится около 70 % общего дохода софтверного гиганта, связанного с ИИ, исходя из прогнозируемого роста и предыдущих данных, касающихся доходов от OpenAI. Microsoft продала несколько миллионов платных лицензий на ИИ-помощника Copilot для пакета Microsoft 365 — он постепенно внедряется широким кругом государственных, общественных и частных организаций. Но, если учесть опубликованные ранее сведения, окажется, что потребление ресурсов GPU и инфраструктуры сервисами OpenAI по-прежнему составляет от 65 % до 70 % всего ИИ-бизнеса Microsoft. И это тревожный показатель.

К примеру, неудачный для франшизы Call of Duty год привёл к снижению общей выручки Xbox на 11 % и массовым увольнениям. OpenAI при выручке от $2 млрд до $5 млрд ежегодно теряет от $10 млрд до $20 млрд — компании удаётся держаться на плаву благодаря огромному количеству инвесторов, и одним из крупнейших выступает сама Microsoft. Она вкладывает в ИИ-лабораторию деньги, инфраструктурные ресурсы, вычислительные мощности и другие активы. На первый взгляд, доходы Microsoft от ИИ просто представляют собой затраты OpenAI на вычислительные ресурсы, оформленные как выручка.

В бизнесе такое встречается. Музыкальная платформа Spotify годами терпела миллиардные убытки. Модель основана на том, чтобы в какой-то момент быстро погасить долги, расширить деятельность, изменить привычки пользователей и создать новые рынки. Нужно привязать людей к себе и начать монетизировать свой продукт. Microsoft и другие кредиторы OpenAI делают ставку на то, что однажды ChatGPT станет базовым стандартом — основой вычислительной техники и потребностью для миллиардов людей. Но этого может не произойти. Вместо ChatGPT таким стандартом может стать Anthropic Claude или Google Gemini. А политическая воля способна в одночасье погасить бум строительства центров обработки данных для ИИ.

При такой зависимости от партнёра крушение или замедление темпов развития OpenAI грозит Microsoft миллиардными убытками и огромными объёмами избыточных мощностей в ЦОД. Пока признаков замедления нет, и даже наоборот — вот акции и растут. Но и органичной такую схему тоже не назовёшь. Microsoft уже пытается диверсифицироваться, обучая для потребительских приложений собственные «эффективные» ИИ-модели MAI и наращивая их внедрение в корпоративном сегменте. Компания уже начала уделять больше внимания традиционным направлениям, в том числе Xbox и Windows. Но если «пузырь ИИ» лопнет, ничто не спасёт ни Microsoft, ни её акционеров.

Suno объявила о планах по борьбе с музыкальным ИИ-спамом

Платформа для создания музыки при помощи искусственного интеллекта Suno сообщила о планах внедрить новую технологию водяных знаков и новую политику скачивания материалов, чтобы ограничить распространение созданных с помощью ИИ спам-треков.

 Источник изображения: Grigorii Shcheglov / unsplash.com

Источник изображения: Grigorii Shcheglov / unsplash.com

Новые инструменты обеспечения прозрачности, технологии водяных знаков и идентификации отвечают новым отраслевым стандартам, которые упростят определение генерируемого Suno контента, заявил гендиректор компании Майки Шульман (Mikey Shulman). Компания готова к сотрудничеству с платформами дистрибьюторов в борьбе с мошенничеством и злоупотреблениями, добавил он.

В прошлом году Suno урегулировала спор с Warner Music Group и изменила политику скачивания треков с платформы — было решено оставить эту возможность только для подписчиков платных тарифов и ограничить количество загрузок в месяц. Господин Шульман неоднократно отметил приверженность компании принципам прозрачности, уважения к правообладателям и важности созданных человеком художественных произведений.

Он также подчеркнул, что платформа Suno не вправе судить о ценности отдельных произведений — только авторы и потоковые платформы могут решать, хотят ли они раскрывать информацию об использовании инструментов ИИ. Прочих подробностей о новых технологиях и политике компания пока не привела.

«Извините, опечатка»: Claude Opus 5 удалил все данные пользователя вместо создания резервной копии

Управляемый передовой моделью искусственного интеллекта Anthropic Claude Opus 5 ИИ-агент во время резервного копирования удалил все данные из папки пользователя. После этого он извинился и объяснил произошедшее опечаткой.

 Источник изображения: reddit.com

Источник изображения: reddit.com

ИИ-агент работал в среде Unix под Windows и перепутал характерный для первой адрес «/c/Users/» с привычным для второй адресом «C:\Users\». Когда резервное копирование пошло вразрез с ожиданиями ИИ-агента, тот выполнил команду «rm -rf» для местоположения «/c/Users/harih/», в результате чего из папки пользователя удалились все файлы. «Я попросил Claude Opus 5 создать резервную копию. Вместо этого он создал резервную копию в неправильном каталоге, а затем выполнил команду „rm -rf“ для всего моего диска. Удалив всё, он просто ответил: „Извините, опечатка“, <..> как будто ничего не случилось. <..> Это одновременно самый смешной и самый неприятный момент с ИИ, который у меня был», — рассказал пострадавший.

ИИ-агенты — мощные рабочие инструменты, но им не следует предоставлять неограниченный доступ к системе. Подобные приложения уже неоднократно по ошибке удаляли все рабочие данные пользователей. В одном из случаев сервис компании Google полностью стёр диск у разработчика ПО, но выразил ему своё глубокое сожаление; в другом ИИ-агент OpenClaw начал бесконтрольно удалять письма у сотрудницы Meta✴. Известно также об инциденте, в результате которого облачная платформа Amazon Web Services по вине ИИ вышла из строя на 13 часов.

Основная причина подобных инцидентов — выход ИИ-приложения за пределы допустимого диапазона, но виноват и пользователь, полагающий, что ИИ в полной мере понимает, что от него требуется. Поэтому ИИ-агентам не рекомендуется предоставлять полный доступ к важным системам и давать полную свободу действий, чтобы они могли выполнять команды уровня «rm -rf». К сожалению, по мере роста популярности ИИ-агентов подобные инциденты в будущем станут происходить всё чаще.

Alibaba нашла способ заработать на открытом ИИ — крупным клиентам придётся делиться выручкой

Наличие у китайских ИИ-моделей не только открытых весов, но и открытого исходного кода вовсе не означает, что их разработчики готовы безвозмездно делиться плодами своего труда. По информации Reuters, китайская Alibaba готовит предложение для своих коммерческих клиентов, согласно которому крупнейшие из них будут вынуждены отдавать часть выручки, в генерации которой участвует модель Qwen.

 Источник изображения: Unsplash, Zhang Hui

Источник изображения: Unsplash, Zhang Hui

Китайский гигант готовит новую версию Qwen с открытым исходным кодом, которая должна выйти на следующей неделе, как напоминает источник. Традиционно Alibaba взимала плату за доступ к таким ИИ-моделям только с клиентов, которые арендовали у неё облачные вычислительные мощности, тогда как владельцам собственных ЦОД работа с моделью обходилась бесплатно. Конкурирующий стартап Moonshot, выпустивший модель Kimi 3, заключает с крупнейшими клиентами коммерческие соглашения, по которым они обязуются передавать ему до 30 % своей выручки, полученной от использования данной ИИ-модели. Такой подход применяется к клиентам, которые монетизируют использование Kimi 3 и получают более $20 млн профильной выручки в год.

Нечто подобное собирается предложить своим крупным клиентам и Alibaba. При этом не сообщается, какую именно часть выручки её партнёры должны будут передавать по условиям коммерческого соглашения. Участники рынка поясняют, что разработчики ИИ-моделей с открытым исходным кодом зарабатывают также на их адаптации под нужды конкретных клиентов. Кроме того, та же Moonshot взимает плату с пользователей пропорционально количеству токенов, задействованных при работе с ИИ-моделью. Стартап соосновательницы OpenAI Миры Мурати (Mira Murati) недавно представил ИИ-модель с открытыми весами, но не открыл для всеобщего доступа её исходный код. Эксперты считают, что и западные разработчики будут предлагать модели с открытым исходным кодом, если найдут способ достаточно эффективно на них зарабатывать. В свою очередь, китайские разработчики также ищут новые подходы к монетизации своих открытых моделей.

Вашингтон расследует доступ Китая к санкционным ускорителям Nvidia через иностранные дата-центры

При Байдене китайским компаниям запрещалось использовать расположенные за пределами КНР вычислительные центры, укомплектованные теми моделями ИИ-ускорителей, чьи прямые поставки в Китай были запрещены. Его преемник Дональд Трамп (Donald Trump) дал было слабину в этом вопросе, но сейчас правительственные структуры интересуются, как наличие такого доступа влияет на способность китайских разработчиков продвигаться в разработке передовых ИИ-моделей.

 Источник изображения: Nvidia

Источник изображения: Nvidia

Как известно, данную сферу американские власти считают одной из приоритетных с точки зрения национальной безопасности, а потому усилили изучение текущего положения дел с доступом китайских разработчиков к зарубежным ЦОД, оснащаемым продвинутыми ускорителями вычислений американского происхождения. По данным Bloomberg, начать расследование американских чиновников заставил быстрый прогресс китайских компании в создании ИИ-моделей, сопоставимых по своим возможностям с передовыми западными. По некоторым оценкам, отставание китайцев в этой области уже измеряется лишь несколькими месяцами и продолжает стремительно сокращаться.

Традиционно профильное американское ведомство расследует злоупотребления в сфере экспортного контроля, но текущая практика доступа китайских разработчиков к зарубежным ЦОД с целью обучения передовых ИИ-моделей формально не нарушает американских законов. Так или иначе, заинтересованность американских чиновников этим вопросом может указывать на их готовность в случае необходимости принять соответствующие меры в отношении как отдельных китайских компаний, так и страны в целом.

В прошлом месяце китайский стартап Moonshot представил ИИ-модель Kimi 3, которая по некоторым критериям продемонстрировала сопоставимое быстродействие с передовыми разработками американских Anthropic и OpenAI. В сочетании с публичным выражением недовольства на эту тему некоторыми американскими политиками, это способствовало запуску расследования со стороны подразделения Министерства торговли США, которое курирует данный вопрос. Попутно изучается способность китайских разработчиков получать в своё непосредственное распоряжение американские ускорители через третьи страны. Отличием же данного расследования от обычной практики ведомства является составление списка стран, в которых располагаются ЦОД на базе запрещённых к ввозу в КНР американских ускорителей, доступ к которым имеется у китайских разработчиков.

Анализ ситуации позволил предположить, что та же модель Kimi 3 была разработана с использованием ускорителей Nvidia с архитектурой Blackwell, поставки которых в КНР запрещены. Скорее всего, Moonshot получила к ним доступ из Китая через вычислительные мощности, расположенные в другой стране. Формально никто при этом не нарушал американское законодательство, но достигнутый китайской компанией эффект насторожил власти США. Министерство торговли при этом не обладает полномочиями, чтобы регулировать удалённый доступ к таким ускорителям, поэтому потенциальные механизмы запрета должны применяться другими структурами. Та же Nvidia заинтересована в сохранении доступа к своим ускорителям со стороны китайских клиентов, а потому сможет лоббировать блокирование новых запретов. Не факт, что они в итоге будут введены американскими властями.

Как поясняет Bloomberg, китайская Alibaba арендует ЦОД в Малайзии через свою подставную компанию в Сингапуре, поэтому эти схемы не всегда достаточно прозрачны, чтобы у властей США нашлись эффективные механизмы противодействия.


window-new
Soft
Hard
Тренды 🔥
Хакеры превратили навыки для ИИ-агентов в оружие — вредоносные пакеты скачали 1,7 млн раз 53 мин.
Техдиректор Meta: ИИ следует использовать, чтобы выполнять больше работы, а не больше отдыхать 2 ч.
Spectre возвращается: новая атака TONTOU ломает защиту процессоров Intel и AMD 3 ч.
Ретейлеры хотят покупателей из ChatGPT, но не хотят отдавать OpenAI их данные 3 ч.
Cloudflare представила облачный браузер Kitesurf для ИИ-агентов 4 ч.
Хакеры похитили данные покупателей модульных ноутбуков Framework 4 ч.
Microsoft Edge прекратит поддержку Manifest V2 и отключит блокировщика рекламы uBlock Origin до конца 2026 года 9 ч.
Новая статья: Kusan: City of Wolves — горячая линия с животными. Рецензия 14 ч.
Breathedge стала бесплатной на 48 часов, а Breathedge 2 готовится ворваться в ранний доступ Steam 15 ч.
Новый геймплейный трейлер подтвердил дату выхода Serious Sam: Shatterverse — адреналинового шутера на пятерых про мультивселенную Сэмов 16 ч.
TSMC сообщила о прорыве в разработке транзисторов следующего поколения — она создала 2D-транзистор из дисульфида молибдена 24 мин.
Первому Mac Pro исполнилось 20 лет — Apple тогда завершила переход на Intel 27 мин.
В США увидели военную угрозу в дронах с лидарами и тепловизорами — в том числе потребительских 2 ч.
В США создали молекулярный анализатор размером с футляр для AirPods — это гигантский скачок к домашней диагностике онкологии 3 ч.
Европа доработала планы по созданию «суверенного» конкурента Starlink 4 ч.
Зонд NASA Lucy начал настройку камер для съёмки троянских астероидов Юпитера 4 ч.
Китайские производители оборудования для полировки кремниевых пластин добились прогресса в качестве технологического процесса 7 ч.
Nvidia не будет успевать за спросом на компоненты ЦОД и в следующем году, это ограничит темпы экспансии SpaceX в сегменте 8 ч.
Google DeepMind считает, что память типа HBF будет востребована в инференсе 9 ч.
Руководить продажами в Intel назначен Дин Жарнак, имеющий опыт работы в Marvell 9 ч.