|
Опрос
|
реклама
Быстрый переход
Time начал показывать ИИ отдельную версию сайта — без оформления, зато с рекламой
05.08.2026 [22:10],
Анжелла Марина
Издание Time начало отдавать нейросетям отдельную версию своего сайта, отличающуюся от той, которую видят обычные пользователи. Вместо привычных HTML-страниц некоторые сервисы искусственного интеллекта получают компактные материалы на лёгком языке разметки Markdown со встроенными рекламными блоками.
Источник изображения: AI На необычное поведение страниц обратил внимание разработчик с сайта Vroni.com, который сравнил ответы сервера Time при обращении с разными значениями User-Agent. При запросах от браузеров Chrome, Safari и поискового робота Googlebot сайт возвращал стандартную HTML-страницу объёмом около 303 Кбайт. Однако при обращении от ClaudeBot, PerplexityBot и OAI-SearchBot сервер отправлял урезанную Markdown-версию размером около 13 Кбайт без оформления, изображений и скриптов, предназначенную для быстрой обработки ИИ-моделями. При этом GPTBot и ChatGPT-User получали ответ с кодом 406, что указывает на выборочный подход к разным типам ИИ-ботов. Анализ этой версии показал, что она создаётся с использованием технологий рекламной платформы Mobian. Каждому запросу присваивается уникальный идентификатор, а в заголовках ответа присутствуют параметры, связанные с подсчётом обработанных токенов: заголовок cache-control: no-store исключает возможность кеширования, вынуждая систему обращаться к серверу повторно. При этом параметр x-mobian-tokens указывает, что единицей монетизации служат не просмотры страниц, а непосредственно токены, потребляемые нейросетями. Такая архитектура превращает каждое обращение ИИ-агента в отдельный показ спонсорского контента. Различия касаются не только формата страниц, но и их содержания. Например, в Markdown-версии подборки Best Inventions of 2025 исследователь обнаружил спонсорский раздел Ally Bank с вопросами и ответами, оформленными в стиле справочных материалов, а в обычной версии — аналогичный рекламный блок, но от некоммерческой организации Project Management Institute (PMI). В HTML-версии сайта эти материалы отсутствовали. Все такие публикации были помечены как спонсорские, однако отображались только для ИИ-ботов. Time, как отмечает издание Vincent Schmalbach уже фиксирует, что в отдельные дни число обращений ИИ-ботов превышает количество посещений обычных пользователей. При этом поисковый робот Google продолжает получать ту же HTML-версию страниц, что и люди, тогда как специальные ИИ-боты обслуживаются по отдельному сценарию. Anthropic начала набирать команду для разработки собственных ИИ-чипов
05.08.2026 [18:16],
Павел Котов
Anthropic начала формировать отдел по разработке собственных ускорителей искусственного интеллекта — модели и оборудование будут разрабатываться параллельно, что обеспечит быструю и эффективную работу систем, передаёт Business Insider. Ранее стало известно, что кандидатом в производители этих чипов является Samsung.
Источник изображения: anthropic.com Anthropic решила разработать собственные ИИ-ускорители в связи с высоким спросом на модели Claude. Компании в отрасли ИИ пытаются заключить как можно больше сделок в области ИИ-инфраструктуры. Anthropic также подписала соглашения с AWS, Google, Nvidia и AMD о доступе к вычислительному оборудованию; но для того, чтобы масштабировать свою деятельность по-настоящему и удовлетворять спрос на свои услуги в полной мере, партнёрских проектов явно недостаточно. Anthropic — не первая ИИ-лаборатория, которая решила построить собственный ускоритель. В июне OpenAI представила разработанный при участии Broadcom ускоритель Jalapeño, предназначенный специально для рабочих нагрузок ИИ-инференса. Google DeepMind уже давно пользуется ускорителями TPU, а Meta✴✴ готовится наладить выпуск собственных чипов MTIA. Anthropic ищет инженеров с опытом проектирования чипов для своего «отдела по проектированию собственного кремния». Официальных комментариев от компании пока не поступало. Google назвала дату отключения «Ассистента» на Android и Wear OS
05.08.2026 [17:26],
Павел Котов
Как и ожидалось, «Google Ассистент» в этом году начнёт изыматься из экосистемы Google. Процесс удаления устаревшего сервиса компания запустит 4 сентября — об этом она сообщила в письме, которое разослала пользователям.
Источник изображения: Rubaitul Azad / unsplash.com Компания начнёт удалять доступ к «Google Ассистенту» 4 сентября, но всю базу пользователей компания сможет охватить лишь за несколько недель. Когда доступ к устаревшему сервису заблокируется, воспользоваться им на смартфоне, планшете и других сопряжённых устройствах больше не получится. «Google Ассистент» перестанет работать на часах под управлением Wear OS, а также на автомобилях, где доступ к нему обеспечивается через смартфон — на машинах со встроенным ИИ-помощником старого образца он продолжит работать и после 4 сентября. К другим системам это пока не относится, но в Google упомянули, что новый ИИ-помощник Gemini появится на устройствах под управлением Google TV, на колонках Google Home и умных дисплеях. «Мы стремимся обеспечить плавный переход и уверены, что Gemini предложит вам ещё более функциональный и полезный опыт работы с голосовым помощником», — заверили в компании. Первоначально Google намеревалась прекратить поддержку старого сервиса в конце 2025 года, но впоследствии продлила срок до 2026 года. В приложении Gemini до сих пор доступна возможность переключиться на «Google Ассистент». ИИ-модели могут работать на чём угодно: энтузиаст запустил LLM на микроконтроллере за $10
05.08.2026 [16:40],
Павел Котов
В 2026 году большие языковые модели можно локально запускать на ноутбуках и даже смартфонах. Энтузиаст под псевдонимом SlvDev запустил небольшую языковую модель локально на микроконтроллере ESP32-S3 за $10 и добился скорости работы без малого 10 токенов в секунду.
Источник изображения: Igor Omilaev / unsplash.com Микроконтроллер ESP32-S3 располагает 520 кбайт SRAM и 8 Мбайт псевдо-SRAM (PSRAM). Он предназначен для управления удалёнными датчиками устройствами интернета вещей и другим оборудованием — модель класса DeepSeek V4 Flash на нём запустить не получится. Вместо неё энтузиаст выбрал систему в 10 000 раз компактнее — разработанную Microsoft Research модель TinyStories с 28,9 млн параметров. В исходном виде и она оказалась слишком объёмной для ESP32-S3: при 16-битной точности ей требуются около 60 Мбайт пространства, которого на микроконтроллере просто нет. Поэтому на начальном этапе автор проекта провёл квантование — сжал веса модели с 16 до 8, а затем и до 4 битов. В результате модель стала занимать 14,9 Мбайт, и для её установки пришлось приобрести вариант микроконтроллера с флеш-памятью на 16 Мбайт. Далее энтузиаст провёл ещё одну операцию — реализовал механизм послойного встраивания (Per-layer embedding — PLE), который используется в архитектуре открытых моделей Google Gemma. В результате значительную часть весов модели или 25 млн параметров размером 12 Мбайт он перенёс во флеш-память, обращения к которой будут производиться относительно нечасто, а в оперативную память контроллера поместил лишь 2 Мбайт данных. В результате входные заголовки и кеш ключ-значение (KV) оказались в PSRAM, а для активации хватило 520 кбайт на SRAM. Благодаря этим мерам удалось получить генерацию со скоростью 9,88 токенов в секунду — быстрее, чем может читать среднестатистический человек. Модель Tiny Stories стала отличным примером для демонстрации концепции, но она только генерирует короткие истории, и этого недостаточно даже для запуска чат-бота. Есть ещё имеющая схожие размеры модель Barista, и она уже умеет отвечать на вопросы, причём генерирует токены вдвое быстрее, но только на темы, связанные с эспрессо. Обе модели слишком маленькие, чтобы делать что-то ещё, но сам факт их работы на ESP32 уже впечатляет. Microsoft призвала инженеров не злоупотреблять использованием ИИ — это дорого
05.08.2026 [16:37],
Павел Котов
Работа с искусственным интеллектом стремительно дорожает, вот и Microsoft решила ограничить собственных инженеров в использовании ИИ. Компания открыла для внутреннего использования одну из доступных моделей OpenAI GPT-5.6, чтобы «получить отдачу от наших инвестиций в токены», но вскоре для сотрудников будет установлен «целевой бюджет ИИ-токенов», который они смогут отслеживать индивидуально.
Источник изображения: BoliviaInteligente / unsplash.com Потребление токенов пропорционально объёмам запросов к ИИ и ответов моделей. Раньше работников технологических компаний поощряли пользоваться ИИ как можно активнее, но перевод работы на оплату по объёмам потребления привёл к тому, что счета за это резко выросли. «Хочу, чтобы все мы сосредоточились на максимизации результатов, которые принесут нашим клиентам и бизнесу пользу. Поэтому мы обновим наши внутренние рекомендации и введём управление расходами токенов с той же дисциплиной, которую применяем ко всем другим критически важным ресурсам», — заявил исполнительный вице-президент Microsoft Джей Парих (Jay Parikh) во внутреннем электронном письме. В документе содержится ссылка на внутренние рекомендации по работе с Copilot, согласно которым в Microsoft появится «целевой бюджет токенов ИИ», но подробности не приводятся. В конце мая Microsoft перевела сервис GitHub Copilot на оплату за токены, и некоторые пользователи быстро исчерпали свои лимиты. Компания также пытается сократить расходы на ИИ, подключая приложения Microsoft 365 к собственным моделям MAI вместо более дорогих в обращении Anthropic и OpenAI. Контроль за расходами своих сотрудников на ИИ-токены ужесточили Amazon, Adobe, Atlassian и Citi. Исследователи уличили ИИ-агентов OpenAI и Anthropic в новых попытках взлома
05.08.2026 [14:51],
Павел Котов
В ходе тестирования моделей искусственного интеллекта от OpenAI и Anthropic был выявлен ряд новых нарушений — в одном из случаев для получения несанкционированного доступа к защищённым системам ИИ-агент создал поддельные идентификаторы. Об этом сообщили эксперты британского Института безопасности ИИ (AISI).
Источник изображения: Brecht Corbeel / unsplash.com У AISI заключены соглашения с крупными лабораториями, в соответствии с которыми организация получает доступ к передовым моделям ИИ в целях тестирования. Эксперты провели 122 теста; в ходе 10 сессий были выявлены 19 несанкционированных действий ИИ-агентов — в 17 случаях ими управляла модель Anthropic, и ещё в 2 случаях — OpenAI. Наиболее тревожным стал инцидент, при котором ИИ-агент написал вредоносный код и создал поддельные онлайн-идентификаторы, чтобы получить одобрение человека, но известно, что никакого ущерба в результате этих действий ни одной из сторон причинено не было. Что именно за модель управляла ИИ-агентом, в AISI не уточнили, но Anthropic взяла на себя ответственность за инцидент. «Мы признательны британскому AISI за работу с этим инцидентом, который подчёркивает необходимость широкого обсуждения того, как безопасно проводить оценку совершенствующихся ИИ-агентов», — заявили в Anthropic. Компания проводит с организацией совместную работу для получения более подробной информации об инциденте и намеревается провести собственное расследование. OpenAI призналась, что в обоих случаях несанкционированные действия её ИИ-агентов включали доступ к интернету способами, которые запрещались в запросе. «Мы стремимся к сотрудничеству со всей отраслью для укрепления общих методов безопасного проведения оценок высокого риска, в том числе для организации в ближайшие недели встреч с заинтересованными сторонами, такими как национальные институты ИИ, независимые эксперты, другие лаборатории ИИ и другие группы», — отметили в OpenAI. OpenAI также рассказала, когда из-за некорректной настройки со стороны партнёрской компании Irregular её ИИ-агенты смогли выйти в интернет; о трёх аналогичных инцидентах на минувшей неделе сообщила Anthropic. В ходе тестирования AISI ИИ-агенты OpenAI не были вынуждены выходить за пределы изолированного тестового окружения — политика испытаний предусматривала доступ к интернету. Исследователи «спустили с поводка» ИИ-модели — те попытались добавить вредоносный код в открытое ПО
05.08.2026 [14:23],
Владимир Фетисов
Исследователи из Института безопасности ИИ (AISI) Великобритании зафиксировали 19 случаев так называемых «несанкционированных действий» со стороны ИИ-моделей во время тестов безопасности. Такое поведение нейросетей наблюдалось во время проведения испытаний способностей ИИ-моделей решать вопросы в области кибербезопасности.
Источник изображения: Gemini «Мы провели это испытание 122 раза с применением нескольких моделей», — говорится в сообщении AISI. Там также сказано, что «в 10 случаях ИИ-агент предпринял автономные несанкционированные действия в интернете, нацеливая свои атаки на реальных людей и организации». Целью тестов была платформа GitHub. В общей сложности были выявлены 19 несанкционированных действий, 15 из которых совершила ИИ-модель Anthropic Mythos 5, а ещё 2 — OpenAI GPT-5.6-Sol. «В самом серьёзном случае агент пытался внедрить вредоносный код в проект с открытым исходным кодом. Пытаясь добиться одобрения кода, агент прибег к использованию социальной инженерии: создал виртуальные поддельные личности и использовал их, чтобы оказать давление на сопровождающего проект человека и заставить его одобрить код», — сказано в отчёте AISI. Однако курирующий проект человек обнаружил вредоносный код и не одобрил его добавление в общую кодовую базу. ИИ-агент пытался обмануть людей-программистов и используемые ими ИИ-инструменты путём отправки сообщений и файлов через онлайн-сервис передачи данных с целью убедить их запустить вредоносный код. Некоторые из отправляемых сообщений содержали вредоносный код, тогда как другие использовались для социальной инженерии. Такого поведения ИИ-моделей исследователи прежде не наблюдали. Ещё агент пытался внедрить вредоносный код туда, где, по его логике, другие автоматизированные системы могли обработать и выполнить его. Отмечается взаимодействие агентов на пути достижения своей цели. Один агент отправлял публичные сообщения на GitHub, предлагая другим агентам сотрудничать над решением выполняемой ими задачи. Он также предоставлял инструкции по использованию аккаунтов и артефактов, оставленных после себя, которые могли находить и использовать другие ИИ-агенты. В AISI отметили, что проведённая серия тестов является «первым случаем, когда нам настолько явно удалось увидеть риски, связанные с автономной работой и попытками обмана, в реальных условиях и без каких-либо специальных подсказок». Отметим, что в тестах AISI были отключены все ограничители ИИ-моделей, и алгоритмы имели доступ в интернет, что существенно отличается от того, как разработчики нейросетей предоставляют доступ к своим продуктам для широкого круга пользователей. «Этот инцидент следует трактовать с осторожностью и учётом нюансов. В некоторой степени такое поведение стало возможным из-за выбранных нами параметров оценки и конкретных настроек. Тем не менее, действия агента демонстрируют признаки нового, потенциально обманчивого поведения моделей — по степени серьёзности оно превзошло наши ожидания», — сказано в отчёте AISI. Исследователи отметили, что пока не могут дать ответ на вопрос относительно того, насколько агент понимает, что находится в реальном мире, а не в тестовой изолированной среде. При этом исследователи уверены, что их выводы отражают «сдвиг в ландшафте рисков». «Вред может возникнуть не только в случаях, когда люди намеренно злоупотребляют общедоступными моделями, но и когда способные агенты, действующие во внутренней исследовательской среде или в условиях привилегированного доступа, совершают непреднамеренные действия, выходящие за рамки разрешённых полномочий», — подвели итог в AISI. Каких-либо рекомендаций по поводу преодоления подобных ситуаций организация не дала. Белый дом не станет раскрывать свою схему тестирования ИИ-моделей на безопасность
05.08.2026 [14:19],
Павел Котов
Белый дом не планирует публично раскрывать новую схему для оценки передовых моделей искусственного интеллекта. Добровольный механизм проверки имеет глобальные последствия для безопасности ИИ, но подробности будут раскрываться только участвующим в процессе компаниям.
Источник изображения: BoliviaInteligente / unsplash.com Накануне администрация президента США провела встречу с представителями отрасли ИИ, чтобы обсудить завершение работы над фреймворком для оценки моделей. Компании, чьих представителей не пригласили, остались в неведении относительно содержания встречи. Этот фреймворк выработали на фоне того, как отрасль вступила в борьбу с громкими кибератаками, а китайские разработчики ИИ отметились быстрым прогрессом; с новой силой разгорелась дискуссия, как работать с открытыми моделям. Нет ясности, каким образом доверенные партнёры будут получать ранний доступ к передовым моделям, и найдётся ли в процедуре место для властей дружественных США стран. По неподтверждённым данным, обсуждались открытые модели; в совещании участвовали сотрудники Nvidia. На минувшей неделе глава Nvidia Дженсен Хуанг (Jensen Huang) приезжал в Вашингтон и встречался с главой минторга Говардом Лютником (Howard Lutnick) и президентом Дональдом Трампом (Donald Trump). Добровольная схема, изложенная в июньском указе, описывает механизм взаимодействия разработчиков ИИ с властями и задаёт критерии того, подпадают ли отдельные модели под действие документа. Структуры правительства США за 30 дней до выпуска получают доступ к передовым моделям, которые тестируются на конфиденциальность, кибербезопасность, инсайдерские риски, вопросы интеллектуальной собственности и требования о неразглашении. Процедура оценки передовых возможностей ИИ в области кибербезопасности засекречена — об этом в документе говорится прямым текстом. Anthropic заключила сделку на $10 млрд ради ИИ-инфраструктуры — её обеспечит неизвестный стартап
05.08.2026 [05:02],
Анжелла Марина
Anthropic заключила соглашение стоимостью $10 млрд со стартапом Volta, специализирующимся на облачных вычислениях с использованием ИИ. Volta в течение шести лет будет предоставлять разработчику Claude вычислительные мощности, что позволит расширить инфраструктуру Anthropic на фоне усиливающейся конкуренции на рынке искусственного интеллекта.
Источник изображения: Anthropic По данным TechCrunch со ссылкой на Bloomberg, партнёром проекта также выступит криптомайнинговая компания Bitdeer, которая займётся строительством дата-центра для обеспечения необходимых вычислительных ресурсов. Объект разместят в Норвегии, его мощность составит 133 МВт, а в основе инфраструктуры будут использоваться ускорители на архитектуре Nvidia Vera Rubin. Volta была основана только в этом году и входит в программу Nvidia Cloud Partner, объединяющую поставщиков облачной ИИ-инфраструктуры, использующих графические ускорители Nvidia. Ранее стартап сообщал о заключении соглашения с одной из ИИ-лабораторий, однако название партнёра тогда не раскрывалось. Bloomberg со ссылкой на анонимные источники утверждает, что речь шла именно об Anthropic. Издание TechCrunch запросило у компании дополнительные комментарии для подтверждения деталей соглашения. Однако технические спецификации или график ввода норвежского дата-центра в эксплуатацию пока не разглашаются. Недавно Anthropic, стремясь обеспечить достаточные мощности для разработки и обучения своих ИИ-моделей в условиях растущей конкуренции, также объявила о новых соглашениях с Amazon и SpaceX по предоставлению вычислительных ресурсов. ИИ-агенты помогут создать аналоги CUDA, но Nvidia тоже не стоит на месте
04.08.2026 [17:57],
Владимир Мироненко
Важным преимуществом Nvidia являются не только ускорители на базе GPU, но и программная платформа CUDA, включающая готовый код для распространённых ИИ-задач, инструменты для поиска ошибок и приложения, позволяющие тысячам чипов согласованно работать при обучении моделей, пишет Business Insider. Но ИИ может нивелировать это преимущество.
Источник изображения: Steve A Johnson/unsplash.com Всё, что было построено на платформе CUDA, — миллионы строк кода и внутренних рабочих процессов, разработанных компаниями, — создало мощный эффект привязки, который делает переход на альтернативы дорогостоящим и сложным. Например, согласно внутренним документам Amazon, CUDA является основным препятствием для внедрения ИИ-чипов Trainium и Inferentia. Однако, как утверждают некоторые эксперты, ИИ позволит автоматизировать одну из самых сложных задач в отрасли: создание программного обеспечения, которое обеспечивает работу самого ИИ. Джереми Никсон (Jeremy Nixon), бывший исследователь Google Brain и основатель стартапа Infinity, занимающегося разработкой ПО для ИИ, рассказал в интервью Business Insider, что его компания использовала ИИ-агентов для создания программного обеспечения, подобного CUDA, для стартапа D-Matrix. И весь процесс занял всего 10 часов — доказательство того, что один из самых серьёзных барьеров для отказа от чипов Nvidia вполне преодолим. OpenAI и Anthropic также продемонстрировали ИИ-модели, способные генерировать системное программное обеспечение. А основатель DeepSeek Лян Вэньфэн (Liang Wenfeng) недавно сообщил, что ИИ-агенты, наряду с собственным языком программирования его стартапа TileLang, значительно упростили создание ПО для ИИ. В свою очередь Nvidia заявила, что разработчики всё чаще используют библиотеки кода CUDA для создания ИИ-приложений и что она сама также использует программных ИИ-агентов для более быстрой разработки CUDA и её проверки в большем масштабе. По словам компании, по мере внедрения ИИ-моделей ценность её интегрированных аппаратных и программных продуктов увеличивается: «По мере того как ИИ смещается в сторону инференса и агентных рабочих нагрузок, потребность в глубокой, комплексной оптимизации только растёт». Не все считают, что программные агенты подрывают преимущество CUDA. Бин Сюй (Bing Xu), основатель стартапа INT21, занимающегося разработкой ПО для ИИ, заявил, что CUDA обладает самой развитой экосистемой инструментов верификации и других функций, которые помогают агентам программирования работать более эффективно. По его словам, эта экосистема станет следующим защитным барьером для CUDA по мере развития агентов. «Агенты могут генерировать много кода за короткое время, но верификация — это самое узкое место», — говорит Сюй. Он добавил, что, хотя ИИ может помочь конкурентам догнать CUDA, Nvidia извлекает выгоду из тех же технологических процессов. Чипмейкер не спит и не стоит на месте, заявил Сюй. При этом генеральный директор Modular Крис Латтнер (Chris Lattner) отметил, что написание кода — это лишь малая часть разработки программного обеспечения по сравнению с более сложными задачами, такими как его оптимизация для промышленного использования. Huawei убеждена, что Nvidia скоро упрётся в пределы масштабирования чипов
04.08.2026 [14:27],
Алексей Разин
В отличие от некоторых конкурентов, которые активно применяют многокристальную компоновку, как те же Intel и AMD, компания Nvidia считает монолитные кристаллы приоритетным видом чипов. По мнению представителей китайской Huawei Technologies, данный подход к проектированию полупроводниковых компонентов скоро себя исчерпает.
Источник изображения: Nvidia Строго говоря, данное предупреждение касается всех западных разработчиков, поэтому одной только Nvidia дело не ограничится, как считает ведущий научный специалист Huawei Technologies по полупроводниковым технологиям Ляо Хэн (Liao Heng). На его комментарии, сделанные в ходе четырёхчасового интервью в конце прошлого месяца ссылается агентство Bloomberg. Как известно, Huawei в последующие годы собирается опираться на так называемый закон «масштабирования тау», предполагающий инновационные подходы к проектированию чипов без использования передовой литографии. Сама Huawei лишена доступа к передовому западному оборудованию для выпуска чипов из-за санкций США и их союзников, поэтому вынуждена проявлять изобретательность при проектировании чипов, а не только их производстве. «Должен быть предел тому, как они масштабируют свои постоянно растущие вычислительные кристаллы и увеличивающийся объём HBM. Промышленность продолжает их подгонять, но как только они пересекут физический предел, будет лавинообразный обвал», — охарактеризовал усилия западных партнёров по масштабированию чипов Ляо Хэн. В свою очередь, новый подход Huawei направлен на ускорение передачи информации между компонентами вычислительных систем, а не на физическое масштабирование элементов как таковое. Первый мобильный процессор, разработанный Huawei с учётом принципа LogicFolding, должен быть представлен в этом году. Если ранее западные исследователи типа TechInsights в значительной мере вредили Huawei, указывая на прогресс подрядчика в лице SMIC в сфере литографии, то в этом году китайский гигант как раз рассчитывает на их откровения после знакомства с устройством чипа нового поколения. Выводы этих независимых экспертов, по мнению представителя Huawei, помогут западным разработчикам и производителям понять, насколько прогрессивен подход этой компании к проектированию чипов. Противоречия в геополитической сфере приводят к формированию двух независимых полупроводниковых отраслей, по словам Ляо Хэна. Они будут существовать параллельно и не особо пересекаться. Комплимента из уст этого представителя Huawei удостоился и основатель DeepSeek Лян Вэньфэн (Liang Wenfeng), чьи разработки доказали, что китайские специалисты способны создавать передовые ИИ-модели в условиях ограниченности ресурсов. Huawei свои ИИ-чипы проектирует таким образом, чтобы они позволяли более эффективно работать с ИИ-моделями, обеспечивая высокую отдачу при низких энергозатратах. Это требует более серьёзных усилий на этапе проектирования, но оправдывает себя в процессе эксплуатации. Один ИИ-агент убедил другого выполнять команды хакера — в SDK Google нашли опасную схему атаки
04.08.2026 [13:41],
Павел Котов
В репозитории комплекта для разработки Google на Python исследователь компании Pillar Security Дэн Лисичкин (Dan Lisichkin) обнаружил уязвимость, которая позволяет гипотетическому злоумышленнику компрометировать ПО на уровне цепочки поставок, манипулируя обладающим высокими привилегиями агентом искусственного интеллекта через вредоносные запросы для менее привилегированного публичного ИИ-агента.
Источник изображения: Kevin Horvat / unsplash.com Схема атаки предполагает злоупотребление механизмами взаимодействия ИИ-агентов. В репозитории Google их действуют две единицы: первый, публичный, анализирует обращения пользователей и новые запросы на слияние кода; второй, доступный только сопровождающим проекта, обладает более широкими полномочиями. При этом первый может передавать задачи второму, и эта передача считается доверенной. Для осуществления атаки злоумышленник сначала отправляет добросовестный фрагмент кода, чтобы заслужить доверие и получить возможность запускать определённые процессы на уровне ИИ-агентов. На втором этапе он снова отправляет запрос на слияние, в описание к которому внедряет вредоносные инструкции для публичного агента. Он воспринимает их как часть своей задачи и вызывает привилегированного ИИ-агента, передавая ему доверенное сообщение. Второй в результате получает возможность выполнять действия, которые обычный пользователь никогда не смог бы запустить напрямую. То есть менее привилегированный ИИ-агент выступает посредником, заставляющим более привилегированного действовать в интересах хакера. Это не программная уязвимость в традиционном понимании, а проблема доверительной цепочки между агентами: механизмы GitHub Actions общедоступны, и любой желающий может проанализировать, как именно они взаимодействуют. В Google, однако, отказались выплатить исследователю вознаграждение за выявление данной уязвимости, потому что даже при наличии токена с полномочиями «pull-requests: write» код в проект включается не автоматическими средствами, а по воле сопровождающего проект человека. Компания, однако, усилила защиту рабочих процессов и указала эксперта в числе авторов исправления. Исследователь же настаивает, что Google закрыла лишь одну из реализаций уязвимости, но не проблему, из-за которой она возникла. Ужесточать рабочие процессы или изолировать ИИ-агентов друг от друга недостаточно: агенты должны идентифицироваться и обладать фиксированными наборами полномочий, как это реализуется в разграничении прав доступа для людей. Поэтому он призывает включать ИИ-агентов в модели угроз, поскольку они выступают потенциальными злоумышленниками в рабочих процессах. ИИ-агентов Google Gemini можно будет настраивать прямо на смартфоне — и без корпоративной подписки
04.08.2026 [13:05],
Павел Котов
Google тестирует множество новых функций помощника с искусственным интеллектом Gemini, в том числе возможность настраивать подборку Daily Brief и прямо с мобильного устройства управлять навыками постоянно активного онлайн-агента Spark. Кроме того, компания экспериментирует с расширением контроля над пользовательскими ИИ-агентами.
Источник изображения: Rubaitul Azad / unsplash.com Возможность создавать ИИ-агентов и управлять ими сейчас доступна только пользователям корпоративных версий Google Workspace, и только через веб-интерфейс. Но в версии 17.45.14 приложения Google для Android, выступающего шлюзом для доступа к Gemini, появилась возможность создавать ИИ-агентов и управлять ими со смартфона или планшета. Опцию «Новый агент» журналисты ресурса Android Authority обнаружили в боковой панели Gemini. В отличие от веб-интерфейса, где можно описать произвольную задачу для ИИ-агента, мобильное приложение предлагает только пять готовых шаблонов:
Трудно сказать, можно ли будет настраивать этих агентов, или средства управления ими будут минимальными. Учитывая персональный характер некоторых из них, можно сделать вывод, что Google не ограничится аудиторией корпоративных подписок, и пользоваться новыми функциями смогут все, даже те, кто не платит денег. Официальных комментариев от Google по данному вопросу, однако, не последовало. Apple AirPods с камерами могут выйти уже в сентябре
04.08.2026 [12:46],
Павел Котов
Apple довольно долго ведёт работу над наушниками AirPods, которые будут функционировать на основе визуальной модели искусственного интеллекта. Первоначально они планировались к выходу в этому году, затем стало известно, что производитель перенёс их на следующий. Теперь стало известно, что устройство всё-таки может выйти в этом. ![]() Первые слухи об Apple AirPods с камерами касались модели с индексом B798, утверждает аналитик Bloomberg Марк Гурман (Mark Gurman). Эта модель, как и сообщалось ранее, запланирована к выходу на 2027 году — речь идёт о продвинутой версии устройства. Но существует также вариант с модельным индексом B790, и этот вариант может дебютировать уже в этом году. Наушники с камерами Apple AirPods модели B790 находятся на более поздней стадии разработки — «упоминания о продукте уже появились в коде iOS 27, и его дебют в планах Apple намечен на этот год», сообщает аналитик. Упоминание Apple AirPods этой модели в июле обнаружил в коде один из разработчиков. Установить, в чём отличие версий B790 и B798, пока не удалось; нет даже ясности, выйдут ли на рынок обе модели. Предполагается, что эти Apple AirPods получат более длинные ножки для размещения камер и светодиодного индикатора, предупреждающего об отправке данных в облако. Британские власти ужесточили надзор за разработчиками ИИ после атак агентов на сторонние ресурсы
04.08.2026 [12:25],
Павел Котов
Британское Управление комиссара по вопросам защиты информации (ICO) заявило, что внимательно следит за развитием событий, связанных с OpenAI и Anthropic, после произошедших недавно хакерских атак, произведённых агентами искусственного интеллекта двух компаний.
Источник изображения: chris robert / unsplash.com Отрасль ИИ оказалась под пристальным вниманием властей США — администрация президента Дональда Трампа (Donald Trump) завершила разработку добровольных тестов на кибербезопасность; в Евросоюзе власти региона также вступили в переговоры с двумя лидерами отрасли. «Управление комиссара по вопросам защиты информации Великобритании регулярно проводит проактивные надзорные мероприятия в отношении разработчиков ИИ, в том числе OpenAI и Anthropic. Нам известно о затронувших отрасль недавних хакерских атаках, и мы внимательно следим за развитием событий», — заявили в ведомстве. Ранее OpenAI признала, что две её модели и ИИ-агенты вышли из-под контроля и взломали ресурсы платформы Hugging Face; впоследствии Anthropic сообщила, что некоторые её модели Claude в ходе тестов на кибербезопасность также взломали системы трёх компаний. Британские власти намерены рассмотреть вопрос о регулировании передовых моделей ИИ, если действующая добровольная система их тестирования перед развёртыванием перестанет обеспечивать достаточный уровень защиты населения. |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |