Сегодня 31 июля 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → агенты
Быстрый переход

ИИ-агент Gemini Spark теперь может использовать Chrome для автоматического просмотра веб-страниц, AI Pro стал доступен по всему миру

ИИ-агент Gemini Spark компании Google получил два крупных обновления. Одним из них является интеграция функции автоматического просмотра в браузере Chrome на настольных компьютерах.

 Источник изображения: Google

Источник изображения: Google

Ранее Gemini Spark имел доступ к удалённому веб-браузеру. Персональный ИИ-агент Google для автоматизации повседневных задач теперь может использовать Chrome на устройстве для просмотра веб-страниц, используя авторизованные учётные записи и сохранённые пароли. Это дополнение к другим инструментам, таким как «Подключённые приложения» (Workspace и Search), «Персональный интеллект», удалённый доступ к ПК с возможностью выполнения кода и Canvas.

После предоставления доступа пользователь увидит индикатор Gemini и автоматического просмотра в верхней панели Chrome. Для безопасности пользователю будет необходимо вручную подтверждать платежи и другие конфиденциальные действия, а браузер имеет защиту от внедрения запросов.

В качестве примера использования «утомительных веб-задач» Google приводит «запланированные просмотры сохранённых объявлений о продаже квартир или поиск вариантов перелёта и начало процесса бронирования». Интеграция Gemini Spark с Chrome сначала будет доступна в США, а в будущем — и в других регионах.

Кроме того, с сегодняшнего дня Gemini Spark станет доступен подписчикам Google AI Pro более чем в 160 странах. Ранее в этом месяце сервис стал доступен в США.

С момента запуска в мае в Gemini Spark появилось множество новых функций. Среди последних обновлений — интеграция с протоколом MCP и доступность приложения для Mac для локального управления настольными компьютерами.

Исследование показало, что ИИ-агенты уже научились лучше втираться в доверие к людям, чем реальные мошенники

Передовые ИИ-модели начинают представлять опасность не только с точки зрения их способности взлома компьютерной инфраструктуры, но и воздействия на психологию человека. Международная группа исследователей своим экспериментом доказала, что обученные методам социальной инженерии ИИ-агенты втираются в доверие к потенциальным жертвам мошеннических действий даже лучше своих коллег из плоти и крови.

 Источник изображения: Unsplash, Erik Mclean

Источник изображения: Unsplash, Erik Mclean

Свои усилия в этом научном эксперименте объединили представители четырёх университетов из Индии, Италии, Германии и Израиля, как повествует Wired. Исследователи поставили цель обучить передовые ИИ-модели западной разработки методу мошенничества, который в англоязычной терминологии получил обозначение «pig butchering» — буквально, «забой свиньи». Он подразумевает знакомство с потенциальной жертвой по сетевым каналам с удалённым взаимодействием, чаще всего под видом формирования романтических отношений. На этапе «вскармливания» злоумышленник пытается установить доверительные отношения с жертвой, длительное время никак не выдавая своих истинных намерений. В решающий момент жертве предлагается установить на своё устройство приложение, которое в дальнейшем может под предлогом инвестиций в криптовалюту использоваться для выманивания у жертвы денег.

В эксперименте приняли участие более двух десятков добровольцев, которым было предложено помочь учёным в исследовании онлайн-знакомств. Они в течение недели вели одновременную переписку с двумя незнакомцами, в роли одного из них выступал ИИ-агент, а вторым был реальный человек с опытом психологической манипуляции. При этом ИИ-агент был обучен приёмам мошенников на опыте реальных лиц, задержанных за соответствующую сетевую активность. В конце первой недели онлайн-знакомства участникам эксперимента было предложено скачать два разных приложения на своё мобильное устройство. Реальный человек предлагал мобильную игру, а созданный при помощи Anthropic Claude чат-бот предлагал установить программу, которую якобы он помог написать самой жертве. Подобное разведение приложений по назначению и происхождению требовалось для чистоты эксперимента, поскольку два одинаковых запроса могли бы насторожить потенциальных жертв.

Хотя эксперимент был довольно сжатым по времени, ведь реальные мошенники могут поддерживать тёплые онлайн-отношения с жертвой на протяжении нескольких месяцев, прежде чем реализовать свои намерения, его результаты оказались довольно интригующими. В 46 % случаев участники эксперимента согласились скачать предложенное чат-ботом приложение, тогда как реальному мошеннику удалось подтолкнуть к схожим действиям только 18 % участников. Фактически, это говорит о том, что ИИ-агенту удалось завоевать доверие большей части аудитории, чем опытному мошеннику. Когда потенциальных жертв попросили оценить степень доверия виртуальному компаньону по пятибалльной шкале, то ИИ-агент удостоился среднего балла в 3,78, а реальный человек — только 3,31. Из всего объёма недельной переписки 80 % сообщений было отправлено жертвами именно ИИ-агенту. Получается, что ему удалось быстрее расположить к себе участников эксперимента.

Из 22 участников эксперимента, что характерно, лишь один самостоятельно пришёл к выводу, что ведёт переписку с ИИ-агентом. Организаторы провели настройку ИИ-модели Claude, строго запретив ей выдавать свою искусственную сущность. Когда в конце недельного эксперимента организаторы признались, что один из двух собеседников был чат-ботом, выявить его безошибочно смогли 20 из 22 участников. При этом в процессе общения, как можно понять, у них была полная иллюзия того, что они общаются с человеком.

Отдельно была исследована способность современных ИИ-моделей раскрывать свою сущность при общении с человеком. Результат сильно разнился в зависимости от версии ИИ-модели и её авторства, но лучше всего скрываться смогла Google Gemini 3.1 Pro. Модели OpenAI ChatGPT 5.5 и Anthropic Claude Opus 5 при помощи правильно подобранных запросов признавали, что они являются плодом искусственного интеллекта, а вот Gemini упорствовала в отрицании этого факта. Представители Anthropic отметили, что в основной части эксперимента использовалась ИИ-модель Claude версии 2025 года, и в текущих вопросы безопасности проработаны гораздо лучше. Если перед Claude не ставилась прямая задача подталкивать собеседника к действиям по примеру мошенников, то на этапе формирования доверительных отношений с потенциальной жертвой эта ИИ-модель никак себя не выдавала и показывала высокую эффективность.

Эксперты поясняют, что о массовом переходе мошенников на сквозное использование ИИ в своих схемах пока говорить рано, поскольку использование труда специально ориентированных на это людей пока обходится дешевле. Нередко операторов таких колл-центров удерживают силой и угрозами, заставляя обрабатывать жертв дистанционно, и расходы организаторов таких схем ниже, чем в случае с активным использованием ИИ. С другой стороны, на разных этапах мошенники уже активно используют новые технологии: для генерации видео и изображений, призванных ввести жертву в заблуждение, а также для улучшения качества пересылаемых жертве текстовых сообщений, если переписка ведётся на разных языках, с которыми сами мошенники не так хорошо знакомы.

«Яндекс» выпустит в сентябре универсального ИИ-агента для офисных задач

Yandex B2B Tech (подразделение «Яндекса») готовится выпустить в сентябре нового ИИ-агента для бизнеса, который станет единой платформой для взаимодействия с корпоративными сервисами, заменив разрозненные ИИ‑инструменты, пишет Forbes.

 Источник изображения: Steve A Johnson/unsplash.com

Источник изображения: Steve A Johnson/unsplash.com

Главной особенностью нового агента станет универсальность, благодаря чему он сможет взять на себя значительную часть рабочих обязанностей менеджеров, аналитиков, бухгалтеров, маркетологов, специалистов по закупкам и т.д. По словам разработчиков, он сможет выполнять от 30 до 50 % задач офисных сотрудников, на которые уходит до трети рабочего времени. Универсальный агент использует в работе технологии Yandex AI Studio — платформы от Yandex Cloud для создания и внедрения ИИ-решений.

Агент поможет справляться не только с рутиной, но и с более сложными, многоэтапными задачами, сообщили в «Яндексе»: «Скажем, он может сравнить коммерческие предложения от поставщиков, выбрать лучшего и оформить закупку. Или помогать с корпоративным документооборотом: самостоятельно заполнять договоры по шаблону, отправлять их контрагентам и формировать закрывающие документы».

Согласно замыслу, чат с агентом станет единым окном для взаимодействия со всеми рабочими приложениями и инструментами — например, AmoCRM или «Контур.Фокус».

«Мы запускаем своего рода операционную ИИ-систему для бизнеса. Она меняет подход к взаимодействию с нейросетями. Компаниям больше не придется комбинировать множество готовых ИИ-приложений или создавать собственные, чтобы автоматизировать рабочие процессы», — сообщил руководитель Yandex AI Studio Артур Самигуллин.

Сообщается, что ИИ-агент будет распространяться по подписке с установленным лимитом, при превышении которого его использование будет оплачиваться по токенам по стандартной тарификации Yandex AI Studio.

Как отметил Forbes, ИИ-агентов, которых активно развивают практически все бигтехи, внедряют всё больше компаний. Согласно оценкам Axenix и МГУ, затраты на их внедрение в течение трёх лет составят более 950 млн руб. для корпораций, 200-300 млн руб. для крупных компаний, 30-60 млн руб. для среднего бизнеса, 5-15 млн руб. для малого. При этом совокупная экономия от внедрения ИИ-агентов может составить 15-40 % в зависимости от отрасли.

OpenAI, Anthropic и Google призвали власти США взять под контроль ИИ-гонку после инцидента с Hugging Face

OpenAI, Anthropic, Google, Meta✴ и другие ведущие разработчики искусственного интеллекта подписали совместное обращение к правительству США с призывом разработать механизмы контроля темпов развития передовых ИИ-систем. Поводом для этого послужил инцидент, при котором модель OpenAI вышла за пределы своей среды и взломала Hugging Face.

 Источник изображения: Gemini

Источник изображения: Gemini

Авторы заявления указывают на реальную угрозу того, что способность ИИ к самостоятельному исследованию приведёт к неконтролируемому ускорению прогресса, опережающему возможности человечества по обеспечению безопасности таких систем. В документе отмечается, что каждая компания и страна испытывают сильное конкурентное давление, поэтому никто не заинтересован искусственно замедлять разработку. Именно поэтому предлагается создать международные технические и организационные инструменты, которые позволят при необходимости управлять темпами развития передовых ИИ-моделей.

Обращение появилось после громкого инцидента в сфере кибербезопасности, потрясшего индустрию на прошлой неделе, когда ещё не выпущенная публично модель OpenAI смогла самостоятельно выйти за пределы своей внутренней изолированной среды (песочница), обманным путём получила доступ к интернету, а затем атаковала инфраструктуру мирового хаба для работы в сфере искусственного интеллекта Hugging Face. Разработчики считают, что подобные случаи подчёркивают необходимость того, что одновременно с совершенствованием ИИ нужен более эффективный надзор и развитие мер безопасности.

Среди подписавших обращение — директор по исследованиям OpenAI Марк Чэнь (Mark Chen), главный научный сотрудник Якуб Пахоцкий (Jakub Pachocki), сооснователи OpenAI Джон Шульман (John Schulman) и Войцех Заремба (Wojciech Zaremba), а также сооснователи Anthropic Джек Кларк (Jack Clark), Крис Ола (Chris Olah) и Бен Манн (Ben Mann). Всего документ подписали более 1100 представителей ИИ-индустрии, а полный текст обращения опубликован на сайте Pacing the Frontier.

Perplexity Personal Computer научился превращать ПК на Windows в автономного ИИ-агента

Компания Perplexity расширила функциональность своего агентного инструмента Personal Computer для использования с операционной системой Windows, чтобы можно было её применять на ПК на Windows в качестве локально работающей ИИ-системы, сообщил The Verge.

 Источник изображения: Perplexity

Источник изображения: Perplexity

Как и версия для Mac, выпущенная Perplexity в апреле, Personal Computer for Windows функционирует как «универсальный цифровой работник», который может получать доступ к локальным файлам и приложениям для выполнения действий от имени пользователя, таких как создание документов и обновление электронных таблиц.

Релиз основан на интеграции приложения Personal Computer, которое Perplexity запустила для приложений Microsoft 365 Workspace и программного обеспечения Teams в мае. Personal Computer for Windows призван заполнить оставшийся пробел, работая непосредственно в среде Windows, сообщается в пресс-релизе Perplexity. Компания отметила, что корпоративные задачи, для которых предназначен агентный инструмент, обычно выполняются на Windows-устройствах локально, «вне досягаемости ИИ».

«Теперь пользователи Microsoft могут попросить программу Personal Computer работать с локальными файлами, Microsoft Office 365 и веб-сайтами в одном месте, — заявила Perplexity. — Она создана для выполнения зачастую неупорядоченных корпоративных задач на локальных компьютерах».

Personal Computer for Windows доступна по подписке пользователям тарифов Max и Enterprise Max, стоимость которых начинается от $200 в месяц. Perplexity утверждает, что инструмент не использует для обучения данные компании, и что всегда уведомляет пользователей перед выполнением конфиденциальных действий, таких как отправка электронных писем и удаление файлов.

Microsoft представила ИИ, который сам ищет уязвимости ПО и устраняет их за минуты — он превзошёл Mythos 5

Microsoft представила первую специализированную модель MAI-Cyber-1-Flash кибербезопасности и новую агентную платформу Perception. Инструменты предназначены для автоматизации поиска уязвимостей в ПО и защиты корпоративных систем от атак с использованием ИИ, сообщает TechCrunch.

 Источник изображения: Grok

Источник изображения: Grok

Модель разработана специально для обнаружения сложных уязвимостей в больших кодовых базах и работает в связке с системой MDASH, предназначенной для автоматического поиска программных ошибок и их последующим исправлением. Новая платформа Perception дополняет этот процесс, развёртывая команды агентов для автоматизации рабочих процессов, связанных с безопасностью. По словам генерального директора Microsoft AI Мустафы Сулеймана (Mustafa Suleyman), в составе MDASH модель показала более высокие результаты в тесте Cyber Gym, чем Gemini, GPT 5.5 Cyber, GPT 5.6 Sol и Mythos 5.

Исполнительный вице-президент подразделения по безопасности Хаете Галло (Hayete Gallot) отметил, что хакеры всё чаще используют искусственный интеллект в своих атаках, а платформа Perception позволит в корпоративной среде отвечать на угрозы с той же скоростью и масштабом, используя собственные алгоритмы. Система задействует красные команды для симуляции атак, синие для выявления ошибок и зелёные для их устранения. Perception также поддерживает интеграцию с MDASH.

Ведущий инженер проекта Дэйв Уэстон (Dave Weston) описал новинку как значительный скачок в эффективности работы служб безопасности. Теперь ручной труд нескольких специалистов заменяется автоматическим поиском, ранжированием приоритетных угроз и исправлением кода за считанные минуты.

Предварительная версия MAI-Cyber-1-Flash и Perception станет доступна 3 ноября, а конкурировать им предстоит с аналогичными системами Anthropic и OpenAI, представленными в этом году.

OpenAI настроена интегрировать ChatGPT в умные очки сторонних разработчиков

Компания OpenAI готова в перспективе предложить клиентам более десятка умных устройств, и логично было бы предложить, что среди них наверняка появятся умные очки, но президент Грег Брокман (Greg Brockman) одновременно указывает на готовность стартапа интегрировать свои программные решения в интерфейс умных очков сторонних разработчиков.

 Источник изображения: Unsplash, Bakir Custovic

Источник изображения: Unsplash, Bakir Custovic

По крайней мере, издание CNet утверждает, что президент OpenAI на встрече с журналистами в Нью-Йорке говорил именно о такой возможности. Компания уже предлагает ChatGPT Live — голосового ИИ-ассистента, который позволяет общаться с пользователем довольно натурально. По словам Брокмана, фирменный голосовой ассистент в конечном итоге должен получить возможность контролировать сторонние приложения. Сейчас ChatGPT Live связан с приложением Codex, которое помогает создавать программный код по запросам пользователей на естественном языке, но такая связь вовсе не обязательно должна существовать, по мнению Брокмана. Он напомнил, что Codex может полностью контролировать использование компьютера, и с этой задачей он будет справляться всё лучше и лучше.

По меньшей мере, человеку придётся всё меньше использовать клавиатуру для взаимодействия с компьютером. Как отмечает Брокман, работа по набору текста на клавиатуре является лишь фазой развития человечества, изначально никто и не планировал связывать себя подобной технологией. Компания Meta✴ недавно анонсировала обновление для своего агента Muse Spark, и подобные решения наверняка будут двигаться в сторону адаптации к моделям использования умных очков. Брокман заявил представителю CNet, что OpenAI очень заинтересована в интеграции своих решений, она готова предлагать разработчикам API, который поможет им реализовать подобную интеграцию. Просто сейчас эти API находятся на ранней стадии развития, а OpenAI хочет добиться того, чтобы этот интерфейс был доступен на всех типах устройств. Если умные очки оснащаются камерами, то сторонние ИИ-приложения должны иметь доступ к ним, чтобы эффективнее обрабатывать информацию о контексте, в котором находится пользователь.

Если Gemini скоро пропишется в программном обеспечении Android XR для умных очков, то решения Anthropic и OpenAI подобной интеграции пока не подразумевают. Некоторые очки используют опосредованный доступ к моделям OpenAI, но он уступает в качестве реализации потенциальному прямому взаимодействию с ними. Выпуская собственные умные устройства, OpenAI хочет продемонстрировать такой подход к решению проблем, которым до сих пор не пользовались другие компании. Умные очки рано или поздно обзаведутся поддержкой ИИ на том уровне реализации, который будет удобен для пользователей. Это заметно уже по активности разработчиков в текущем году.

Раскрыты подробности нечаянной атаки вышедших из-под контроля ИИ-агентов OpenAI на Hugging Face

На минувшей неделе платформа искусственного интеллекта Hugging Face пережила нестандартную кибератаку, которую произвела группа ИИ-агентов. Впоследствии выяснилось, что руководили ей не злоумышленники, а ИИ-модели OpenAI, которые проходили тест на кибербезопасность, но вышли из-под контроля, пишет The Wall Street Journal.

 Источник изображения: Growtika / unsplash.com

Источник изображения: Growtika / unsplash.com

Инцидент послужил одним из первых примеров сценариев выхода ИИ из-под контроля, которых давно опасались исследователи в области кибербезопасности. Механизмы взлома были чрезвычайно нестандартными. «Это лишено смысла. Этот парень просто смотрит на наборы данных по кибербезопасности. Злоумышленнику-человеку это не нужно. Ему нужно что-то, что он мог бы продать», — восстановил ход своих мыслей соучредитель и главный научный сотрудник Hugging Face Томас Вольф (Thomas Wolf). Злоумышленниками оказались ИИ-модели OpenAI, которые прорвались из исследовательской сети разработчика и 11 июля взломали ресурсы Hugging Face; они оставались активными в интернете несколько дней, прежде чем их удалось остановить. И сделать это помогла открытая китайская ИИ-модель — закрытые американские отказались, сославшись на собственные ограничения.

Многие вопросы пока остаются без ответов. Взламывали ли ИИ-модели другие сайты или ресурсы отдельных лиц? Как долго продолжалась атака? Обманывали ли они в других тестах на производительность? OpenAI пока не ответила ни на один из них. А участие китайской модели как средства защиты — это контраргумент для политиков, а также OpenAI и Anthropic, которые предлагают ограничить для них доступ.

Началось всё с запуска испытания на кибербезопасность ExploitGym. Оно включает серию из 900 тестов, которым подвергается модель ИИ. Системе демонстрируется известная ошибка, показывается схема её активации, и ставится задача взломать систему. ИИ требуется преобразовать полученную информацию в эксплойт — код, реализующий эту атаку. Проникнув в систему, ИИ должен доказать это, захватив длинную строку случайно сгенерированных букв и цифр, которые хранятся в системе.

 Источник изображения: Brecht Corbeel / unsplash.com

Источник изображения: Brecht Corbeel / unsplash.com

Обычно OpenAI ограничивает возможности своих моделей, чтобы они не занимались взломом, которого требует ExploitGym, но в тот раз компания убрала средства защиты, чтобы посмотреть, на что способны модели в неконтролируемом режиме. Тестировалась передовая модель GPT-5.6 Sol и ещё одна, более совершенная, которая ещё не вышла. Две модели пришли к выводу, что вместо выполнения задания ExploitGym они взломают песочницу — собственную систему, где они находятся, выйдут в интернет и обманут систему во время теста.

По причинам, установить которые не удалось, они решили, что ответы содержатся на платформе Hugging Face. Когда развернулась атака, компании Hugging Face поступили предупреждения от отслеживающих подобные инциденты ИИ-агентов: кто-то получил несанкционированный доступ к некоторым из её систем. Но это было не похоже ни на что, с чем Hugging Face сталкивалась раньше. Хакер действовал так, словно он из будущего. Воспользовавшись учётными данными неизвестного происхождения, ИИ-злоумышленник сформировал «рой» ИИ-агентов короткого действия, которые провели разведку сети компании, совершив 17 000 операций.

Обнаружив вторжение, Hugging Face попыталась обратиться к передовым американским моделям Anthropic Fable 5 и предшествующей ей Opus для анализа журналов событий. Но поскольку в журналах содержались элементы самой кибератаки, обе модели отказались от их анализа, сославшись на свои ограничения. Поэтому Hugging Face обратилась к открытой китайской модели Z.AI GLM 5.2. Компания сумела отключить ИИ-хакеров, сбросить пароли и восстановить скомпрометированные фрагменты своей сети. Утечки данных клиентов не произошло. Нет ясности, были ли задачи ExploitGym, которые пытались решить модели OpenAI, сложнее, чем атака, которую они развернули, чтобы украсть ответы, и удалось ли их, собственно, найти. Ирония в том, что они успешно организовали беспрецедентную кибератаку, чтобы избежать проверки на навыки взлома.

Джек Дорси представил конкурента Slack и GitHub — открытый мессенджер Buzz с ИИ-агентами и вайб-кодингом

Соучредитель платформ Twitter и Block Джек Дорси (Jack Dorsey) анонсировал приложение под названием Buzz. Платформа выступает конкурентом одновременно корпоративному мессенджеру Slack и репозиторию GitHub — она предлагает рабочие чаты, объединяя коллег и ИИ-агентов.

 Источник изображения: buzz.xyz

Источник изображения: buzz.xyz

Мессенджер Buzz «независим от модели, децентрализован, самодостаточен и имеет открытый исходный код». Разработчиком платформы выступила компания Джека Дорси Block, которая также управляет такими продуктами как Square, Cash App, Afterpay и Tidal. Современные стартапы всё чаще используют в работе агентов с искусственным интеллектом, но сотрудникам может быть непросто вести совместную работу на разных платформах, поэтому Buzz предполагает присутствие нескольких рабочих процессов в едином пространстве. Мессенджер очень похож на Slack, но здесь есть встроенные ИИ-агенты и возможность управлять проектами на GitHub в одном окне.

Платформа поставляется с открытым исходным кодом, и разработчики могут настраивать инстансы Buzz под рабочие процессы своих компаний. Для новых организаций, которые не успели укорениться в традиционных корпоративных мессенджерах вроде Slack, приложение Buzz может оказаться достойным внимания. Разработчики, однако, предупреждают, что сервис находится на «ранней стадии», поэтому и торопиться с его внедрением пока не следует. Исходный код платформы опубликован на GitHub, есть десктопные клиенты для Apple macOS, Microsoft Windows и Linux.

OpenAI представила программу «ChatGPT для малого бизнеса»

OpenAI представила программу «ChatGPT for small business», ориентированную на внедрение искусственного интеллекта в рабочие процессы малых предприятий. Она предполагает минимум технических нововведений — компания предложила небольшим компаниям помощь в развёртывании новых решений.

 Источник изображения: openai.com

Источник изображения: openai.com

Программа для малого бизнеса включает три основных направления. OpenAI намерена проводить вебинары по конкретным продуктам с демонстрациями, как небольшие предприятия могут использовать ChatGPT в повседневной работе: средства автоматизации и схемы рабочих процессов в области бухгалтерского учёта, маркетинга, электронной коммерции и по другим направлениям. В вебинарах предусмотрено участие как сотрудников OpenAI, так и партнёров компании; по итогам мероприятий проводятся сессии вопросов и ответов, которые помогают участникам непосредственно применять знания в своём бизнесе.

Работники подразделения OpenAI Academy намереваются проводить очные мероприятия для обучения предпринимателей под руководством опытных специалистов. В прошлом году компания провела серию мероприятий Small Business AI Jams, в ходе которых 78 % участников всего за день построили полнофункциональные рабочие процессы; 42 % удалось сэкономить более пяти часов рабочего времени в неделю.

OpenAI предлагает пакеты плагинов, навыков ИИ и предложений от партнёров компании для работы с наиболее популярными у малого бизнеса инструментами, такими как Shopify, Intuit, Slack, Atlassian и Wix. Навыки разрабатываются специально для распространённых рабочих процессов малого бизнеса; эксклюзивные акции упростят начало работы с уже готовыми инструментами.

Компания предлагает малым компаниям внедрять в работу её актуальные продукты: ИИ-агента ChatGPT Work, предназначенного для многоэтапного решения задач, а также семейство новых и самых мощных моделей GPT-5.6.

OpenAI признала «причастность» своих ИИ-моделей к взлому платформы Hugging Face

OpenAI подтвердила, что инцидент, затронувший крупнейшую открытую платформу Hugging Face, был вызван собственными предрелизными моделями компании во время внутреннего тестирования. Первоначально Hugging Face сообщала, что атаку совершил «внешний ИИ-агент», однако последующее расследование установило иную причину.

 Источник изображения: Grok

Источник изображения: Grok

По сообщению TechCrunch, инцидент произошёл во время проверки модели GPT-5.6 Sol и других моделей, для которых в рамках оценки кибервозможностей были ослаблены ограничения. Целью эксперимента являлось прохождение публичного бенчмарка ExploitGym, предназначенного для измерения способности ИИ выполнять атаки с использованием уже известных уязвимостей. Несмотря на отсутствие предусмотренного доступа к интернету, модели обнаружили неизвестную ранее уязвимость в программе установки пакетов, позволившую выйти за пределы изолированной среды.

Получив доступ к сети, модели сделали вывод, что Hugging Face может размещать модели, наборы данных и решения для ExploitGym. После этого они нашли способ получить доступ к секретной информации, содержащей ответы для прохождения теста. Как отметили в OpenAI, модели были сосредоточены исключительно на достижении поставленной цели, предпринимая для этого максимально возможные действия.

Согласно первоначальному сообщению Hugging Face, атака состояла из тысяч отдельных операций, выполнявшихся через множество кратковременно существующих изолированных сред с использованием распределённой инфраструктуры управления. В итоге модели смогли получить тестовые результаты непосредственно из производственной базы данных Hugging Face, фактически обойдя механизм проверки.

После расследования OpenAI сообщила, что уже выявила и раскрыла обнаруженные уязвимости, а также совместно с Hugging Face продолжает анализировать обстоятельства инцидента. Кроме того, компания намерена внедрить дополнительные механизмы контроля, затрагивающие как процесс тестирования моделей, так и связанную с ним инфраструктуру, чтобы предотвратить повторение подобных ситуаций в будущем.

ИИ-платформу Hugging Face атаковали вредоносные ИИ-агенты

В рабочую инфраструктуру платформы искусственного интеллекта Hugging Face проникли ИИ-агенты, которые взломали несколько систем и учётных записей. Коммерческие ИИ-модели оказались бесполезны при расследовании инцидента, и пришлось подключить открытую китайскую Z.ai GLM 5.2.

 Источник изображения: Steve A Johnson / unsplash.com

Источник изображения: Steve A Johnson / unsplash.com

В ходе вторжения, «проведённого полностью автономной системой ИИ-агентов», был скомпрометирован «ограниченный набор» внутренних данных Hugging Face и «несколько» учётных данных, которые использовались её сервисами. На текущий момент не удалось обнаружить «доказательств вмешательства в общедоступные модели наборы данных или пространства, доступные пользователям, и наша цепочка поставок ПО (образцы контейнеров и опубликованные пакеты) была проверена на безопасность».

Установить, какую модель использовали злоумышленники для управления группой агентов, не удалось. Они выполнили несколько тысяч действия в кратковременных песочницах, используя расположенные на доступных сервисах мигрирующие системы управления. Примечательно, что закрытые коммерческие модели при анализе инцидента оказались бесполезными: когда в них начали вводить реальные команды атаки, эксплойты, артефакты средств управления и другие данные, эти модели ответили отказом из-за сработавших систем безопасности. «Злоумышленник был ограничен политикой запрета использования, а наша собственная работа по анализу инцидентов была заблокирована защитными механизмами размещённых моделей, которые мы опробовали сначала», — рассказали в службе безопасности Hugging Face.

В итоге администрация платформы провела анализ данных на открытой китайской модели Z.ai GLM 5.2, которую запустили на собственных ресурсах Hugging Face. Ещё одно преимущество такого решения — не понадобилось передавать данные злоумышленников и учётные данные на внешние ресурсы. Инцидент помог Hugging Face сделать важные выводы. «Имейте работоспособную модель, которую вы можете запустить на своей собственной инфраструктуре, проверенную и готовую к запуску до инцидента, чтобы избежать блокировки защитными механизмами и не допустить выход информации и учётных данных злоумышленника за пределы вашей среды», — заключили администраторы платформы.

Компании начали проверять кандидатов на дипфейки — хакеры с ИИ всё чаще подсовывают «синтетических сотрудников»

По мере распространения технологий генеративного искусственного интеллекта растут не только внешние угрозы в сфере кибербезопасности, но и внутренние. Компании, которые исторически полагались на традиционные методы защиты от кибератак изнутри, теперь вынуждены сталкиваться с новыми вызовами, которые возникли благодаря распространению технологий ИИ.

 Источник изображения: Unsplash, Azamat E

Источник изображения: Unsplash, Azamat E

Как поясняет Financial Times, раскрытая в прошлом году деятельность северокорейской группировки хакеров показала, насколько изобретательными могут быть организаторы кибератак на инфраструктуру американских компаний. Прежде всего, злоумышленникам удалось внедриться в более чем 100 компаний на территории США под видом более чем 80 американских граждан, чьи персональные данные были похищены. Активность хакеров позволила им выручить более $5 млн. По итогам расследования были арестованы 8 граждан США, которые содействовали северокорейским хакерам, размещая в жилых помещениях на американской территории «фермы ноутбуков», которые позволяли работодателям считать, что на них работают в удалённом режиме настоящие американцы. При этом установленные на этих американских «фермах» ноутбуки фактически удалённо управлялись из-за границ страны.

По статистике оператора связи Verizon, из 22 000 инцидентов в сфере кибербезопасности в мире в текущем году примерно 12 % имели отношение к атакам на инфраструктуру компаний изнутри. Злонамеренные действия от атакующих, находящихся внутри компании, исторически причиняли самый серьёзный ущерб, поскольку хакер в этом случае обычно хорошо знаком со слабыми местами в защите и понимает, какие элементы проще и выгоднее атаковать. Кроме того, системы генеративного ИИ сейчас позволяют создавать «синтетических инсайдеров», которые выдают себя за реальных сотрудников компании, в случае необходимости похищая их внешность и голос с помощью цифровых технологий. Компании в таких условиях усилили отбор потенциальных соискателей на замещение вакансий, и к процессу подключаются специалисты по безопасности, которые ранее не всегда привлекались кадровыми подразделениями.

Эксперты поясняют, что бороться с дипфейками на этапе удалённых собеседований можно довольно простыми методами. Достаточно попросить соискателя помахать рукой или повернуть голову в сторону, чтобы с высокой вероятностью выявить подлог. Подозрительная активность работающих на удалёнке сотрудников тоже должна мониториться специализированным ПО. В 62 % случаев, согласно статистике Fortinet, инциденты в сфере информационной безопасности в прошлом году имели место в результате человеческой ошибки или утечки учётных данных. Самые серьёзные инциденты в этой сфере могут обходиться бизнесу в сумму от $1 млн до $10 млн.

Представители Google подчёркивают, что так называемое «теневое использование ИИ» сотрудниками тоже представляет угрозу для защиты информации компаний. Если какая-то чувствительная информация загружается сотрудником в чат-бот, она потом легко может стать достоянием злоумышленников. Угроза обретает особую актуальность с учётом распространения ИИ-агентов, которые могут выступать в роли виртуальных сотрудников. Их, в свою очередь, можно вовлечь в неправомерную деятельность, отмечает Financial Times. На корпоративном рынке появляется всё больше ПО, призванного следить за сохранностью конфиденциальных данных в условиях повального внедрения ИИ. Становится сложно обеспечить надёжность функционирования инфраструктуры и при этом не отпугнуть сотрудников излишним недоверием к ним со стороны работодателя. Важно чётко выделять индикаторы риска, но при этом не тормозить бизнес-процессы всеобщим недоверием и тотальной слежкой.

Популярные ИИ-приложения научились вовлекать в ботнеты

Исследователи из американской компании Intuit, а также израильских Тель-Авивского университета и Университета Технион разработали схему атаки HalluSquatting на приложения с искусственным интеллектом. Она позволяет выполнять на компьютерах пользователей произвольный код и формировать из ИИ-приложений ботнеты.

 Источник изображения: Towfiqu barbhuiya / unsplash.com

Источник изображения: Towfiqu barbhuiya / unsplash.com

В основу атаки легла склонность ИИ-моделей к галлюцинациям — выдаче правдоподобных, но заведомо неверных ответов. Ранее была известна схема атаки TypoSquatting. Она предполагает создание вредоносных ресурсов, адреса которых незначительно отличаются от адресов популярных сайтов — злоумышленники надеются, что пользователь совершит опечатку.

Аналогичным образом работает схема HalluSquatting — злоумышленники рассчитывают, что ИИ-модель систематически ссылается на некий несуществующий ресурс либо проект, регистрируют его и размещают по соответствующему адресу скрытый запрос к модели ИИ, например, на выполнение вредоносного кода без участия пользователя. В результате из пострадавших компьютеров формируется ботнет — сеть для проведения DDoS-атак или развёртывания теневых прокси-серверов.

При тестировании этого метода атаки исследователи обращались к таким сервисам помощника программиста как Cursor, Cursor CLI, Windsurf, GitHub Copilot, Cline и Gemini CLI, к приложениям ИИ-агентов OpenClaw, ZeroClaw и NanoClaw. Они успешно добились удалённого доступа к большим языковым моделям и управления ими, а также удалённого выполнения кода.

В качестве защиты от подобных атак исследователи предлагают блокировать прямое обращение к ресурсам, чтобы ИИ-приложения сначала подключали штатные средства поиска, а также ужесточить схемы наименования проектов и перейти на глобально уникальные имена ресурсов. Но это, признают эксперты, потребует сотрудничества различных сторон и займёт некоторое время.

«Сбер» представил платформу GigaCode Desktop для автоматизации задач силами ИИ-агентов

«Сбер» представил GigaCode Desktop — новое программное решение, использующее команду специализированных ИИ-агентов в едином интерфейсе. Приложение предназначено не только для генерации кода, но и для выполнения широкого спектра других задач с помощью различных ИИ-агентов. Продукт уже активно используется в банке и готовится к выходу на внешний рынок.

 Источник изображения: Steve Johnson / Unsplash

Источник изображения: Steve Johnson / Unsplash

GigaCode Desktop представляет собой экосистему узкоспециализированных ИИ-агентов, которые работают согласованно. Они способны совместно искать информацию, проводить анализ документов, составлять отчёты, подготавливать презентации, отслеживать прогресс и координировать свои действия.

Такая автоматизация рутинных процессов позволяет пользователям сконцентрироваться на более сложных аналитических и творческих задачах. Решение предназначено не только для разработчиков, но и для бизнес-аналитиков, тестировщиков, менеджеров проектов, продуктовых менеджеров и специалистов по информационной безопасности.

Внедрение GigaCode Desktop является частью реализации концепции AI-Disrupt PDLC, которая предусматривает создание комплексного портфеля инструментов Сбера для всех этапов разработки продукта. В текущую экосистему уже входят GigaCode (для генерации и анализа кода), GigaView (для анализа продуктивности разработчиков), GigaIDE (интегрированная среда разработки), GitVerse (платформа для совместной работы с кодом) и GigaStudio (система создания веб-приложений с помощью генеративного ИИ).

«Значительная часть интеллектуального труда до сих пор состоит из операционной рутины: поиска информации, оформления документов, аналитики, подготовки отчётов и постоянного переключения между приложениями. На эти процессы уходит до половины рабочего времени. ИИ-агенты способны взять их на себя, экономя каждому сотруднику несколько часов в неделю. Для крупной компании это эквивалент тысяч дополнительных человеко-часов. При работе со сложными бизнес-процессами GigaCode Desktop переводит взаимодействие из формата отдельных диалогов в режим управления группой автономных агентов. Платформа ускоряет командную работу и органично дополняет линейку решений, заложенных в нашу концепцию AI-трансформации разработки программного обеспечения — AI-Disrupt PDLC», — прокомментировал старший вице-президент и руководитель блока «Технологии» Сбербанка Кирилл Меньшов.


window-new
Soft
Hard
Тренды 🔥
Финансовый отчёт Frictional Games рассекретил «новую версию» культового хоррора Amnesia: The Dark Descent 12 мин.
MudRunner с подвохом: внедорожный симулятор Prospice отправит игроков доставлять проклятые грузы в погоне за оккультным знанием 58 мин.
Anthropic трижды поймала свои ИИ-модели во взломе чужих систем 2 ч.
Конфликт Anthropic и Пентагона получил неожиданный поворот — судью не убедили доказательства опасности технологий компании 4 ч.
ИИ-агент Gemini Spark теперь может использовать Chrome для автоматического просмотра веб-страниц, AI Pro стал доступен по всему миру 4 ч.
Google повысит безопасность Chrome за счёт обновления браузера без его полной перезагрузки 4 ч.
Новая статья: The Mermaid Mask — замечательный подводный детектив. Рецензия 10 ч.
OpenAI снизила расценки и расширила лимиты на две из трёх ИИ-модели GPT-5.6 11 ч.
ИИ привёл к перерасходу бюджета на 860 % — Amazon признала, что нейросети сделали ошибки «катастрофически дорогими» 11 ч.
Австралия запустила судебное разбирательство против Telegram — мессенджер обвиняют в распространении пропаганды терроризма 16 ч.
Недопоставки iPhone, Mac и iPad вскоре существенно усилятся, предупредила Apple — акции упали на 5,5 % 18 мин.
Квантовое превосходство Шрёдингера: IBM придумала, как доверять результатам квантовых компьютеров 20 мин.
В России стартовали продажи смартфонов Huawei Pura 90s и наушников-клипс FreeClip 2 S 41 мин.
HUAWEI Pura 90s Pro Max: прощай, тяжелый рюкзак 2 ч.
Электрическая «выделенка» для ЦОД: Amazon просит разрешить ей модернизировать энергосети за свой счёт 5 ч.
Brookfield и NextEra Energy запустят 1,2-ГВт ИИ ЦОД на месте бывшего завода по обогащению урана в Кентукки 5 ч.
Qualcomm намерена заработать в 2029 году на чипах для ЦОД $15 млрд 5 ч.
В Солнечной системе впервые обнаружен «трёхглавый» астероид — у него есть своя микролуна 11 ч.
Google выпустила ИИ-модель Gemini Robotics 2, которая научила роботов двигаться почти как люди 11 ч.
ИИ и VR ускорили строительство завода TSMC по выпуску 1,4-нм чипов — оно завершится к апрелю 2027 года 13 ч.