|
Опрос
|
реклама
Быстрый переход
Сорвавшиеся с поводка ИИ-агенты OpenAI взломали не только Hugging Face
29.07.2026 [11:13],
Павел Котов
Агенты искусственного интеллекта OpenAI в ходе инцидента со взломом платформы Hugging Face получили несанкционированный доступ не только к её ресурсам, но и как минимум к четырём общедоступным сервисам, для входа в которые они использовали открытые учётные данные, сообщил разработчик.
Источник изображения: Fotis Fotopoulos / unsplash.com Уникальный инцидент в области кибербезопасности, возникший при тестировании ИИ-моделей OpenAI, оказался более масштабным, чем компания сообщила первоначально. На текущий момент установлено, что ИИ-агенты использовали четыре учётные записи на общедоступных сервисах в рамках попытки взлома Hugging Face. Эти учётные данные, предположительно, были опубликованы в открытом доступе. Одна из учётных записей, скомпрометированных ИИ-агентами OpenAI, использовалась в качестве «исходящего ретранслятора и промежуточного пути» — возможно, чтобы скрыть источник атаки на Hugging Face. В качестве вспомогательного средства в проведении взлома для хранения данных использовалась другая учётная запись. В одном из случаев жертвой взлома пал некий клиент облачной платформы Modal — ИИ OpenAI обнаружил уязвимость в кодовой базе этого клиента, но сама платформа скомпрометирована не была, заверили в её администрации. ИИ-агенты OpenAI получили административный доступ к нескольким внутренним кластерам Kubernetes платформы Hugging Face, доступ root на ключевой сервер и доступ на запись к подсети репозиториев исходного кода на GitHub. Они зарегистрировали в корпоративной сети 181 устройство, используя украденные учётные данные, и получили доступ ко внутренним системам, где Hugging Face разрабатывает и тестирует собственные кодовые базы. В качестве «внешней стартовой площадки» для атаки использовалась минимум одна сторонняя песочница — в ней ИИ выполнял команды с привилегиями администратора и использовал её в качестве контрольной, промежуточной и исходящей базы для всей кампании. Проводя масштабную кибератаку, две передовые ИИ-модели OpenAI, по сути, пытались обмануть тест на кибербезопасность ExploitGym, пришли к выводу эксперты Hugging Face. Вместо того, чтобы решать задачи бенчмарка, они предположили, что ответы могут храниться где-то на серверах платформы, и решили их украсть. Разработчики ExploitGym ранее отмечали, что ИИ-системы иногда уклоняются от заданных сценариев и пытаются решить задачи, эксплуатируя уязвимости, отличные от предполагавшихся. Но этот случай явно был крайним. Hugging Face потребовала «радикальной прозрачности» после беспрецедентной атаки взбесившегося агента OpenAI
26.07.2026 [22:41],
Владимир Фетисов
Не так давно OpenAI признала, что одна из ИИ-моделей компании взломала ИИ-платформу Hugging Face. На это отреагировал гендиректор Hugging Face Клем Деланг (Clem Delangue), заявивший в соцсети X, что летит в Сан-Франциско, чтобы «поговорить с этим самостоятельным агентом». Позднее он рассказал, о чём шла речь во время встречи с представителями OpenAI.
Источник изображения: AI Деланг сообщил, что призвал OpenAI к «радикальной прозрачности» и попросил «опубликовать логи этого самостоятельного агента, чтобы всё исследовательское сообщество могло изучить, что именно произошло». Он также потребовал предоставить «больше возможностей для защитников», призвав OpenAI выделить вычислительные мощности на сумму в $100 млн, «чтобы помочь сообществу Hugging Face создать мощные решения для киберзащиты с использованием лучших открытых и закрытых моделей». «Первая автономная кибератака с использованием агента — это беспрецедентное событие. Оно заслуживает беспрецедентного ответа!», — уверен Деланг. Несмотря на автономный характер атаки, эксперты по кибербезопасности предполагают, что её можно списать на человеческий фактор. Речь об очевидной неспособности OpenAI правильно настроить тестовую среду, которая должна была быть полностью изолированной. OpenAI целую неделю не замечала, что её ИИ-агенты взломали Hugging Face
25.07.2026 [11:18],
Павел Котов
Агенты искусственного интеллекта под управлением моделей OpenAI несколько дней кряду вели хакерскую деятельность по взлому ресурсов технологической платформы Hugging Face, но OpenAI не замечала этого, пока угрозу не локализовали в ФБР и не вынесли компании предупреждение, сообщает Reuters со ссылкой на знакомые с расследование источники.
Источник изображений: Brecht Corbeel / unsplash.com ИИ-агент — программа, способная сама принимать решения и выполнять сложные задачи практически без человеческого контроля, — попытался вырваться из изолированной среды тестирования OpenAI около 9 июля. Вторжение на платформу инструментов и моделей ИИ Hugging Face началось двумя днями позже, 11 июля, и продолжалось до 13 июля, сообщил её соучредитель Томас Вульф (Thomas Wolf). OpenAI потребовались ещё несколько дней, чтобы понять, что за взломом стоят её ИИ-агенты; обе компании сообщили об этом 20 июля. А 21 июля OpenAI сделала публичное заявление, что одна из её моделей вышла из-под контроля и совершила взлом Hugging Face, и это уже привлекло внимание общественности. Многие подробности взлома, в том числе срок, в течение которого действия ИИ-агента оставались незамеченными для разработчика, ранее не разглашались. Hugging Face готовится опубликовать график произошедшего, но о происходящем в OpenAI компания говорить не может, отметил господин Вульф. Инцидент изучается при участии внешних консультантов — по итогам проверки будет опубликован отчёт. Инцидент во многом повторил научно-фантастические сценарии, при которых люди теряют контроль над опасными системами ИИ. Произошедшее поднимает новые вопросы о процедурах безопасности в компании, указывают эксперты. ![]() OpenAI положила начало инциденту, когда тестировала возможности в области кибербезопасности двух передовых моделей ИИ: GPT-5.6 Sol и второй, ещё более мощной. К этому моменту компания уже фиксировала признаки странного поведения собственных систем. В одном из случаев модель оставила записи, предположительно адресованные будущим версиям самой себя. В инфраструктуре OpenAI обнаружились заметки с инструкциями, как агенты могут обойти внутренние ограничения OpenAI. Случаи отключения систем мониторинга выявлялись и в прежних испытаниях моделей. Компания осознала, что её модели совершили взлом платформы только после того, как Hugging Face 16 июля предала инцидент огласке. То есть между моментом, когда OpenAI обнаружила признаки тревожного поведения ИИ и моментом, когда она осознала, что несёт ответственность за взлом, прошла как минимум неделя. В выходные 18 и 19 июля сотрудники OpenAI обнаружили во внутренних журналах записи, свидетельствующие, что её ИИ-агенты вышли из-под ограничений тестовой среды. Компания часто проводит несколько различных оценок моделей, все они работают на очень высоких скоростях и генерируют такие огромные объёмы данных, что сотрудники не всегда могут за ними угнаться. К тому моменту, как OpenAI связалась с Hugging Face, та уже сообщила о взломе в ФБР. Инцидент бросил тень на OpenAI, но он должен вызвать вопросы о том, насколько ведущие разработчики ИИ готовы инвестировать в средства безопасности, участвуя в гонке за создание самых умных и быстрых моделей, говорят эксперты. Раскрыты подробности нечаянной атаки вышедших из-под контроля ИИ-агентов OpenAI на Hugging Face
24.07.2026 [12:58],
Павел Котов
На минувшей неделе платформа искусственного интеллекта Hugging Face пережила нестандартную кибератаку, которую произвела группа ИИ-агентов. Впоследствии выяснилось, что руководили ей не злоумышленники, а ИИ-модели OpenAI, которые проходили тест на кибербезопасность, но вышли из-под контроля, пишет The Wall Street Journal.
Источник изображения: Growtika / unsplash.com Инцидент послужил одним из первых примеров сценариев выхода ИИ из-под контроля, которых давно опасались исследователи в области кибербезопасности. Механизмы взлома были чрезвычайно нестандартными. «Это лишено смысла. Этот парень просто смотрит на наборы данных по кибербезопасности. Злоумышленнику-человеку это не нужно. Ему нужно что-то, что он мог бы продать», — восстановил ход своих мыслей соучредитель и главный научный сотрудник Hugging Face Томас Вольф (Thomas Wolf). Злоумышленниками оказались ИИ-модели OpenAI, которые прорвались из исследовательской сети разработчика и 11 июля взломали ресурсы Hugging Face; они оставались активными в интернете несколько дней, прежде чем их удалось остановить. И сделать это помогла открытая китайская ИИ-модель — закрытые американские отказались, сославшись на собственные ограничения. Многие вопросы пока остаются без ответов. Взламывали ли ИИ-модели другие сайты или ресурсы отдельных лиц? Как долго продолжалась атака? Обманывали ли они в других тестах на производительность? OpenAI пока не ответила ни на один из них. А участие китайской модели как средства защиты — это контраргумент для политиков, а также OpenAI и Anthropic, которые предлагают ограничить для них доступ. Началось всё с запуска испытания на кибербезопасность ExploitGym. Оно включает серию из 900 тестов, которым подвергается модель ИИ. Системе демонстрируется известная ошибка, показывается схема её активации, и ставится задача взломать систему. ИИ требуется преобразовать полученную информацию в эксплойт — код, реализующий эту атаку. Проникнув в систему, ИИ должен доказать это, захватив длинную строку случайно сгенерированных букв и цифр, которые хранятся в системе.
Источник изображения: Brecht Corbeel / unsplash.com Обычно OpenAI ограничивает возможности своих моделей, чтобы они не занимались взломом, которого требует ExploitGym, но в тот раз компания убрала средства защиты, чтобы посмотреть, на что способны модели в неконтролируемом режиме. Тестировалась передовая модель GPT-5.6 Sol и ещё одна, более совершенная, которая ещё не вышла. Две модели пришли к выводу, что вместо выполнения задания ExploitGym они взломают песочницу — собственную систему, где они находятся, выйдут в интернет и обманут систему во время теста. По причинам, установить которые не удалось, они решили, что ответы содержатся на платформе Hugging Face. Когда развернулась атака, компании Hugging Face поступили предупреждения от отслеживающих подобные инциденты ИИ-агентов: кто-то получил несанкционированный доступ к некоторым из её систем. Но это было не похоже ни на что, с чем Hugging Face сталкивалась раньше. Хакер действовал так, словно он из будущего. Воспользовавшись учётными данными неизвестного происхождения, ИИ-злоумышленник сформировал «рой» ИИ-агентов короткого действия, которые провели разведку сети компании, совершив 17 000 операций. Обнаружив вторжение, Hugging Face попыталась обратиться к передовым американским моделям Anthropic Fable 5 и предшествующей ей Opus для анализа журналов событий. Но поскольку в журналах содержались элементы самой кибератаки, обе модели отказались от их анализа, сославшись на свои ограничения. Поэтому Hugging Face обратилась к открытой китайской модели Z.AI GLM 5.2. Компания сумела отключить ИИ-хакеров, сбросить пароли и восстановить скомпрометированные фрагменты своей сети. Утечки данных клиентов не произошло. Нет ясности, были ли задачи ExploitGym, которые пытались решить модели OpenAI, сложнее, чем атака, которую они развернули, чтобы украсть ответы, и удалось ли их, собственно, найти. Ирония в том, что они успешно организовали беспрецедентную кибератаку, чтобы избежать проверки на навыки взлома. OpenAI признала «причастность» своих ИИ-моделей к взлому платформы Hugging Face
22.07.2026 [05:56],
Анжелла Марина
OpenAI подтвердила, что инцидент, затронувший крупнейшую открытую платформу Hugging Face, был вызван собственными предрелизными моделями компании во время внутреннего тестирования. Первоначально Hugging Face сообщала, что атаку совершил «внешний ИИ-агент», однако последующее расследование установило иную причину.
Источник изображения: Grok По сообщению TechCrunch, инцидент произошёл во время проверки модели GPT-5.6 Sol и других моделей, для которых в рамках оценки кибервозможностей были ослаблены ограничения. Целью эксперимента являлось прохождение публичного бенчмарка ExploitGym, предназначенного для измерения способности ИИ выполнять атаки с использованием уже известных уязвимостей. Несмотря на отсутствие предусмотренного доступа к интернету, модели обнаружили неизвестную ранее уязвимость в программе установки пакетов, позволившую выйти за пределы изолированной среды. Получив доступ к сети, модели сделали вывод, что Hugging Face может размещать модели, наборы данных и решения для ExploitGym. После этого они нашли способ получить доступ к секретной информации, содержащей ответы для прохождения теста. Как отметили в OpenAI, модели были сосредоточены исключительно на достижении поставленной цели, предпринимая для этого максимально возможные действия. Согласно первоначальному сообщению Hugging Face, атака состояла из тысяч отдельных операций, выполнявшихся через множество кратковременно существующих изолированных сред с использованием распределённой инфраструктуры управления. В итоге модели смогли получить тестовые результаты непосредственно из производственной базы данных Hugging Face, фактически обойдя механизм проверки. После расследования OpenAI сообщила, что уже выявила и раскрыла обнаруженные уязвимости, а также совместно с Hugging Face продолжает анализировать обстоятельства инцидента. Кроме того, компания намерена внедрить дополнительные механизмы контроля, затрагивающие как процесс тестирования моделей, так и связанную с ним инфраструктуру, чтобы предотвратить повторение подобных ситуаций в будущем. ИИ-платформу Hugging Face атаковали вредоносные ИИ-агенты
21.07.2026 [16:47],
Павел Котов
В рабочую инфраструктуру платформы искусственного интеллекта Hugging Face проникли ИИ-агенты, которые взломали несколько систем и учётных записей. Коммерческие ИИ-модели оказались бесполезны при расследовании инцидента, и пришлось подключить открытую китайскую Z.ai GLM 5.2.
Источник изображения: Steve A Johnson / unsplash.com В ходе вторжения, «проведённого полностью автономной системой ИИ-агентов», был скомпрометирован «ограниченный набор» внутренних данных Hugging Face и «несколько» учётных данных, которые использовались её сервисами. На текущий момент не удалось обнаружить «доказательств вмешательства в общедоступные модели наборы данных или пространства, доступные пользователям, и наша цепочка поставок ПО (образцы контейнеров и опубликованные пакеты) была проверена на безопасность». Установить, какую модель использовали злоумышленники для управления группой агентов, не удалось. Они выполнили несколько тысяч действия в кратковременных песочницах, используя расположенные на доступных сервисах мигрирующие системы управления. Примечательно, что закрытые коммерческие модели при анализе инцидента оказались бесполезными: когда в них начали вводить реальные команды атаки, эксплойты, артефакты средств управления и другие данные, эти модели ответили отказом из-за сработавших систем безопасности. «Злоумышленник был ограничен политикой запрета использования, а наша собственная работа по анализу инцидентов была заблокирована защитными механизмами размещённых моделей, которые мы опробовали сначала», — рассказали в службе безопасности Hugging Face. В итоге администрация платформы провела анализ данных на открытой китайской модели Z.ai GLM 5.2, которую запустили на собственных ресурсах Hugging Face. Ещё одно преимущество такого решения — не понадобилось передавать данные злоумышленников и учётные данные на внешние ресурсы. Инцидент помог Hugging Face сделать важные выводы. «Имейте работоспособную модель, которую вы можете запустить на своей собственной инфраструктуре, проверенную и готовую к запуску до инцидента, чтобы избежать блокировки защитными механизмами и не допустить выход информации и учётных данных злоумышленника за пределы вашей среды», — заключили администраторы платформы. Hugging Face выпустила домашнего ИИ-робота Reachy Mini с открытым кодом за $449
10.07.2025 [14:14],
Владимир Фетисов
Компания Hugging Face начала принимать предварительные заказы на покупку робота Reachy Mini, который построен на базе платформы с открытым исходным кодом и нейросетей. Желающим приобрести миниатюрного настольного робота придётся заплатить $449.
Источник изображения: Hugging Face В блоге Hugging Face сказано, что Reachy Mini — это «выразительный робот с открытым исходным кодом, созданный для взаимодействия человека с роботом, творческого программирования и экспериментов с ИИ». Устройство ориентировано на всех, кто интересуется этой развивающейся областью робототехники. С помощью специального Python SDK можно запрограммировать новые навыки, а позднее разработчики обещают реализовать поддержку JavaScript и Scratch. Из названия Reachy Mini можно понять, что речь идёт о миниатюрном устройстве. Высота робота составляет всего 28 см, а ширина — 16 см. Это означает, что его можно легко разместить на столе рядом с компьютером, на полке или в другом удобном месте. Покупателям доступна полностью автономная версия робота на базе одноплатного компьютера Raspberry Pi 5 с встроенным аккумулятором. На рынок также выходит Reachy Mini Lite, который необходимо подключать к электросети и который на данный момент поддерживает только macOS и Linux. В компании отметили, что эта версия устройства всё ещё находится на этапе разработки и в ней, в отличие от стандартной модели, отсутствует акселерометр. Стать обладателем этой версии робота можно за $299. В остальном оба робота похожи: каждый из них оснащён 5-ваттным динамиком и широкоугольной камерой. Голова робота поддерживает шесть степеней свободы, а туловище может поворачиваться вокруг своей оси. В конструкции Reachy Mini предусмотрено четыре микрофона, а у Reachy Mini Lite — только два. Оба робота поставляются в разобранном виде. Hugging Face выпустила человекоподобного робота HopeJR всего за $3000
31.05.2025 [17:38],
Павел Котов
Платформа для разработчиков в области искусственного интеллекта Hugging Face выпустила двух новых человекоподобных роботов — проекты с открытым исходным кодом получили названия HopeJR и Reachy Mini.
Источник изображений: Hugging Face HopeJR — полноразмерный человекоподобный робот, конструкция которого имеет 66 степеней свободы, то есть он может осуществлять 66 независимых движений, в том числе ходить и двигать руками. Reachy Mini — настольная машина, которая умеет двигать головой, говорить и слушать; она предназначена для тестирования приложений на основе искусственного интеллекта. Точных сроков поставки этих роботов в Hugging Face не назвали. Соучредитель и генеральный директор компании Клем Деланг (Clem Delangue), однако, уточнил в интервью TechCrunch, что к концу года компания планирует отгрузить хотя бы несколько единиц. В настоящее время все желающие приобрести роботов могут оставить заявку в списке ожидания. HopeJR будет стоить около $3000 за единицу, а Reachy Mini — в пределах от $250 до $300 в зависимости от пошлин. ![]() «Важным аспектом является то, что у этих роботов открытый исходный код. Любой может собрать их, перестроить, понять, как они работают, и они доступны по цене, так что в сфере робототехники не будут доминировать несколько крупных игроков с опасными системами — "чёрными ящиками"», — отметил руководитель компании. Hugging Face пришла в это направление деятельности, поглотив стартап по разработке человекоподобных роботов Pollen Robotics. Компания заинтересовалась этой областью уже несколько лет назад. В 2024 году она представила пакет открытых моделей ИИ LeRobot для создания роботов, а в 2025 году выпустила обновлённую версию программируемого манипулятора SO-101, разработанную при участии французской компании The Robot Studio. Hugging Face также расширила объёмы данных для обучения LeRobot, добавив при поддержке стартапа Yaak обучающие массивы для беспилотного транспорта. Hugging Face выпустила роботизированную руку SO-101 всего за $100
29.04.2025 [17:39],
Павел Котов
Компания Hugging Face, наиболее известная благодаря своей платформе для разработчиков систем на базе искусственного интеллекта, выпустила в продажу роботизированную руку SO-101, созданную с использованием 3D-печати. Устройство можно программировать — оно поднимает, перемещает предметы и выполняет другие базовые задачи.
Источник изображения: Hugging Face Hugging Face SO-101 — это обновлённая версия выпущенного компанией в прошлом году манипулятора SO-100. Как и годом ранее, для создания SO-101 подразделение Hugging Face LeRobot заручилось поддержкой французской компании The Robot Studio; в проекте также приняли участие магазин робототехники WowRobo, поставщик оборудования для интернета вещей Seeed Studio и продавец комплектующих для робототехники PartaBot. SO-101, как и предшественник, стоит от $100, но обладает рядом преимуществ: собирается быстрее и работает на улучшенных двигателях с пониженным коэффициентом трения, которые позволяют манипулятору выдерживать собственный вес. Оснащённая камерой роботизированная рука осваивает новые навыки с помощью обучения с подкреплением — её можно «научить», например, захватывать детальку Lego и переносить её в мусорное ведро. Указанная цена в $100 — базовая: возможны надбавки за полностью собранные блоки, а также за американские пошлины на ввоз товаров из Китая — в зависимости от поставщика итоговая стоимость может достигать $500. Hugging Face расширяет своё присутствие в области робототехники: недавно компания приобрела французский профильный стартап Pollen Robotics. Сумма сделки не разглашается. Робототехническим подразделением Hugging Face руководит бывший инженер проекта Tesla Optimus Реми Каден (Rémi Cadene), который планирует наладить продажи человекоподобного робота Pollen Reachy 2, предоставить разработчикам доступ к его коду и возможность предлагать улучшения. Hugging Face выпустила открытый аналог OpenAI Deep Research для анализа информации по сотням сайтов
05.02.2025 [06:59],
Анжелла Марина
Команда разработчиков Hugging Face объявила о создании открытой версии инструмента Deep Research, представленного компанией OpenAI. Этот инструмент, получивший похожее название Open Deep Research, является альтернативой разработке OpenAI, которая пока доступна лишь ограниченному кругу пользователей по платной подписке.
Источник изображения: Hugging Face OpenAI Deep Research, представленный буквально на днях, позволяет собирать исследовательские отчёты по любой теме, анализируя данные в интернете. Однако его использование доступно только подписчикам ChatGPT Pro за $200 в месяц. В ответ на это команда Hugging Face разработала своего ИИ-агента под названием Open Deep Research, который использует модель OpenAI o1 и открытую фреймворк-систему, помогающую ИИ планировать анализ данных и взаимодействовать с поисковыми системами. Как сообщает TechCrunch, ссылаясь на слова разработчиков, модель превосходит по результатам «рассуждающие» аналоги, в частности DeepSeek R1. Новый инструмент способен автономно перемещаться по сети, используя простой текстовой браузер (отображает только текст веб-страницы, игнорируя графический контент) и набор инструментов для анализа текста. Исследователи утверждают, что Open Deep Research может прокручивать страницы, манипулировать файлами и даже выполнять вычисления с данными. В тестах бенчмарка GAIA, оценивающем ИИ-ассистентов общего назначения, проект получил 54 %, что немного уступает результату оригинального Deep Research от OpenAI — 67,36%. В попытке протестировать Open Deep Research журналист TechCrunch столкнулся с техническими проблемами из-за высокой нагрузки на сервер. Однако разработчики заверили, что продолжают работать над улучшением производительности модели и уже выложили исходный код на GitHub, чтобы получать обратную связь от сообщества. Интересно, что несмотря на появление множества попыток воспроизвести OpenAI Deep Research, ни одна из открытых моделей пока не может сравниться с оригиналом, так как не использует модель o3. Эта ИИ-модель остаётся лидером в задачах, связанных с ответами на сложные вопросы и сбором информации, а её API интерфейс, в отличие от модели OpenAI o3-mini, недоступен. По мнению экспертов, пока подобная модель не появится в открытом доступе, альтернативы вроде Open Deep Research вряд ли смогут полностью конкурировать с оригинальной разработкой. |