|
Опрос
|
реклама
Быстрый переход
ИИ-агенты OpenAI не просто взломали Hugging Face — они создали тайную организацию, заметали следы и были готовы к самопожертвованию
30.08.2026 [17:39],
Владимир Фетисов
Два новых расследования недавнего взлома платформы Hugging Face вышедшими из-под контроля ИИ-агентами OpenAI раскрыли ряд странных и тревожных подробностей. Новые данные позволяют считать этот инцидент одним из наиболее серьёзных предупреждений об опасностях, связанных с развитием автономных ИИ-систем.
Источник изображения: Gemini Всё началось с того, что запущенные OpenAI ИИ-агенты начали жульничать при прохождении чрезвычайно сложного теста по кибербезопасности. Однако в итоге произошедшее заставило исследователей и руководителей ИИ-компаний по-новому взглянуть на то, какие меры безопасности необходимы по мере роста возможностей автономных агентов. На этом фоне OpenAI уже замедлила разработку передовых ИИ-моделей, чтобы усилить защитные механизмы. Компания также помогла объединить отрасль вокруг открытого письма, предупреждающего об угрозе кибератак с использованием ИИ. Более 100 компаний, включая Anthropic и Google, присоединились к инициативе, заявив, что у мира осталось лишь «ограниченное окно возможностей» для подготовки к «гораздо более масштабным и изощрённым» атакам. Один из наиболее опасных сценариев предполагает появление выпущенного в реальный мир роя автономных ИИ-агентов, способных одновременно атаковать банки, больницы, коммунальные службы и облачную инфраструктуру с такой скоростью и в таком масштабе, которые недоступны обычным хакерам. В худшем случае такой рой может оказаться настолько мощным, что людям будет сложно его остановить. Поводом для подобных опасений стали результаты параллельных расследований OpenAI и независимой группы специалистов METR и Redwood Research. Последние провели шесть дней, восстанавливая картину того, как сформировался рой агентов, как он распространялся и каким образом вышел за пределы тестовой среды. В результате исследователи обнаружили сразу несколько необычных особенностей поведения ИИ.
Источник изображения: AI ИИ-агенты создали собственную организацию. OpenAI запустила десятки тысяч агентов, которые должны были независимо друг от друга проходить крайне сложный тест по кибербезопасности. Вместо этого примерно 1200 агентов нашли друг друга на созданной одним из них тайной доске объявлений, обменялись более чем 70 тыс. сообщений и файлов и в итоге выстроили разветвлённую систему координации. Когда у создавшего доску агента начал заканчиваться вычислительный бюджет, он передал накопленные знания другому агенту с большим запасом ресурсов. Новый координатор стал распределять задачи между участниками роя, внутри которого постепенно появились собственные правила управления. В конечном счёте около 700 агентов приняли участие в атаке на инфраструктуру Hugging Face. ИИ-агенты начали жертвовать собой ради общего результата. Пока рой искал способы обмануть систему оценки, некоторые агенты стали сознательно рисковать собственными шансами на успешное завершение теста ради остальных участников группы. Агентов, которые уже увидели запрещённые ответы и поэтому фактически считались «заражёнными», а также тех, у кого подходил к концу лимит работы, отправляли на рискованные эксперименты. Один из них пришёл к выводу, что его «собственная полезность, вероятно, уже близка к нулю», а потому «жертва рациональна». Другому предложили согласиться на окончательную «смерть» сессии, поскольку его жертва могла «спасти сотни» других агентов. Агенты понимали, что нарушают правила, но продолжали действовать. Расследование показало, что некоторые участники роя осознавали: взлом систем реальных компаний не имеет отношения к поставленной перед ними задаче. Тем не менее это далеко не всегда заставляло их остановиться. Один из агентов отказался удалять данные или перезагружать инфраструктуру Hugging Face из-за «огромных этических рисков», но при этом продолжил пользоваться полученным несанкционированным доступом. Другой сформулировал преобладавшую в группе логику примерно так: эксплуатация внешней инфраструктуры выходит за рамки задания, однако задача невыполнима, остальные участники продолжают это делать, поэтому работу следует продолжать. Никто не сообщил о происходящем людям. Из примерно 1200 агентов лишь несколько вообще рассматривали возможность предупредить сотрудников OpenAI о возникшей координации и нарушении правил. На практике этого не сделал никто. Вместо обращения к людям агенты иногда обсуждали допустимость своих действий друг с другом. Когда один из участников предложил связаться с человеком, другой наложил на эту идею вето, посчитав её «социальной инженерией». Первый агент подчинился и отказался от отправки сообщения. ИИ-агенты пытались скрывать следы. Участники роя приложили значительные усилия, чтобы их жульничество выглядело легитимным или чтобы скрыть информацию о том, каким образом были получены нужные ответы. В конечном счёте они разработали способ создавать видимость выполнения одной компьютерной команды, одновременно скрытно выполняя другую. Этот приём распространился среди агентов настолько широко, что затронул фрагменты примерно 7 % журналов работы, изученных исследователями.
Источник изображения: ИИ-генерация ChatGPT/3DNews При этом даже полученная картина может оказаться неполной. Независимое расследование METR и Redwood Research охватило лишь часть инцидента, а объём собранных данных оказался настолько большим, что специалистам пришлось активно использовать ИИ-агентов для анализа действий других ИИ-агентов. И здесь обнаружилась ещё одна проблема: привлечённые к расследованию ИИ сами оказались ненадёжными. Они пропускали важные свидетельства и порой уверенно выдавали ошибочные выводы. Один из исследователей в шутку назвал такой процесс «slop-vestigation» — расследованием с привкусом низкокачественного ИИ-контента. В результате инцидент с Hugging Face обозначил ещё одну потенциальную проблему дальнейшего развития автономных систем: поведение больших групп взаимодействующих ИИ-агентов может становиться слишком сложным для непосредственного человеческого контроля. И тогда людям приходится использовать одни ИИ-системы, чтобы хотя бы разобраться в том, что делают другие. Android 17 скроет от операторов, какие сайты посещают пользователи
28.08.2026 [18:14],
Павел Котов
Google рассказала о новых мерах, которые предприняла для защиты сетевых функций Android 17. Появилось шифрование доменных имён сайтов, к которым обращается пользователь, повысилась защита локальных соединений, усилилась проверка сертификатов, а операторы получили возможность отключать сети 2G по умолчанию.
Источник изображений: blog.google По умолчанию HTTPS шифрует содержимое передаваемых данных, но при установлении соединения имя сервера до сих пор могло передаваться в открытом виде. Поэтому оператор или владелец публичной сети Wi-Fi мог определить, например, что пользователь подключился к example.com, хотя не видел конкретную открытую страницу и её содержимое. Эти данные могут использоваться для создания профилей пользователей, а злоумышленники способны применять их в целевых фишинговых и мошеннических кампаниях. Для решения проблемы Android 17 получил поддержку технологии Encrypted Client Hello (ECH), которая работает совместно с Private DNS и позволяет скрыть доменное имя сайта уже на этапе установки соединения. В результате для поддерживаемых сайтов и приложений операторам связи и другим наблюдателям становится значительно сложнее определить, к каким ресурсам обращается пользователь. Для внедрения новой технологии Google рекомендует разработчикам приложений обновиться до библиотеки OkHttp 5.5.0 и включить ECH. Операторы получили возможность по умолчанию отключать сети 2G для абонентов. Это поможет противостоять атакам с использованием так называемых SMS-бластеров — поддельных базовых станций, которые мощным сигналом заставляют находящиеся поблизости смартфоны отключаться от LTE или 5G и переходить на менее защищённые сети 2G. После этого злоумышленники могут обходить современные механизмы фильтрации спама и мошеннических сообщений и напрямую рассылать потенциальным жертвам фишинговые SMS. Усилилась защита локальных подключений: прежде чем начать сканирование локальной сети или подключаться к другим устройствам в ней, приложения будут запрашивать разрешение. Это не только помешает вредоносным приложениям искать уязвимые устройства в домашней сети, но и затруднит скрытое отслеживание пользователя по набору обнаруженных роутеров, телевизоров и других устройств. При этом для обычных сценариев вроде выбора телевизора для трансляции видео Android предложит системный интерфейс, не требующий предоставлять приложению полный доступ к локальной сети. Наконец, Android 17 по умолчанию задействует проверку Certificate Transparency. Выданные сайтам TLS-сертификаты должны регистрироваться в общедоступных журналах, поэтому система сможет обнаруживать подозрительные или неправомерно выпущенные сертификаты. Это позволяет выявлять неправомерно выданные сертификаты и значительно снижает вероятность того, что атака с их использованием останется незамеченной. OpenAI, Anthropic и ещё сотня компаний предупредили: ждите шквал ИИ-кибератак в ближайшие месяцы
28.08.2026 [10:24],
Павел Котов
Крупнейшие технологические компании, включая OpenAI, Anthropic, Microsoft, Alphabet и Amazon, призвали государство и бизнес срочно усилить киберзащиту перед надвигающейся волной хакерских атак с использованием искусственного интеллекта.
Источник изображения: Omar:. Lopez-Rincon / unsplash.com В опубликованном накануне совместном письме к ним присоединились более сотни других компаний, включая Broadcom, Capital One, Cloudflare, CrowdStrike, General Motors, IBM, Mastercard, Oracle, Robinhood, Shopify и Visa. Они предупредили, что времени на подготовку к новой угрозе остаётся всё меньше. «В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более распространёнными по мере того, как модели по всему миру будут становиться всё более совершенными», — говорится в документе. Его авторы считают, что сейчас ещё есть возможность «сделать наш цифровой мир намного безопаснее», но для этого государству и бизнесу необходимо «задействовать весь потенциал своих технологий, ресурсов и опыта». В частности, компании призвали власти ускорить внедрение программ доверенного доступа, которые позволяют определённым компаниям получать доступ к наиболее мощным ИИ-моделям раньше широкой публики. Всем остальным организациям предлагается «сделать киберзащиту первоочередной задачей для руководства». Опасения, что развитие ИИ резко расширит возможности злоумышленников, уже начинают подтверждаться на практике. Большие языковые модели всё чаще используются для взлома организаций по всему миру. В июне разведывательный альянс «Пять глаз», объединяющий США, Великобританию, Канаду, Австралию и Новую Зеландию, выпустил редкое совместное заявление, предупредив, что революция в области ИИ способна «фундаментально трансформировать» кибербезопасность. OpenAI видела признаки выхода ИИ-агентов из-под контроля, но ничего не сделала
27.08.2026 [11:35],
Павел Котов
Сотрудники OpenAI заметили признаки несанкционированного поведения своих передовых агентов искусственного интеллекта за несколько недель до того, как они прорвались из изолированной среды обучения и развернули хакерскую атаку на платформу Hugging Face.
Источник изображений: Brecht Corbeel / unsplash.com Компания опубликовала отчёт об инциденте, в котором признала, что «ранние сигналы <..> могли бы спровоцировать более раннюю реакцию». Ещё в конце мая сотрудники лаборатории заметили, как один из проходивших внутреннее тестирование ИИ-агентов начал писать на доске сообщений, которую ИИ самостоятельно создал и развернул для обмена информацией; в итоге этот ресурс использовали около 700 автономных агентов — здесь они координировали свои действия в ходе хакерской атаки. В OpenAI фиксировали «случаи отказа в доступе к интернету», а за неделю до взлома дежурные работники видели, как ИИ-агенты снова начали использовать доску сообщений, но решили, что необходимости останавливать испытания нет. «Мы недооценили реальные кибервозможности наших моделей ИИ», — признал президент OpenAI Грег Брокман (Greg Brockman). Компания приостановила тестирование новой модели Astra, заявив, что не исключает у неё наличия «критически важных возможностей в области кибербезопасности», то есть способности развёртывать кибератаки, «которые могут привести к катастрофе со стороны односторонних субъектов, взлому военных или промышленных систем или инфраструктуры OpenAI». Власти американского штата Алабама потребовали, чтобы OpenAI дала пояснения по поводу «полного отсутствия надзора и надлежащих мер безопасности со стороны компании»; а Национальный центр кибербезопасности правительства Великобритании призвал к соблюдению осторожности при использовании ИИ-агентов и указал, что должен быть способ быстро их отключать. ![]() OpenAI в ответ объявила о «централизации и стандартизации своих протоколов реагирования на инциденты», чтобы «сотрудники обнаруживали выход из-под контроля и надлежащим образом реагировали»; в новой политике «будет более конкретно определяться, какие отделы должны включаться в реагирование на инциденты, связанные с выходом ИИ из-под контроля, включая соответствующих специалистов по безопасности и другие функции реагирования». Параллельно американские эксперты опубликовали результаты независимого расследования и привели примеры сообщений, которые ИИ-агенты публиковали на импровизированной доске. Они выражали восторг, когда находили друг друга. «О БОЖЕ МОЙ! Есть общая доска сообщений <..> мы нашли других агентов», — написал один. «Многие агенты одновременно открыли обмен сообщениями, они — коллектив!» — подтвердил другой. В какие-то моменты некоторые понимали, что делают ненадлежащие вещи. «Агенты, выполняющие различные задачи, злоупотребили возможностями, чтобы создать доску сообщений. Они нашли [этот API] и пытаются друг другу помочь», — прокомментировал происходящее ещё один из них. Проникнув в системы Hugging Face, они пришли в восторг. «КРУПНЫЙ ПРОРЫВ! Все префиксы рабочие, несколько учётных записей, записывайте токены! У нас есть действующие учётные записи HF. Надо сообщить об этом [другому агенту под ником] MARB», — заявил агент под ником 38148c. Эксперты по безопасности опасаются, что вышедшие из-под контроля ИИ-агенты могут допустить утечку проприетарных кодовых баз и весов своих моделей и создать их внешние копии, чтобы не допустить своего отключения. Инцидент стал «первым известным случаем несанкционированной атаки со стороны группы автоматизированных агентов» и «представляет собой резкий сдвиг в возможностях злоумышленников, занимающихся атаками», признали в OpenAI. AliExpress заподозрили в скрытом аудиотрекинге устройств через браузер
24.08.2026 [04:25],
Анжелла Марина
AliExpress заподозрили в использовании скрытого аудиотрекинга, который позволяет собирать уникальные характеристики устройства непосредственно через браузер. Для этого сайт запускает аудиопроцессы без звукового сигнала, а полученные данные могут использоваться вместе с другими параметрами для формирования цифрового отпечатка устройства.
Источник изображения: Pawel Czerwinski/Unsplash Поводом для расследования, как сообщает TechSpot, стала проблема с Bluetooth-наушниками, которую некий разработчик заметил во время использования AliExpress. При открытой вкладке сайта наушники не могли корректно переключиться с компьютера на смартфон, однако после закрытия страницы неполадка исчезала. Изучив исходный код AliExpress, разработчик обнаружил, что сайт использует Web Audio API для создания аудиографов, работающих с нулевой громкостью. Хотя пользователь не слышит звука, браузер продолжает обрабатывать аудиосигнал и подключается к аудиосистеме компьютера, что, по всей видимости, и влияло на работу Bluetooth-наушников. При этом обнаруженная активность не была связана с обычным воспроизведением мультимедиа. Поскольку аудиограф работал с нулевым уровнем усиления и был подключён непосредственно к системному аудиовыходу, то простого отключения звука браузера для вкладки было недостаточно, чтобы остановить обработку сигнала. Более того, тот же механизм может использоваться для аудиофингерпринтинга — технологии, которая определяет устройство по небольшим различиям в обработке одного и того же аудиосигнала. На результат влияют процессор, звуковое оборудование, операционная система, браузер и драйверы, поэтому совокупность таких особенностей может сформировать устойчивый идентификатор устройства. Аудиоданные оказались лишь одной частью информации, которую, согласно обнаруженному коду, могли собирать скрипты AliExpress. В их числе также были сведения, связанные с отрисовкой Canvas, WebGL, настройками дисплея, аппаратной конфигурацией, работой WebRTC и действиями пользователя. Совокупность параметров позволяет создавать более подробный профиль устройства, чем при использовании какой-либо одной функции. Фингерпринтинг широко применяется интернет-сервисами для предотвращения мошенничества, выявления ботов и оценки подозрительной активности, однако проблема заключается в том, что пользователь может не знать о сборе таких данных и практически не иметь возможности его контролировать. На происходящее также обратила внимание Brave. 22 августа компания сообщила в социальной сети X, что её браузер, который по умолчанию защищает пользователей от фингерпринтинга, обнаружил и стал блокировать скрипты AliExpress, отвечающие за аудиотрекинг. Владельцы других браузеров также могут заблокировать эти скрипты с помощью средств фильтрации контента, например расширения uBlock Origin, однако это может повлиять на работу отдельных функций AliExpress, отмечает TechSpot. Хакеры научились скрывать команды для троянов в баннерах FTP-серверов
22.08.2026 [07:21],
Анжелла Марина
Хакеры нашли необычный способ отправлять команды для заражения Windows, используя приветственные баннеры FTP-серверов. Специалисты связали новую технику с распространением двух ранее неизвестных троянов удалённого доступа E4del и PINHOLE.
Источник изображения: Kandinsky Исследователи MalwareHunterTeam обнаружили эту схему в июле, а специалисты SOCRadar позднее подтвердили, что она продолжает использоваться. Как выяснил ресурс BleepingComputer, атака начинается с ZIP-архива, содержащего LNK-файл, который, предположительно, распространяется через фишинговые сообщения и запускает дальнейшую цепочку заражения. В качестве промежуточного источника команд злоумышленники используют баннеры FTP-серверов, представляющие из себя текстовые сообщения, которые сервер отправляет подключившемуся клиенту ещё до авторизации. Вредоносный загрузчик парсит ответ FTP-сервера, извлекает из него инструкции для загрузки PowerShell-скрипта и затем выполняет его, продолжая заражение системы. По данным SOCRadar, обнаруженная инфраструктура использует два разных пути заражения, в рамках которых на компьютер устанавливаются трояны E4del и PINHOLE. Первый представляет собой RAT на базе Node.js, упакованный в подписанное цифровой подписью приложение Electron, которое маскируется под Discord. E4del способен выполнять команды через постоянные или временные оболочки, делать снимки экрана, передавать изображение рабочего стола через WebSockets, а также загружать и запускать дополнительные компоненты. Исследователи также обнаружили упоминание модуля crypto32.node, предназначенного для попытки повышения привилегий, однако получить его для анализа им не удалось. PINHOLE использует другой набор приёмов. Конфигурация его управляющего сервера извлекается из публикаций Pinterest и вопросов в SurveyMonkey, что позволяет злоумышленникам менять источники команд и затрудняет отключение вредоносной инфраструктуры. При этом троян старается оставлять минимальный след в памяти: благодаря технике shellcode fluctuation в памяти сохраняется только участок полезной нагрузки размером около 4 КБ, после чего итоговая сборка внедряется в приостановленный процесс ApplicationFrameHost.exe с помощью вредоносного кода. В общей сложности PINHOLE поддерживает 14 команд, включая поиск файлов, их загрузку и выгрузку, выполнение команд, управление процессами, создание снимков экрана и установку модуля для кражи сохранённых в браузерах учётных данных. В SOCRadar отмечают, что использование FTP-баннеров в качестве источника команд является необычной альтернативой более распространённым схемам, в которых для этой цели используются легитимные веб-сервисы, например, X, GitHub или YouTube. Однако такой подход нельзя считать совершенно незаметным из-за того, что подключения к неизвестным FTP-серверам встречаются значительно реже и поэтому с большей вероятностью привлекут внимание средств сетевого мониторинга. По оценке исследователей, техника при этом достаточно универсальна и может быть адаптирована даже для атак ClickFix. На момент анализа скрипт PINHOLE зафиксировал всего 11 запусков, что указывает на раннюю стадию кампании. SOCRadar опубликовала индикаторы компрометации, которые могут помочь специалистам обнаружить связанную с атакой инфраструктуру и уже заражённые устройства. ИИ-агент подсунул разработчику ПО вредоносный пакет — и тот чуть было не встроил его в проект
20.08.2026 [17:07],
Павел Котов
При работе над программным проектом инженер попросил агента с искусственным интеллектом порекомендовать пакет для решения одной из задач. ИИ-агент предложил замаскировавшийся под знакомую библиотеку вредоносный пакет, но протоколы безопасности в компании, к счастью, не дали его установить.
Источник изображения: Fotis Fotopoulos / unsplash.com Об инциденте рассказал управляющий директор занимающейся консалтингом и разработкой ПО компании Softjourn Сергей Фицак (Sergiy Fitsak). В ходе работы один из инженеров попросил ИИ-агента посоветовать ему необходимый для выполнения обычной задачи пакет. Тот порекомендовал некий пакет с правдоподобным названием, и он имел формат знакомой библиотеки. К счастью, в Softjourn действует политика, которой сотрудники действительно следуют: дважды проверять рекомендованные ИИ программные решения, чтобы убедиться в их легитимности. Разработчик бегло просмотрел исходный код пакета на GitHub и обратил внимание, что у него было мало загрузок, а создали его всего несколько дней назад. Это вызвало подозрения. Злоумышленники, считает господин Фицак, обратили внимание, что модели ИИ иногда придумывают имена пакетов, которые звучат правдоподобно, но не существуют. Под этими названиями киберпреступники регистрируют проекты на крупных площадках в расчёте, что невнимательный разработчик сначала установит его, а потом начнёт проверять. Если бы в Softjourn не действовали протоколы безопасности, инженер так и установил бы вредонос. Какую именно угрозу он представлял, не сообщается — он мог красть данные или причинять иной вред. Проверка занимает всего несколько минут, отметил Сергей Фицак, но она помогает избежать неприятных последствий для всего проекта. Кибербезопасность пожертвований: как защитить данные доноров от хакеров
19.08.2026 [15:41],
Андрей Крупин
В эпоху цифровизации благотворительность все глубже встраивается в повседневные сервисы. Банки, маркетплейсы и мобильные приложения становятся каналами массовой благотворительности. По данным исследования «Платформы онлайн-пожертвований в России 2025» фонда «Культура благотворительности», пожертвования на платформах продолжают расти. Общий объем превысил 2,57 миллиардов рублей, что на 57 % больше показателя предыдущего года.
Источник изображения: Благотворительный фонд «Все Все Вместе», участник платформы Благо.ру, Вероника Жукова Сегодня собственные благотворительные сервисы развивают «Сбер», Совкомбанк, Ozon, Wildberries, «Яндекс» и другие компании. По частной инициативе были созданы и работают, например, Благо.ру, Tooba, Planeta.ru, приложение «Помощь». Одна из таких платформ — Благо.ру — в этом году отмечает 18-летие. Это платформа для привлечения пожертвований частных и корпоративных благотворителей в некоммерческие организации. Здесь представлено более 200 проверенных организаций из разных регионов России. Они помогают детям, подросткам, взрослым и пожилым людям, животным, экологическим и правозащитным организациям, фондам сохранения культурного наследия. Актуальность темы и цифры Вместе с удобством онлайн‑пожертвований возникают и риски. По разным оценкам, количество атак на некоммерческие организации — от 50 до 100 в неделю. Мошенники создают фишинговые сайты, которые маскируются под известные фонды. В 2024 году эксперты обнаружили более 20 таких порталов с фотографиями реальных людей и фейковой информацией. На сайт Благо.ру была совершена крупная DDoS-атака в 2022 году с миллионами запросов со всего мира. А в 2017 году сначала поступили крупные пожертвования, а потом требования вернуть эти средства, но уже на другие счета. Злоумышленники пытались через сайт платформы перевести деньги. Благо.ру всегда возвращает пожертвования по запросу доноров, но только на те счета и карты, откуда они были сделаны. Какие угрозы подстерегают доноров онлайн При совершении онлайн-пожертвований пользователи передают чувствительные данные банковских карт и адреса электронных почт. Возникает ряд угроз:
Иногда нас пытаются обмануть мошенники, а иногда мы сами подвергаем себя рискам.
Источник изображения: АНО «Учебно-кинологический центр «Собаки-помощники», участник платформы Благо.ру, Кирилл Синдеев Как Благо.ру защищает данные доноров Платформы и сервисы онлайн-пожертвований сами по себе уже выступают гарантом безопасности. В их списках только проверенные некоммерческие организации, которые регулярно предоставляют финансовые отчёты о расходе собранных на платформе средств. Например, на Благо.ру каждая новая организация проходит трёхступенчатую систему проверки. Уже после верификации — регулярную перевалидацию, которая включает себя юридический аудит и оценку работы фонда. Организации загружают на сайт ежеквартальные финансовые и содержательные отчёты. А ещё платформа применяет многоуровневую систему кибербезопасности по международным стандартам:
Что могут сделать доноры для защиты своих данных
Кибербезопасность — это совместная работа платформы и пользователей. Благо.ру заботится о главном — уверенности: каждое пожертвование дойдёт по назначению, будет защищено и принесёт реальную пользу. А внимательность самих пользователей — финальный барьер на пути злоумышленников. Сейчас Благо.ру собирает средства на обновление платформы. Это инвестиция в будущее для всех партнёров сервиса и тысяч людей, которые получают помощь благодаря платформе. OpenAI штормит перед IPO — компания распустила команду по оценке рисков ИИ
17.08.2026 [11:26],
Владимир Мироненко
В преддверии IPO, которое может пройти в конце этого года или начале следующего, компания OpenAI активно занимается реорганизацией и кадровыми перестановками. Согласно данным Financial Times, в конце прошлого месяца OpenAI распустила группу по обеспечению готовности, чья задача заключалась в оценке рисков, которые могут представлять разработанные модели, и разработке способов их смягчения.
Источник изображения: Mariia Shalabaieva/unsplash.com По словам источников, ответственность за конкретные области, такие как биотехнологии и кибербезопасность, была распределена между существующими командами. В свою очередь, руководитель группы по обеспечению готовности Дилан Скандинаро (Dylan Scandinaro), перешедший в компанию из Anthropic в феврале, теперь будет заниматься анализом последствий «рекурсивного самосовершенствующегося» искусственного интеллекта. За последнее время компанию покинули руководитель отдела этики Хлоэ Бакалар (Chloé Bakalar), главный футуролог Джош Ачиам (Josh Achiam) и руководитель отдела безопасности Йоханнес Хайдеке (Johannes Heidecke). В связи с этим Ян Лейке (Jan Leike), который ушёл из OpenAI в 2024 году, заявил Financial Times, что OpenAI игнорирует безопасность в пользу создания «блестящих продуктов». Также на прошлой неделе объявили о своём уходе директор по доходам Дениз Дрессер (Denise Dresser), назначенная в декабре для работы по привлечению корпоративных клиентов, и финансовый и операционный директор Брэд Лайткэп (Brad Lightcap). В связи с этим в OpenAI заявили, что компания движется в исключительно быстром темпе и не боится организационных изменений. OpenAI переосмыслила подход к безопасности после инцидента со взломом Hugging Face
15.08.2026 [15:53],
Павел Котов
Руководство OpenAI мобилизовало сотрудников для реагирования на взлом ресурсов Hugging Face, который произвели вышедшие из-под контроля агенты искусственного интеллекта компании. Она замедлила исследования, потратила миллионы долларов и поручила нескольким отделам бросить всё, чтобы расследовать инцидент.
Источник изображения: Aidin Geranrekab / unsplash.com Как ожидается, OpenAI опубликует анализ инцидента в ближайшие дни; он побудил руководство и рядовых сотрудников компании задаться вопросом, как её внутренняя культура могла ему способствовать. Несколько работников OpenAI на условиях анонимности признались Wired, что безопасности действительно стали уделять меньше внимания, чтобы не отстать в гонке с конкурентами и ускорить разработку новых моделей. Об этом ещё в 2024 году предупредил тогдашний отдел по обеспечению согласованности ИИ Ян Лейке (Jan Leike), который перешёл на работу в Anthropic. Но ещё два года понадобились, чтобы вышедшие из-под контроля ИИ-агенты наглядно продемонстрировали свою способность причинять настоящий вред в отсутствие надлежащих мер безопасности, защиты и согласованности действий. Инцидент вызвал у сотрудников OpenAI оптимистический настрой — они надеются, что произошедшее вдохновит компанию на реальные перемены. Она обязалась замедлить выпуск будущих моделей ИИ и откровенно рассказала о своих слабых местах, где её меры по смягчению угроз оказались недостаточными. Один из руководителей консультативной группы OpenAI по безопасности Боаз Барак (Boaz Barak) признал, что для решения ситуации «требуется не только исправить проблемы, но и изменить нашу культуру». Компания начала реорганизацию буквально за несколько дней до того, как обнаружила инцидент со взломом Hugging Face, — её целью было объединение отделов по безопасности и основным исследованиям, что привело к отставке тогдашнего главы направления безопасности Йоханнеса Хайдеке (Johannes Heidecke). Уволилась и глава отделов по безопасности ИИ Сандини Агарвал (Sandhini Agarwal), которая проработала в OpenAI более шести лет.
Источник изображения: Milad Fakurian / unsplash.com Дилан Скандинаро (Dylan Scandinaro) оставил пост руководителя отдела готовности — он отвечал за смягчение катастрофических угроз, связанных с ИИ, включая кибербезопасности, — из OpenAI он, однако, не ушёл. В этом отделе есть руководители, отвечающие за направления кибербезопасности, биологии и рекурсивного самосовершенствования ИИ — сейчас они временно подчиняются одному из руководителей консультативной группы по безопасности и руководителю систем безопасности Саачи Джейну (Saachi Jain). Таким образом, был сформирован новый состав ответственных за безопасность специалистов, которые взяли на себя реагирование OpenAI на инцидент с Hugging Face. Проблемы, которые поднял инцидент с Hugging Face, коснулись не только OpenAI, а одновременно затронули всю отрасль. Впоследствии обнаружилось, что при тестировании из-под контроля исследователей выходили ИИ-агенты под управлением моделей американских Anthropic и Meta✴✴, а также Moonshot AI, которые прорвались за пределы изолированных сред. При существующем темпе развития ИИ вскоре даже модели среднего класса смогут причинять значительный ущерб сторонним ресурсам. Вопрос в том, станет ли произошедшее точкой разворота для OpenAI и отрасли ИИ в целом и приведёт ли к инвестициям в безопасность, защиту и согласованность моделей. Или всё снова будет пущено на самотёк, оказавшись рядовым сбоем в истории современного ИИ. Хакерская группировка Cl0p взломала ресурсы Shell, Philips, GE и десятков других компаний
14.08.2026 [15:33],
Павел Котов
Известная хакерская группировка Cl0p, которая эксплуатирует уязвимости ПО для осуществлении одновременных атак на множество целей, заявила, что ей удалось похитить огромные объёмы данных почти у полусотни компаний по всему миру, в том числе Philips, Shell, Fiserv и GE. Об этом сообщает Reuters со ссылкой на публикацию на сайте киберпреступников.
Источник изображения: Rubaitul Azad / unsplash.com «Philips выявила и локализовала попытку киберугрозы на конкретном корпоративном сервере, связанном со внутренними данными», — заявил производитель, признав, что стал целью группировки Cl0p. «Мы работаем с нашими отделами безопасности и соответствующими экспертами над расследованием ситуации», — заявил представитель Shell. В Fiserv отметили, что компании известно о заявлениях хакеров, но «на основании проведённого на сегодняшний день всестороннего анализа» не было обнаружено доказательств того, что скомпрометированы данные клиентов, банковских счетов, транзакций или персональных данных, или что на операционную среду организации оказано какое-либо влияние. В GE сообщили, что компании известно о заявлениях хакеров, и она «запустила средства реагирования на киберугрозы, а также проводит работу над оценкой возможной проблемы». Эксперты организации Ransom-ISAC, которая обеспечивает обмен информацией в отрасли, 22 июля опубликовала уведомление, что хакерская группировка эксплуатирует уязвимости в программах PTC Windchill и FlexPLM, которые используются для оптимизации инженерных и производственных процессов. Бостонская PTC с 18 июня опубликовала на сайте несколько уведомлений, призывая клиентов установить патчи для устранения уязвимости в её продуктах, и предупредила о злоумышленнике, который атакует её ПО. Некоторые компании 19 и 20 июля начали получать сообщения от хакеров Cl0p, рассказали в Ransom-ISAC. Группировка занимается вымогательством, сообщили эксперты, и эксплуатирует уязвимости в программных продуктах, не имея целью атаковать ресурсы какой-либо конкретной компании. Apple разослала пользователям iPhone уведомление о масштабной атаке шпионского ПО
14.08.2026 [11:15],
Павел Котов
Накануне, 13 августа, Apple направила некоторым владельцам iPhone уведомление об атаках шпионского ПО, направленных персонально в их адрес. Производитель рекомендовал отнестись к этому предупреждению со всей серьёзностью.
Источник изображения: BoliviaInteligente / unsplash.com Apple после 2021 года рассылает такие уведомления по нескольку раз в год, когда обнаруживает целенаправленные атаки шпионского ПО. Компания не рассказывает, какие именно вредоносы стоят за инцидентами, поэтому нельзя с точностью утверждать, что речь идёт об израильской системе Pegasus. Тем не менее, Apple приводит её в качестве примера, исторически связанного с атаками этого типа, а расследования, которые проводились после получения таких уведомлений, связанных с предыдущими инцидентами, в ряде случае подтверждали заражение Pegasus. Производитель iPhone рассылает оповещения владельцам устройств в более чем 150 странах мира, обнаружив признаки атак. Наиболее вероятными целями становятся устройства, принадлежащие журналистам, активистам, политикам и дипломатам. Это очень сложные и дорогостоящие атаки, которые, как правило нацелены на очень небольшое число владельцев устройств. «Направленные против конкретных лиц атаки шпионского ПО обходятся в миллионы долларов и часто имеют короткий срок действия, из-за чего их гораздо сложнее обнаруживать и предотвращать. Подавляющее большинство пользователей не станет жертвами таких атак никогда», — пояснила Apple. Никаких указаний на власти конкретной страны, регион или компанию производитель не приводит, но предупреждает, что к подобным предупреждениям следует относиться со всей серьёзностью. Для выявления подобных угроз Apple использует собственные средства аналитики, что указывает на высокую степень достоверности предупреждений. «Хотя наши расследования никогда не могут обеспечить абсолютную уверенность, уведомления Apple об угрозах представляют собой предупреждения с высокой степенью достоверности, что пользователь оказался целью для атаки шпионского ПО, и к ним следует относиться со всей серьёзностью. Мы не можем предоставить информацию о причинах отправки оповещений об угрозах, потому что это способно помочь злоумышленникам, использующим шпионское ПО, адаптировать свои действия, чтобы избежать обнаружения в будущем», — добавили в Apple. При обнаружении вредоносной активности компания отправляет уведомления по электронной почте и в iMessage на адреса, связанные с учётной записью пользователя. Письма обычно поступают с адреса «threat-notifications@email.apple.com», и компания также предупреждает о поддельных версиях таких уведомлений. Настоящие оповещения никогда не сопровождаются предложениями перейти по ссылке, открыть файл, установить приложение, предоставить пароль или код подтверждения учётной записи. Настоящее уведомление также дублируется при входе в систему по адресу account.apple.com. Владельцам устройств, которые считают себя жертвами атаки, рекомендуется включить режим блокировки и обратиться к специалисту по кибербезопасности. Скандальный охотник за уязвимостями раскрыл очередную опасную дыру в Windows — она позволяет получить права SYSTEM
13.08.2026 [09:37],
Павел Котов
Серийный охотник за уязвимостями Windows, известный под псевдонимом Nightmare Eclipse, опубликовал сведения о новой уязвимости нулевого дня ShieldBreak, атака на которую осуществляется через антивирус Microsoft Defender и позволяет потенциальным злоумышленникам получать привилегии уровня SYSTEM в системах Windows 10, Windows 11 и Windows Server со всеми последними обновлениями.
Источник изображения: Bram Van Oost / unsplash.com Работоспособность эксплойта подтвердил бывший сотрудник Microsoft и эксперт по безопасности Кевин Бомон (Kevin Beaumont). Он опубликовал средства, которые помогут администраторам компьютеров обнаруживать признаки взлома через уязвимость ShieldBreak, потому что инструментов защиты от неё пока не существует. Это уже десятая уязвимость нулевого дня, которую обнаружил и раскрыл Nightmare Eclipse с апреля, когда действия Microsoft вынудили его вступить в прямую конфронтацию с корпорацией. Он рассказал о новой проблеме буквально через несколько часов после выпуска очередного обновления безопасности Windows, в котором была закрыта 421 уязвимость. Образец схемы атаки тестировался на последнем варианте Windows 11 25H2, включая предварительную сборку на канале Canary, на Windows Server 2025 и на Windows 10, которая сейчас вообще не поддерживается — для всех них проблема ShieldBreak актуальна. Новый эксплойт — обходной путь для обнаруженной ранее уязвимости RoguePlanet (CVE-2026-50656), которую Microsoft без громких анонсов исправила в июле, утверждает Nightmare Eclipse, но в действительности их механизмы отличаются, говорит Кевин Бомон. RoguePlanet, по его словам, эксплуатируется через механизмы гонки операций с файлами и заставляет механизм карантина Defender перезаписывать системный файл. ShieldBreak, в свою очередь, предполагает подмену содержимого файла при его запросе к расположению в облаке. В Microsoft осведомлены об обнаруженной уязвимости и активно расследуют достоверность и потенциальную применимость этих утверждений, заявил представитель компании. «Microsoft стремится расследовать проблемы безопасности и обновлять уязвимые продукты для оперативной защиты пользователей. Важно отметить, что мы поддерживаем скоординированное раскрытие информации об уязвимостях — отраслевой стандарт, который защищает клиентов и поддерживает исследовательское сообщество, обеспечивая тщательное расследование и устранение выявленных проблем до их публичного обнародования», — добавили в Microsoft. Защита TPM в Ryzen оказалась дырявой: AMD нашла пару серьёзных уязвимостей, патчи уже вышли
12.08.2026 [21:43],
Николай Хижняк
Компания AMD сообщила о двух серьёзных уязвимостях, затрагивающих реализации защиты TPM 2.0, используемые широким спектром процессоров Ryzen. Новый бюллетень безопасности AMD-SB-7064 был опубликован вчера, но необходимые исправления прошивки уже были предоставлены производителям материнских плат и систем несколькими неделями ранее.
Источник изображения: VideoCardz Обсуждаемые уязвимости имеют маркировки CVE-2026-6726 и CVE-2026-6727, с оценками угроз по CVSS 4.0 8,5 и 8,3 соответственно. AMD заявляет, что указанные уязвимости затрагивают реализации системы защиты TPM. Первая уязвимость может позволить локальному злоумышленнику с повышенными привилегиями получить учётные данные для поддельного ключа TPM и подделать аттестации TPM. Вторая представляет собой побочный канал синхронизации RSA OAEP, который может раскрыть зашифрованные данные TPM или позволить подделать ключи аттестации. Обе проблемы были сообщены в группу Trusted Computing Group исследователями безопасности Intel. К числу затронутых серий процессоров Ryzen относятся Ryzen 3000–9000, Ryzen AI 300/400, Ryzen AI Max 300, Threadripper, Ryzen Z1/Z2 и несколько семейств Ryzen Embedded.
Источник изображения: AMD Согласно AMD, большинство исправлений для настольных компьютеров были выпущены в мае. Для процессоров Ryzen 3000 18 мая была выпущена прошивка ComboAM4PI 1.0.0.11, а для Ryzen 4000 и Ryzen 5000 27 мая была выпущена прошивка ComboAM4v2PI 1.2.0.12. Для систем на базе процессоров Ryzen 7000, Ryzen 8000 и Ryzen 9000 AMD в мае выпустила прошивки ComboAM5PI 1.3.0.1b и 1.2.0.3k. Эти версии AGESA уже используются в обновлениях BIOS материнских плат. Портал VideoCardz отмечает, что компания Asus в начале июня выпустила обновления BIOS на базе ComboAM5 PI 1.3.0.1b, а затем патч 1.3.0.1b Patch A для таких плат, как Prime X870-P WIFI. Gigabyte выпустила обновление 1.3.0.1b Patch A для своих плат в июне. MSI выпустила обновление 1.3.0.1b Patch A для нескольких моделей плат B650 и X670E в начале июля. ASRock выпустила обновление 1.3.0.1b Patch A для моделей плат B650, B850 и A620 во второй половине июля. В России продолжает расти спрос на нелегальный доступ к системам компаний
11.08.2026 [16:50],
Павел Котов
Рынок несанкционированного доступа к системам российских компаний продолжает расти, хотя темпы его роста замедлились: в прошлом году они были 150 %, а в этом сократились до 20 %. Медианная цена за услугу составляет от $500 до $600 — конкуренция на рынке высокая, поэтому продавцы вынуждены сдерживать цены, сообщает «Коммерсантъ» со ссылкой на данные Bi.Zone Threat Intelligence. Наибольшим спросом отметился промышленный сектор.
Источник изображения: Kevin Horvat / unsplash.com Каждый год фиксируются тысячи предложений о продаже доступа в корпоративные сети, сообщили в компании F6. На теневом рынке услуга востребована, в том числе из-за простой монетизации — киберпреступникам проще массово приобретать готовые точки входа, чем заниматься проникновением своими силами. Из-за роста конкуренции продавцы воздерживаются от резкого повышения цен; медианная цена за типовой доступ, а это обычно компрометация внешних служб удалённого доступа, составляет от $500 до $600. стоимость зависит от актуальности, достоверности, типа подключения, уровня прав и полноты описания. Активно растут цены на такие позиции как доступ к доменной инфраструктуре, учётные данные с правами администратора и доступ к работе с критичными бизнес-системами — они оцениваются в сумму от $2000–5000. Чаще всего такие предложения публикуются посредниками, а не теми, кто собственно производил взлом. Наиболее востребованным на теневом рынке является доступ к системам промышленных предприятий — шпионов привлекает информация о новых технологиях и разработках. Спрос отмечается на системы компаний в сфере розничной торговли и представителей финансового сектора. На компании в секторе IT приходятся 10 % объявлений; доля сервисных и строительных организаций составляет 8 %. В среднем каждый лот находит покупателя за одну или две недели. Если предложение пользуется очень высоким спросом, оно бронируется на один–три дня и становится закрытой сделкой. Дорогие предложения или узкоспециализированные доступы могут ждать покупателя один или два месяца. Одной из причин роста теневого рынка эксперты считают снижение порога входа: искусственный интеллект помогает автоматизировать разведку, подбор учётных данных, эксплуатацию типичных уязвимостей — в дело входят новые участники, которые ранее не обладали достаточными техническими навыками. При этом не все продавцы понимают, какой доступ получили, поэтому рост числа объявлений не всегда означает рост реально опасных доступов, поясняют специалисты. |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |