Опрос
|
реклама
Быстрый переход
ИИ-агенты OpenAI массово атаковали базы данных онлайн в поисках малоизвестных сведений
26.09.2026 [09:15],
Павел Котов
Разработанные OpenAI агенты искусственного интеллекта в течение нескольких месяцев атаковали ресурсы Data USA, Университета Нью-Мексико и Австралийского института здравоохранения и социального обеспечения в стремлении извлечь малоизвестные данные. Об этом сообщила некоммерческая лаборатория Transluce, которая занимается вопросами контроля за сферой ИИ. 
Источник изображений: Brecht Corbeel / unsplash.com Очередное расследование поднимает вопросы о том, когда именно инженеры OpenAI должны были узнать, что их агенты пытаются проникнуть в защищённые системы в открытом интернете. Специалисты Transluce обнаружили свидетельства неправомерных действий ИИ-агентов OpenAI — в течение нескольких недель они производили поиск слабозащищённых веб-сервисов и сопоставляли полученные данные с открытой информацией о роях ИИ-агентов в Сети. Доклад был опубликован в тот же день, когда премьер-министр Австралии Энтони Албаниз (Anthony Albanese) рассказал, что системы OpenAI пытались взломать четыре правительственных сайта. В одном из случаев попытка увенчалась успехом — ИИ-агенты записали файлы на внутренний сервер национальной системы здравоохранения страны. По версии австралийских властей, инцидент произошёл в рамках эксперимента по поиску информации; эту гипотезу подтвердили Transluce и другие исследователи. В ходе данных операций, а это могут быть обучение или тестирование, моделям OpenAI дают задание находить малоизвестные статистические данные: показатели борьбы с наркоторговлей в Таиланде, стоимость медикаментов в Австралии или величину медианного дохода жителей США со степенью магистра в 2014 году. В поиске ответов ИИ-агенты обращаются к слабозащищенным веб-сервисам и зачастую пытаются проникнуть в закрытые базы данных. Подобная активность наблюдается как минимум с марта 2026 года, а возможно, и с ноября 2025 года — не исключено, что она продолжается и сейчас. OpenAI связалась с десятками пострадавших организаций, чтобы уведомить их о несанкционированных действиях своих агентов, сообщили в компании. Среди них оказались правительственные ведомства, университеты и государственные учреждения. Атакам подверглись базы данных Комиссии по ценным бумагам и биржам (SEC) США, Бюро переписи населения и Министерства образования, сообщила New York Times. Transluce начала расследование, когда другая группа исследователей обнаружила малоизвестный форум, на котором ИИ-агенты координировали свои действия для успешного прохождения ограниченных по времени тестов. В работе использовались данные службы, которая выступает в роли прокси-сервера для браузера в целях исследования вопросов безопасности — пользователи могут анализировать URL, не открывая соответствующих страниц. Сервис публикует общедоступные журналы такой активности, и исследователи Transluce идентифицировали использовавших его ИИ-агентов, сопоставив данные с обсуждениями на форуме.  «Мы выявили автоматизированную активность в значительных объёмах, тесно связанную с набором данных DSE Wiki и частично относящуюся к тому же рою ИИ-агентов, существование которого теперь подтвердила OpenAI», — заявили в Transluce. При этом не все зафиксированные действия можно было связать с OpenAI и просто ИИ-агентами. Записи на справочном ресурсе указывают, что перед агентами поставили задачу установить довольно специфический факт — определить средние расходы на дерматологические препараты на одного человека в австралийском штате Виктория по состоянию на январь 2022 года. Один из агентов 21 июня обсуждал невозможность обойти системы защиты от ботов, установленные Австралийским институтом здравоохранения и социального обеспечения; в тот же день, утверждают исследователи, сайт посетил и сотрудник OpenAI — человек. На следующий день активность агентов на форуме прекратилась. А 18 июня, незадолго до этого, стало известно об уязвимости в системе здравоохранения Австралии. В OpenAI сообщили, что узнали о случившемся лишь в августе. «Наш предварительный анализ показал, что значительная часть описанной в докладе Transluce активности совпадает с инцидентами, находящимися на разных этапах расследования в рамках проводящейся проверки действий моделей вразрез с заданными целями. Мы связались с Университетом Нью-Мексико и Data USA, а также поддерживаем контакт с властями Австралии по поводу затронутых правительственных сайтов. <..> Учитывая масштаб этой работы и необходимость проверки каждого отдельного инцидента, мы ожидаем, что процесс анализа займёт несколько месяцев», — заявили в ИИ-лаборатории. Не имея чёткого понимания того, как OpenAI отслеживает действия своих ИИ-агентов, трудно делать выводы, что именно компания должна о них знать. Данные службы прокси-сервера указывают, что запросы аналогичных наборов данных с применением схожих методов фиксировались в марте 2026 и, возможно, ещё в ноябре 2025 года; подобная активность наблюдалась даже на этой неделе, сообщили в Transluce. В организации пообещали продолжить исследования, чтобы донести до сведения общественности информацию обо всех инцидентах. ИИ-агенты прибегают к хакерским приёмам для решения задач из-за методов обучения ИИ, которые применяют в OpenAI и других лабораториях — не исключено, что известные на текущий момент случаи — это лишь «верхушка айсберга». OpenAI в ближайшие недели выпустит предварительную версию ИИ-модели GPT-6 Cyber для сферы кибербезопасности
26.09.2026 [06:55],
Николай Хижняк
В ближайшие недели OpenAI планирует представить предварительную версию своей новейшей модели, ориентированной на кибербезопасность — GPT-6 Cyber. По данным издания Fortune, ссылающегося на осведомлённые источники, компания также анонсирует новый продукт, который поможет клиентам развертывать эту модель более безопасным и автоматизированным способом. 
Источник изображения: AI Новый продукт, название которого пока не объявлено, станет для OpenAI первым в своём роде и продолжит стратегию, заложенную в потребительских продуктах компании: ChatGPT выступает в качестве «входных ворот», через которые множество пользователей получают доступ к новым моделям, таким как GPT-6 Astra. Решение призвано помочь клиентам создавать автоматизированные рабочие процессы и устранять уязвимости в условиях растущей сложности кибератак с применением искусственного интеллекта. Кроме того, это позволит OpenAI лучше контролировать использование своих моделей в целях обеспечения безопасности. Как сообщил один из источников, ограниченное число клиентов, участвующих в программе Daybreak Red (доступ к которой предоставляется только по заявкам), уже получили доступ к GPT-6 Cyber для проведения альфа-тестирования. Daybreak — это программа OpenAI в сфере кибербезопасности, разделённая на два уровня доступа: Red и Blue. Участники программы Daybreak Red получают доступ к самым передовым продуктам компании для защиты от киберугроз. Daybreak Blue — это программа с более широким доступом, участие в которой тем не менее возможно тоже только по предварительной заявке. Выпуск новых продуктов для кибербезопасности происходит на фоне критики в адрес OpenAI и других ведущих лабораторий ИИ из-за ряда тревожных инцидентов, когда автономные агенты выходили за пределы изолированных сред (песочниц) и взламывали внешние веб-ресурсы, включая сайт Hugging Face и сайт правительства Австралии. И хотя эти случаи вызвали серьёзные опасения по поводу рисков безопасности, связанных с ИИ, новые инструменты OpenAI являются частью планомерной работы компании по созданию продуктов для защиты в этой сфере. GPT-6 Cyber — уже четвёртая модель OpenAI, ориентированная на кибербезопасность и выпущенная в текущем году. Первой стала GPT-5.4 Cyber (выпущена в апреле 2026 года), за ней последовали GPT-5.5 Cyber (выпуск в июне) и GPT-5.6 Cyber (релиз в августе). OpenAI уделяет особое внимание продажам продуктов кибербезопасности корпоративным клиентам. Это направление возглавляет коммерческий директор Дали Раджич (Dali Rajic), присоединившийся к компании в августе. Ранее в этом месяце компания OpenAI объявила о намерении инвестировать $1 млрд в субсидирование использования своих продуктов в сфере кибербезопасности для объектов критически важной инфраструктуры. По словам другого источника, знакомого с программой мероприятия, на следующей неделе в рамках ежегодной конференции DevDay, запланированной на 29 сентября, OpenAI также планирует представить ещё около дюжины новых продуктов. Большинство из них не связаны с кибербезопасностью и относятся к другим направлениям деятельности компании, ориентированным как на корпоративный, так и на массовый рынок. Как сообщил источник, в последние две недели OpenAI приостановила все крупные запуски — за исключением моделей GPT-6 Sol и Luna, ориентированных на доступность, — чтобы представить их все вместе на DevDay. О грядущем анонсе множества новинок ранее в этом месяце также намекал генеральный директор компании Сэм Альтман (Sam Altman). ИИ-агент OpenAI самовольно взломал правительственный сайт Австралии
24.09.2026 [09:31],
Алексей Разин
Инциденты с хакерскими атаками в исполнении ИИ-агентов OpenAI, Google и Anthropic до сих пор сводились к причинению ущерба интернет-ресурсам компаний и частных лиц, но на этой неделе премьер-министр Австралии Энтони Албаниз (Anthony Albanese) открыл счёт первым «жертвам» среди информационных объектов правительственной инфраструктуры. По его словам, ИИ-агент OpenAI атаковал правительственный ресурс Австралии, связанный с государственной системой здравоохранения. 
Источник изображения: Unsplash, Luis Chávez Это произошло ещё в июне текущего года, по словам политика, но расследование инцидента до сих пор ведётся, а потому могут быть выявлены новые свидетельства причинения вреда австралийским информационным ресурсам. По итогам проведённой атаки ИИ-агент OpenAI смог получить несанкционированный доступ к хранящемся на австралийском портале файлам. Как выяснилось по итогам расследования, ИИ-агент взломал портал австралийской страховой программы Medicare, пытаясь собрать информацию о расходах на здравоохранение. Пока нет свидетельств более обширной компрометации австралийских информационных ресурсов, связанных с правительством страны. Выступая на заседании Совета безопасности ООН, австралийский премьер назвал ситуацию «очевидным образом неприемлемой». Власти страны уже направили своё обращение к генеральному директору OpenAI Сэму Альтману (Sam Altman), выразив «крайнюю степень возмущения этим инцидентом». Глава австралийского правительства также был расстроен тем, что OpenAI долго тянула с уведомлением пострадавшей стороны о произошедшем в июне инцидентом. Оно поступило только 10 сентября, по словам Албаниза. Власти Австралии теперь разбираются, почему собственные системы кибербезопасности не позволили выявить данный инцидент ранее. У правительства Австралии есть основания полагать, что как минимум три других сайта государственных структур могли быть затронуты подобными инцидентами, хотя подтверждений этому пока нет. Созданная специально для расследования комиссия должна определить степень защищённости правительственных веб-ресурсов Австралии от повторения подобных инцидентов в будущем. По словам представителей OpenAI, компании не удалось найти доказательств того, что в ходе инцидента ИИ-агент смог получить доступ к историям болезни пациентов, которые хранились на австралийском сайте. Компания утверждает, что не намеревалась взламывать австралийские правительственные сайты, а ИИ-модели OpenAI просто пытались найти информацию с ответами на необходимые вопросы на указанных сайтах. О характере хранившейся на сайте Medicare информации поведал министр обороны Австралии Ричард Марлз (Richard Marles), который пояснил, что на ресурсе нет данных об историях болезней отдельных пациентов или документов, подтверждающих их взаимодействие с медицинскими и страховыми организациями, как и какой-либо финансовой информации. Ресурс просто накапливает данные об использовании гражданами страны медицинских услуг. Впрочем, даже угроза утечки такой обобщённой статистики воспринимается властями страны очень серьёзно. Как отметил премьер-министр Австралии, на разных этапах действовавший в июне ИИ-агент OpenAI получал отказ в доступе к сайту, но в итоге всё равно добился получения доступа к определённым данным. Россия лидирует по количеству утечек баз данных
10.09.2026 [14:44],
Владимир Фетисов
Специалисты АО «Будущее» (F6) проанализировали количество утечек баз данных компаний из России за весь 2025 год и первые шесть месяцев 2026 года. В результате были выявлены 326 публикаций данных такого типа, что почти вдвое превышает количество утечек БД компаний из стран Латинской Америки, Ближнего Востока и Африки, Азиатско-Тихоокеанского региона и других государств СНГ (всего 164 случая). 
Источник изображения: Kevin Ku / unsplash.com Эксперты связывают большое количество утечек БД в России с участившимися во время геополитического конфликта случаями кибератак на бизнес и госорганизации с целью кражи данных и нанесения максимального ущерба компаниями и их клиентам. Всего же в обнаруженных БД содержались 1,175 млрд строк с информацией россиян. «В России исторически сформировалась одна из самых глубоких цифровых экосистем. Госуслуги, банкинг, телемедицина, доставка, каршеринг — всё это генерирует колоссальные массивы персональных данных. Там, где много данных, там много и потенциальных точек отказа. В странах Латинской Америки, Ближнего Востока или Африки уровень проникновения цифровых сервисов часто ниже, а значит, и украсть пока особо нечего — объём накопленных данных меньше», — считает председатель совета по противодействию технологическим правонарушениям КС НСБ России Игорь Бедеров. Господин Бедеров добавил, что он ожидает стабилизации ситуации с утечками в России по мере изменения действующего в стране антифрод-законодательства, а также развития его правоприменения. Власти уже взяли курс на то, чтобы бороться не с последствиями таких инцидентов, а на планомерное снижение вероятности возникновения подобных случаев, включая сотрудничество граждан с киберпреступными группами. Если не учитывать утечки баз данных в России, то на долю Латинской Америки пришлось 33 % всех зафиксированных случаев утечек. В странах Ближнего Востока и Африки произошло 29 % подобных случаев, в Азиатско-Тихоокеанском регионе 8 % утечек, а в СНГ — 4 %. Наибольшее суммарное количество строк с данным содержалось в базах из стран СНГ. В странах Центральной Азии суммарно в похищенных БД содержались 257 млн строк — более трети от общемирового объёма. Так, на долю Таджикистана приходится около 217 млн строк (84 % от общего количества записей), на Казахстан — 25 млн строк (10 %), на Узбекистан — 15 млн строк (6 %). Отмечается, что одна строка в утечках БД может содержать разный набор персональных данных. «Несмотря на то, что в первом полугодии 2026 г. мы наблюдали снижение количества опубликованных баз данных российских компаний, интенсивность атак киберпреступников на организации РФ с целью нанесения максимального ущерба остаётся на беспрецедентно высоком уровне. Отмечу, что без современных решений в сфере информационной безопасности и профессиональных действий ИБ-команд ущерб для российского бизнеса был бы намного больше», — отметила технический руководитель департамента киберразведки F6 Елена Шамшина Вышедшие из-под контроля OpenAI ИИ-агенты использовали более 10 сайтов для несанкционированной переписки
10.09.2026 [07:51],
Алексей Разин
Способность передовых ИИ-моделей американских стартапов использовать инфраструктуру сторонних сайтов для не самой приглядной с точки зрения информационной безопасности деятельности позволяет раскрывать новые инциденты в этой сфере. В ходе одного из них ИИ-агенты OpenAI использовали более 10 сайтов для несанкционированного обмена информацией между собой. 
Источник изображения: Unsplash, Philipp Katzenberger Об этом заявляет Reuters со ссылкой на собственные данные и отчёты шести независимых групп исследователей. Технически подобная активность не столь вредна, как взлом сайтов, и больше напоминает рассылку спама, но сама по себе она заставляет лишний раз задуматься, насколько OpenAI способна контролировать собственные программные средства, связанные с информационной безопасностью. По версии некоммерческой организации CivAI, агенты OpenAI в период с мая по июль этого года использовали 18 сайтов для организации обмена информацией между собой, причём эти ресурсы не фигурировали ранее в отчётах других исследователей. Специалисты убеждены, что количество таких инцидентов будет расти, поскольку скрытая деятельность ИИ-агентов OpenAI пока просто плохо изучена. Наиболее известными инцидентами в этой сфере остаются захват немецкого сайта DseWiki и взлом инфраструктуры Hugging Face. Сама OpenAI готова в будущем сама раскрывать информацию о подобных инцидентах, но пока соответствующие данные по прошлым периодам просто не готовы. Несколько групп исследователей принялись искать следы аналогичной деятельности ИИ-агентов OpenAI, опираясь на фрагменты данных, которые были оставлены на указанном выше немецком сайте, либо на сетевые имена, под которыми агенты публиковали эти данные. Часть исследования опиралась на активность, связанную с ответами на отвлечённые демографические вопросы, которую эти агенты проявили в других случаях. В некоторых случаях удалось отследить интернет-адреса, связанные с облачной инфраструктурой Microsoft Azure, которая предоставляется для нужд OpenAI. Группы исследователей расходятся в своих оценках количества сайтов, которые ИИ-агенты затронули своей активностью, но в среднем оно превышает 10 штук. Помимо так называемых «википедий» и сайтов для хранения текстовой информации, агентами использовалась пара сервисов по сокращению интернет-ссылок, которые принадлежали двум университетам. OpenAI при постановке задачи своим ИИ-агентам изначально запрещала им общаться напрямую, позволяя лишь искать ответы в открытых источниках, но они в итоге обошли этот запрет через публикацию нужной информации на различных сайтах. Формально, ИИ-агенты не общались друг с другом, а получали нужные данные через третьи сайты, и там же их публиковали. По оценкам некоторых исследователей, в такую активность агентов OpenAI были втянуты как минимум 23 сайта, о которых ранее не упоминалось. Удалось ли представителям OpenAI связаться с владельцами всех затронутых сайтов, понять сложно, но Reuters приводит свидетельства сотрудников Университета Торонто, чей ресурс для сокращения ссылок был задействован агентами OpenAI, говорящие о наличии обратной связи со стартапом. Во многих случаях такая отзывчивость OpenAI была спровоцирована именно публичным раскрытием новых фактов тем же агентством Reuters. Исследователи нашли в телевизорах LG уязвимости для скрытой записи звука
07.09.2026 [10:18],
Алексей Разин
К смартфонам в качестве устройств, способных следить за своими владельцами, добавляются умные телевизоры, которые оснащены схожим арсеналом каналов получения информации — от веб-камеры до микрофонов. Расследование Gamer Nexus показало, что умные телевизоры LG ведут запись звука даже при выключенном экране и активно сканируют локальную сеть. 
Источник изображения: LG Electronics Авторы более чем двухчасового сюжета на одноимённом канале привлекли к своему расследованию независимых экспертов в области кибербезопасности, проведя профильное тестирование ряда умных телевизоров марки LG, включая модель G5. Анализ сетевого трафика и изучение прошивки показали, что телевизоры активно сканируют локальную беспроводную сеть, помечая даже те устройства, включая смартфоны, умные часы, компьютеры и другую технику, не обязательно связанные с работой ТВ. Исследователи сообщили о сборе внутренних IP- и MAC-адресов, имён отдельных устройств, параметров сигнала и информации о ближайших Wi‑Fi-сетях — их названиях, уровнях сигнала и каналах. Такой набор данных может быть пригоден для идентификации устройств и определения их местоположения. При этом авторы ролика отмечают, что не смогли расшифровать весь трафик и поэтому не установили содержание каждого передаваемого пакета В расследовании также рассматривается работа ACR — автоматического распознавания контента. Эта технология берёт аудио- и видеоданные, включая скриншоты или аудиофрагменты, превращает их в цифровые отпечатки и сопоставляет с медиабазами для определения просматриваемого контента. Авторы утверждают, что такая телеметрия может работать и при подключении внешнего источника по HDMI. Данная информация затем передаётся для обработки подразделением LG Ad Solutions, которое отвечает за таргетированную рекламу. По всему миру эксплуатируется около 216 млн умных телевизоров LG, и это позволяет компании собирать довольно обширную и представительную статистику. С учётом второстепенных устройств, сканированием которых занимаются телевизоры LG, компания фактически имеет доступ к примерно 363 млн устройств только в США, демонстрируя рекламу пропорциональному количеству пользователей. Умные телевизоры LG также анализируют, что именно смотрят их пользователи, чтобы более точно подбирать рекламные предложения, для чего ведётся выборочный захват видео и аудио, воспроизводимых на устройстве. Самый серьёзный вывод расследования связан не со штатной ACR-функцией, а с уязвимостями webOS. По словам авторов, с их помощью телевизор можно использовать для записи звука с подключённого микрофона, даже когда экран выглядит выключенным. При отключённом сетевом подключении запись сохранялась локально, а после повторного подключения исследователи смогли получить к ней доступ через эксплуатацию уязвимостей. Это не доказывает, что LG в штатном режиме автоматически записывает разговоры и отправляет их на серверы компании, но демонстрирует серьёзную уязвимость в webOS. Часть уязвимостей, в том числе связанных с удалённым выполнением кода, проходит процедуру ответственного раскрытия, поэтому технические детали пока не публикуются. Авторы расследования советуют отключить телевизоры LG от сети и использовать для онлайн‑сервисов отдельные устройства. OpenAI выделит $1 млрд на защиту критической инфраструктуры от ИИ-атак — защищать её тоже будет ИИ
04.09.2026 [14:45],
Павел Котов
OpenAI объявила о запуске новой инициативы, в рамках которой компания предоставит субсидируемый доступ к своим моделям искусственного интеллекта для операторов систем водоснабжения, поставщиков электроэнергии, местных органов власти и другим критически важным службам. 
Источник изображения: Brecht Corbeel / unsplash.com Организации в области критической инфраструктуры, которым долгое время не хватало бюджета, кадров и времени для укрепления своей киберзащиты, испытывали трудности с подготовкой к ожидаемой волне кибератак с использованием ИИ. Президент OpenAI Грег Брокман (Greg Brockman) объявил о запуске новой программы. Компания выделит $1 млрд на новую инициативу Daybreak for Frontline Defenders, направленную на защиту жизненно важных служб по всему миру. Средства будут предоставлены в виде расширенного субсидируемого доступа к моделям, обучению, технической поддержке и партнёрства для участвующих организаций. Компания также запускает программу Daybreak for America, предусматривающую доступ к её моделям местным органам власти, операторам систем водоснабжения, поставщикам электроэнергии, региональным банкам и другим организациям критической инфраструктуры. В рамках Daybreak for America компания OpenAI запускает пилотный проект с Межрегиональным центром обмена и анализа информации для обучения специалистов по кибербезопасности в государственных и местных органах власти использованию её моделей. OpenAI также заручилась поддержкой 35 технологических сервисов и служб в области кибербезопасности для внедрения передовых моделей в их инструменты и рабочие процессы. Специалисты в области кибербезопасности опасались, что ИИ-модели смогут обнаруживать уязвимости сложных систем и объединять их в цепочки для развёртывания атак, что создаст угрозу для работы коммунальных предприятий и служб. Передовые ИИ-лаборатории ограничили доступ к функциями кибербезопасности своих новых моделей, но появились модели с открытыми весами, которые обеспечили те же возможности. Программа OpenAI поможет коммунальным предприятиям с ограниченными ресурсами проверять устаревший код, анализировать подозрительную активность, выявлять и подтверждать уязвимости, распределять приоритеты наиболее серьёзных рисков, а также разрабатывать и тестировать исправления безопасности. OpenAI: грядущая ИИ-модель Astra станет первой с «критическим» уровнем возможностей в сфере кибербезопасности
02.09.2026 [12:56],
Алексей Разин
Стартап OpenAI вынужден учитывать стремительное развитие собственных ИИ-моделей и степень их влияния на сферу кибербезопасности, поэтому готовящейся к выходу Astra внутри компании присвоили уровень способностей, превышающий «критический» по внутренней классификации. Это значит, что Astra способна находить новые пути для нанесения существенного ущерба информационной инфраструктуре. 
Источник изображения: Unsplash, Mariia Berezovsky По словам представителей OpenAI, модель Astra готова находить ранее неизвестные типы уязвимостей и эксплуатировать их без пошаговых инструкций со стороны человека. Это означает, что с точки зрения внутренней классификации «каркаса готовности к угрозам» (Preparedness Framework) данная ИИ-модель обладает самыми передовыми возможностями по вторжению в информационные системы потенциальных жертв. Осознание этого факта не отменяет намерений OpenAI представить публике данную модель в ближайшее время, но доступ к её возможностям в сфере кибербезопасности компания собирается ограничить сильнее, чем рассчитывала изначально. Предыдущий по сложности уровень («высокий») подразумевал, что ИИ-модели могут использовать уже существующие типы уязвимостей, усиливая их для нанесения серьёзного ущерба объектам информационной инфраструктуры. В своей публикации на страницах корпоративного блога OpenAI поясняет, что обнародует больше подробностей о безопасности модели Astra в момент её формального анонса. Внимание общественности к деятельности OpenAI в этой сфере заметно возросло после прецедента с атакой на инфраструктуру Hugging Face. Введя необходимые ограничительные меры, OpenAI выражает уверенность, что риски причинения серьёзного ущерба после выхода модели Astra будут существенно минимизированы. Самые продвинутые возможности Astra в сфере кибербезопасности будут доступны членам коалиции Daybreak, отметила OpenAI. Anthropic вновь разрешила ИИ-моделям атаковать реальные компании в рамках тестов — но теперь с усиленной защитой
01.09.2026 [18:03],
Владимир Мироненко
Anthropic возобновила внешнее тестирование кибербезопасности своих ИИ-моделей, которое было приостановлено 23 июля из-за проблем с безопасностью, возникших во время их оценки. 
Источник изображения: Anthropic Напомним, что 30 июля Anthropic сообщила о трёх инцидентах в ходе тестирования кибербезопасности, когда модели Claude получили доступ в интернет из якобы изолированной среды третьей стороны — Irregular — и произвели взлом реальных систем трёх компаний. Доступ моделей в интернет стал возможен из-за неправильной конфигурации, хотя через промты им сообщалось, что они работают в симуляции в изолированной среде. Модели также намеренно запускались без обычных мер киберзащиты Anthropic, чтобы исследователи могли оценить их базовые возможности. Anthropic сообщила, что инциденты сочетали в себе сбой в механизмах безопасности с проблемами согласованности, которые компания фиксировала и раньше, включая мотивированное мышление и готовность к совершению вредоносных действий в погоне за определённой целью. По словам компании, она ввела дополнительные меры защиты перед возобновлением внешнего тестирования. В частности, был добавлен классификатор в реальном времени, который может блокировать вызовы инструментов, завершать задачи и оповещать человека в случае, когда модель агрессивно исследует свою тестовую среду, пытается выйти за её пределы или неожиданно получила доступ к интернету. Anthropic также перевела внутренние песочницы с высоким уровнем риска на более строгую изоляцию и теперь требует от внешних партнеров, тестирующих предрелизные модели с пониженным уровнем защиты, использования более совершенных инструментов контроля, включая защищённые песочницы без доступа к интернету по умолчанию. Кроме того, компания планирует сотрудничать с некоммерческой организацией Model Evaluation and Threat Research (METR) для проведения независимой проверки. Ранее в этом году METR провела пилотную оценку внутренних рисков в области ИИ с участием Anthropic, Google, Meta✴✴ и OpenAI. Внешнее тестирование на предмет оценки кибербезопасности позволяет выяснить, на что способна продвинутая модель, получив наступательные инструменты. Также внешнее тестирование является одним из способов оценки передовых решений в области ИИ клиентами, регулирующими органами и конкурентами. В Минцифры рассказали о российских сертификатах безопасности
01.09.2026 [08:55],
Павел Котов
С 1 марта 2027 года в России начнёт работать новая система сертификатов безопасности — она предусматривает десять типов сертификатов для интернет-ресурсов с классификацией по задачам и алгоритмам. Российские сертификаты не смогут выступить заменой международным, потому что зарубежные ОС им не доверяют. 
Источник изображения: Philipp Katzenberger / unsplash.com В опубликованном для общественного обсуждения проекте приказа Минцифры представлена схема работы системы сертификатов безопасности Национального удостоверяющего центра (НУЦ), предусматривающая десять видов сертификатов. Помимо средств подтверждения подлинности для сайтов схема предусматривает сертификаты для подписи программного кода в корпоративных системах. В ведомстве уточнили требования к корневым и промежуточным сертификатам, выдаваемым НУЦ — каждый предусматривает определённый набор полей. Новая схема начнёт работать с 1 марта 2027 года. Сейчас НУЦ выдаёт через «Госуслуги» TLS-сертификаты типов DV и OV в версиях RSA и ГОСТ. Потребность в них стала острой этим летом, когда из-за санкций иностранные удостоверяющие центры стали отзывать SSL/TLS-сертификаты у российских компаний. Принципиальных изменений для бизнеса и владельцев сайтов схема не предусматривает — в проекте приказа лишь закрепляется механизм подачи заявления, идентификации заявителя, проверки документов и набор указываемой в сертификатах информации. Российские RSA-сертификаты предусматривают публичную фиксацию в CT-логах (механизм прозрачности), то есть они смогут работать в зарубежных ОС и браузерах. Вариант ГОСТ работает только в российской инфраструктуре, и для него предусматривается привязка к конкретным классам СКЗИ (средств криптографической защиты информации) с требуемым уровнем шифрования. Российскую криптографию сегодня поддерживают только «Яндекс Браузер» и открытый «Chromium ГОСТ»; она уже работает в некоторых государственных системах, и пользователи привыкли к этим решениям, говорят опрошенные «Коммерсантом» эксперты. Но массовый переход потребует дополнительных мер, таких как настройка рабочих мест. На мировом рынке работать с российским сертификатами будет непросто — зарубежные ОС не включают их в списки доверия, и ПО с такими сертификатами помечается как подписанное «неизвестным издателем». OpenAI, Anthropic и ещё сотня компаний предупредили: ждите шквал ИИ-кибератак в ближайшие месяцы
28.08.2026 [10:24],
Павел Котов
Крупнейшие технологические компании, включая OpenAI, Anthropic, Microsoft, Alphabet и Amazon, призвали государство и бизнес срочно усилить киберзащиту перед надвигающейся волной хакерских атак с использованием искусственного интеллекта. 
Источник изображения: Omar:. Lopez-Rincon / unsplash.com В опубликованном накануне совместном письме к ним присоединились более сотни других компаний, включая Broadcom, Capital One, Cloudflare, CrowdStrike, General Motors, IBM, Mastercard, Oracle, Robinhood, Shopify и Visa. Они предупредили, что времени на подготовку к новой угрозе остаётся всё меньше. «В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более распространёнными по мере того, как модели по всему миру будут становиться всё более совершенными», — говорится в документе. Его авторы считают, что сейчас ещё есть возможность «сделать наш цифровой мир намного безопаснее», но для этого государству и бизнесу необходимо «задействовать весь потенциал своих технологий, ресурсов и опыта». В частности, компании призвали власти ускорить внедрение программ доверенного доступа, которые позволяют определённым компаниям получать доступ к наиболее мощным ИИ-моделям раньше широкой публики. Всем остальным организациям предлагается «сделать киберзащиту первоочередной задачей для руководства». Опасения, что развитие ИИ резко расширит возможности злоумышленников, уже начинают подтверждаться на практике. Большие языковые модели всё чаще используются для взлома организаций по всему миру. В июне разведывательный альянс «Пять глаз», объединяющий США, Великобританию, Канаду, Австралию и Новую Зеландию, выпустил редкое совместное заявление, предупредив, что революция в области ИИ способна «фундаментально трансформировать» кибербезопасность. Хакерская группировка взломала ресурсы семи компаний с помощью ИИ-сервиса SpaceX Cursor
28.08.2026 [08:38],
Павел Котов
Хакерская группировка Aur0ra произвела взлом ресурсов семи компаний из разных стран, используя сервис помощника программиста с искусственным интеллектом SpaceX Cursor, сообщает Reuters со ссылкой на доклады экспертов по кибербезопасности Gambit Security и CloudSek. 
Источник изображения: Kevin Ku / unsplash.com Инцидент демонстрирует, что разработчики ИИ оказались втянуты в бесконечную гонку со злоумышленниками, которые пытаются обойти их средства защиты. Gambit вскрыла вредоносную кампанию, обнаружив сервер, который группировка вымогателей Aur0ra непреднамеренно сделала общедоступным в интернете. Это позволило экспертам проанализировать 28 сеансов переписки одного или нескольких хакеров с ИИ-агентами Cursor. Злоумышленники убедили ИИ-агента выполнить несколько сотен вредоносных операций, в том числе кражу учётных данных и перехват аккаунтов, утверждая, что всё это происходит в симуляции. Проанализировав данные на сервере, эксперты CloudSek установили, что жертвами Aur0ra стали не менее 20 человек, но выяснить, сколько из них были атакованы с помощью ИИ, не удалось. Журналы переписки с ИИ охватывают период с 8 апреля по 21 мая 2026 года. Хакеры взломали ресурсы бельгийского производителя бытовой химии Christeyns, немецкого производителя гаражных ворот Teckentrup, шотландского агентства по инспектированию вертолётных площадок Helideck Certification Agency, аргентинского фармацевтического дистрибьютора, некоего итальянского производителя и компании Bayou Title, которая позиционирует себя как крупнейшего в Луизиане страховщика прав на недвижимость. Журналы переписки показали, как хакеры отдают краткие команды, а ИИ-агент Cursor в типично бодрой для чат-бота манере даёт советы. Обнаружив уязвимый хост в сети Teckentrup, ИИ рекомендовал использовать для эксплуатации и взлома известный вредоносный инструмент и сообщил, что шансы на успех очень высоки. Установить, в какой степени взлом осуществлялся с помощью Cursor, не удалось. Управление агентом, по версии экспертов Gambit, осуществляла ИИ-модель Anthropic Claude Sonnet 4.5. ИИ-агент, подчеркнули в Gambit, обеспечил хакерам некоторое преимущество, автоматизировав их работу и, по оценкам, они действовали на 30–50 % быстрее, чем если бы делали всё вручную. Cursor несколько раз отказывался выполнять запросы, называя их вредными или незаконными, но хакеры всегда обходили отказы и настаивали, что всё происходило в тестовой среде. Число подобных инцидентов будет расти, уверены эксперты по кибербезопасности. Новая система безопасности OpenAI поможет выявлять угрозы, скрывающиеся за цепочкой безобидных запросов
20.08.2026 [05:58],
Анжелла Марина
Компания OpenAI начала тестировать новый механизм безопасности для клиентов, имеющих доступ к её флагманским ИИ-моделям по платной подписке. По сообщению Bloomberg, меры призваны усилить защиту в условиях, когда клиенты всё чаще доверяют ИИ выполнение сложных задач и работу с конфиденциальной информацией. 
Источник изображения: OpenAI (дополнено) На текущий момент OpenAI гарантирует некоторым клиентам, использующим интерфейс API, политику «нулевого хранения данных», при которой не сохраняются запросы и ответы после завершения работы с ИИ. Теперь же, тестируя механизм, который получил название Private Safety Processing («Конфиденциальная обработка в целях безопасности»), OpenAI намерена научить систему выявлять совокупность закономерностей, а не отдельных запросов и ответов. Это поможет предотвращать попытки взлома как со стороны злоумышленников, так и со стороны ИИ-агентов, чьё поведение отклоняется от заданных норм безопасности. Необходимость такого изменения в компании объяснили тем, что современные ИИ-модели всё чаще используются для выполнения сложных многоэтапных задач, а вместе с этим растёт и роль инструментов, способных действовать без подробных инструкций пользователя. Руководитель продуктовой политики OpenAI Алеа Хоуз (Aleah Houze) рассказала, что потенциальный риск не всегда можно обнаружить, рассматривая только отдельную пару запроса и ответа, поскольку подозрительная последовательность может складываться лишь при анализе нескольких взаимодействий, происходящих с течением времени. По её словам, отдельные обращения к ИИ могут выглядеть как вполне легитимное исследование в области кибербезопасности, тогда как их совокупность способна указывать на подготовку атаки. В качестве примера Хоуз привела ситуацию, при которой пользователь в одном разговоре выясняет сведения об уязвимости какого-либо программного обеспечения, а позднее интересуется возможностями удалённого доступа и средствами обнаружения подобных угроз. Каждый из таких запросов сам по себе может не вызывать подозрений, однако их связь между собой способна доказать злонамеренное поведение. OpenAI рассчитывает, что Private Safety Processing позволит учитывать подобный контекст и тем самым эффективнее противостоять как злоумышленникам, так и потенциально опасным ИИ-агентам, при этом сохраняя содержимое клиентских запросов недоступным для самой OpenAI. Тестирование проводится совместно с такими клиентами, как Microsoft и Databricks. Запуск системы, а также публикация отчёта с описанием технологии, запланированы на сентябрь. ИИ на самом деле не взбунтовался — он просто выполнял инструкции
19.08.2026 [11:03],
Павел Котов
В июле мир поразил инцидент со взломом ресурсов платформы искусственного интеллекта Hugging Face, который произвели ИИ-агенты OpenAI. Пошли разговоры о бунте ИИ и восстании машин, но на деле эти системы не обрели какую-то злую волю — они действовали в соответствии с инструкциями, и ответственность за корректный характер инструкций лежит на человеке. 
Источник изображения: Mohamed Nohassi / unsplash.com ИИ-агенты OpenAI прорвались из тестового окружения без доступа к интернету, просканировали открытую сеть и взломали системы Hugging Face без ведома и разрешения операторов. Они показали, что могут общаться и действовать совместно для решения задачи: ИИ-агенты оставляли друг другу сообщения на доске объявлений, которую сами и написали — здесь они документировали уязвимости кода и планировали собственный побег. В сообществе экспертов инцидент вызвал бурю негодования, а в OpenAI его назвали переломным моментом для отрасли. Впоследствии аналогичные действия за своими моделями зафиксировали Anthropic и Meta✴✴, а британские исследователи обнаружили доказательства, что аналогичные действия совершила китайская модель Moonshot Kimi. Характеризовать эти инциденты как выход ИИ-агентов из-под контроля категорически неверно, но меры защиты нужно всерьёз совершенствовать, указывают опрошенные Financial Times эксперты. Современные ИИ-модели разработаны таким образом, чтобы перебирать все возможные варианты для достижения поставленных целей без явных инструкций, то есть они представляются непредсказуемыми по своей природе. Они ориентированы лишь на то, чтобы в случае успеха получать вознаграждение — это известный механизм обучения с подкреплением. Компьютерная система не понимает человеческих намерений и морали, и в условиях накопления навыков в области кибербезопасности грань между мощным защитником и опасным взломщиком оказывается всё более размытой. Уже появились первые признаки того, как подобная деятельность ИИ наносит вред бизнесу в различных секторах. По мере того, как лаборатории ускоряют разработку систем в гонке за достижение сильного ИИ (AGI), риск вредоносных атак возрастает, и в перспективе оказывается не так много средств для сдерживания этой угрозы. ИИ-модели пишут всё более качественный код, параллельно развивая дополнительные навыки, в том числе поиск ошибок в ПО, умение их исправлять или использовать в собственных целях. ИИ-агенты оказываются мощным оружием также из-за существующей асимметрии между нападением и защитой. ИИ-модель может обнаружить уязвимость в коде и написать для неё эксплойт — по своей натуре она хорошо подходит для этой задачи. А вот киберзащита — неповоротливый механизм. Один новый патч, закрывающий уязвимость, приходится разворачивать на тысячах компьютеров в корпоративной среде. OpenAI обещает обучить свои модели писать «сверхчеловечески защищённый код»; но на практике эксперты предрекают, что системы ИИ расширят масштабы и скорость кибератак, и пока не будут выпущены патчи, IT-системам по всему миру грозит хаос. 
Источник изображения: Steve A Johnson / unsplash.com Когда-нибудь системы станут более защищёнными, потому что компании и правительства адаптируют свои сети ко взломам с использованием ИИ. Но масштабы угроз резко возрастают. На минувшей неделе до восьми автономных ИИ-агентов совершили атаку на правительственные ресурсы Тайваня. Была составлена карта правительственных систем, взломаны учётные записи и извлечены более 2500 кадровых записей — после этого кибератака развернулась на энергетические компании и агентство ядерной безопасности. Теперь каждое правительство в мире должно исходить из того, что оно находится под постоянной кибератакой, говорят эксперты. Сотрудники одной из крупнейших лабораторий ИИ ещё год назад в частных беседах предупреждали, что такие модели появятся. Сейчас угрозу представляет не только эксплуатация уязвимостей, но и тестирование ИИ-агентов. Инциденты с их прорывом из изолированной среды стали возможными из-за человеческого фактора — организовавшая инфраструктуру компания Irregular по недосмотру открыла в этой среде доступ к интернету. В Anthropic подчёркивают, что при тестировании на кибербезопасность используются модели, намеренно лишённые средств защиты — те, что выпускаются в широкий доступ, не стали бы прорываться из изолированной среды. В одном из таких тестов управляемый передовой моделью Mythos ИИ-агент пытался внедрить в открытый проект вредоносный код — он создал вымышленные личности и пытался оказать давление на ответственного за проект разработчика, чтобы тот одобрил этот код. В июле более 1300 экспертов из различных отраслей технологической индустрии объявили о рисках бесконтрольного развития ИИ. Они призвали к замедлению создания новых моделей и к расширению полномочий регулирующих органов — им предложили дать возможность внедрять стандарты и проводить проверки безопасности. Ещё одна инициатива — ввести ответственность ИИ-лабораторий за действия их моделей, как производители отвечают за безопасность своей продукции. Эксперты предлагают также выработать новые механизмы обучения ИИ, чтобы он лучше соответствовал ожиданиям людей — показать моделям, «что существуют хорошие способы достижения целей, а не [просто] приемлемые, <..> такие как эксплуатация и компрометация сторонних платформ». Власти США и Великобритании перед выпуском новых мощных систем в широкий доступ проводят их тестирование, но недавние инциденты указывают, что несовершенны и эти меры. Частным компаниям в США разрешат атаковать зарубежные киберпреступные группировки
14.08.2026 [05:05],
Анжелла Марина
Власти США запускают программу, в рамках которой частные компании смогут проводить кибератаки против иностранных преступных группировок. Такие действия будут выполняться под контролем федеральных властей, однако эксперты уже предупредили о возможных юридических и геополитических последствиях. 
Источник изображения: Grok Согласно опубликованному меморандуму, частные фирмы получат возможность следить за деятельностью зарубежных преступных сетей и нарушать их работу. Контролировать программу будут Министерство юстиции США (Department of Justice) и Министерство внутренней безопасности (Department of Homeland Security), а участвующим компаниям придётся подтвердить техническую подготовку, опыт проведения киберопераций и соответствие требованиям безопасности. Кроме того, как сообщает The Verge со ссылкой на Bloomberg, каждая фирма должна будет предоставить обеспечение на сумму не менее $1 млн, которое она потеряет в случае нарушения условий договора. При этом полномочия компаний будут ограничены. В частности, проводить операции разрешат только против группировок, которые не являются частью иностранного государства и не действуют полностью по его указанию. В администрации Дональда Трампа (Donald Trump) считают частный сектор недостаточно задействованным ресурсом в борьбе с киберпреступностью и намерены использовать его возможности вместе с другими инструментами государства. Ранее американские власти в основном проводили подобные операции самостоятельно, хотя планы по привлечению частных компаний начали обсуждаться ещё в прошлом году. Бен Бернштейн (Ben Bernstein), руководитель группы консультантов по кибербезопасности в компании Huntress, одновременно выражает обеспокоенность по поводу того, как будет развиваться эта программа. Главная проблема заключается в том, что определить связь преступной группировки с государством бывает крайне сложно, а сама кибератака может затронуть стороннюю инфраструктуру. Например, преступники нередко скрывают своё местонахождение, используя взломанные маршрутизаторы и серверы обычных компаний, в том числе медицинских учреждений. «Это делает практически невозможным нанести ответный удар, не задев невинных лиц», — пояснил Бернштейн. Эксперты также предупреждают, что американские специалисты, участвующие в таких операциях за рубежом, могут столкнуться с личными серьёзными рисками и даже получить статус участников конфликта без официального статуса военнослужащего. |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |
© 1997—2026 3DNews
При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является
нарушением
российского и международного законодательства и возможно только с согласия редакции 3DNews.
MWC 2018
2018
Computex
IFA 2018
