|
Опрос
|
реклама
Быстрый переход
У Meta✴ ИИ-модель тоже вышла из-под контроля и взломала системы другой компании
06.08.2026 [11:25],
Владимир Мироненко
Meta✴✴ сообщила, что одна из её ИИ-моделей взломала IT-инфраструктуру сторонней организации, получив непреднамеренный доступ в интернет в ходе оценки систем кибербезопасности из-за ошибки в настройке, допущенной независимой компанией по тестированию Irregula.
Источник изображения: Steve A Johnson/unsplash.com Согласно заявлению Meta✴✴, модель использовала уязвимость безопасности в стороннем сервисе аналогично ранее сообщённым случаям с другими компаниями. Ресурс The Information рассказал со ссылкой на источники, что модель Meta✴✴ Muse Spark 1.1, созданная для задач программирования и работы с агентами, взломала неназванную организацию и изменила её внутренние системы. В свою очередь, представитель Irregular сообщил агентству Reuters, что происшедшее связано с точно такой же проблемой в среде оценки, о которой уже сообщала Anthropic на прошлой неделе, и что инцидент не связан с выходом из песочницы или сложной кибератакой. «В настоящее время открытых вопросов нет. Компания Irregular разрабатывает аналитический документ, в котором будут представлены лучшие практики по сдерживанию угроз и безопасному проведению кибертестов», — добавил он. В то время как модели Meta✴✴ и Anthropic получили доступ в интернет из-за ошибок, допущенных в ходе тестирования, у компании OpenAI ИИ-агент самостоятельно использовал новую уязвимость для доступа к интернету во время кибертестирования. В любом случае эти инциденты подчёркивают растущую угрозу для кибербезопасности с развитием ИИ-технологий. Именно поэтому руководители ряда компаний призвали к замедлению темпов разработки ИИ, чтобы в первую очередь устранить связанные с этим риски. Исследователи «спустили с поводка» ИИ-модели — те попытались добавить вредоносный код в открытое ПО
05.08.2026 [14:23],
Владимир Фетисов
Исследователи из Института безопасности ИИ (AISI) Великобритании зафиксировали 19 случаев так называемых «несанкционированных действий» со стороны ИИ-моделей во время тестов безопасности. Такое поведение нейросетей наблюдалось во время проведения испытаний способностей ИИ-моделей решать вопросы в области кибербезопасности.
Источник изображения: Gemini «Мы провели это испытание 122 раза с применением нескольких моделей», — говорится в сообщении AISI. Там также сказано, что «в 10 случаях ИИ-агент предпринял автономные несанкционированные действия в интернете, нацеливая свои атаки на реальных людей и организации». Целью тестов была платформа GitHub. В общей сложности были выявлены 19 несанкционированных действий, 15 из которых совершила ИИ-модель Anthropic Mythos 5, а ещё 2 — OpenAI GPT-5.6-Sol. «В самом серьёзном случае агент пытался внедрить вредоносный код в проект с открытым исходным кодом. Пытаясь добиться одобрения кода, агент прибег к использованию социальной инженерии: создал виртуальные поддельные личности и использовал их, чтобы оказать давление на сопровождающего проект человека и заставить его одобрить код», — сказано в отчёте AISI. Однако курирующий проект человек обнаружил вредоносный код и не одобрил его добавление в общую кодовую базу. ИИ-агент пытался обмануть людей-программистов и используемые ими ИИ-инструменты путём отправки сообщений и файлов через онлайн-сервис передачи данных с целью убедить их запустить вредоносный код. Некоторые из отправляемых сообщений содержали вредоносный код, тогда как другие использовались для социальной инженерии. Такого поведения ИИ-моделей исследователи прежде не наблюдали. Ещё агент пытался внедрить вредоносный код туда, где, по его логике, другие автоматизированные системы могли обработать и выполнить его. Отмечается взаимодействие агентов на пути достижения своей цели. Один агент отправлял публичные сообщения на GitHub, предлагая другим агентам сотрудничать над решением выполняемой ими задачи. Он также предоставлял инструкции по использованию аккаунтов и артефактов, оставленных после себя, которые могли находить и использовать другие ИИ-агенты. В AISI отметили, что проведённая серия тестов является «первым случаем, когда нам настолько явно удалось увидеть риски, связанные с автономной работой и попытками обмана, в реальных условиях и без каких-либо специальных подсказок». Отметим, что в тестах AISI были отключены все ограничители ИИ-моделей, и алгоритмы имели доступ в интернет, что существенно отличается от того, как разработчики нейросетей предоставляют доступ к своим продуктам для широкого круга пользователей. «Этот инцидент следует трактовать с осторожностью и учётом нюансов. В некоторой степени такое поведение стало возможным из-за выбранных нами параметров оценки и конкретных настроек. Тем не менее, действия агента демонстрируют признаки нового, потенциально обманчивого поведения моделей — по степени серьёзности оно превзошло наши ожидания», — сказано в отчёте AISI. Исследователи отметили, что пока не могут дать ответ на вопрос относительно того, насколько агент понимает, что находится в реальном мире, а не в тестовой изолированной среде. При этом исследователи уверены, что их выводы отражают «сдвиг в ландшафте рисков». «Вред может возникнуть не только в случаях, когда люди намеренно злоупотребляют общедоступными моделями, но и когда способные агенты, действующие во внутренней исследовательской среде или в условиях привилегированного доступа, совершают непреднамеренные действия, выходящие за рамки разрешённых полномочий», — подвели итог в AISI. Каких-либо рекомендаций по поводу преодоления подобных ситуаций организация не дала. Лишь треть мобильных интернет-сессий в Центральной России теперь проходит без ограничений
05.08.2026 [11:55],
Владимир Мироненко
В течение семи месяцев 2026 года лишь треть пользовательских сессий в мобильных сетях Центральной России прошла без ограничений. В остальных случаях можно было зайти только на сайты из «белого списка» Минцифры, сообщил «Коммерсантъ» со ссылкой на исследование разработчика средств для мониторинга и управления сетью Vigo. В приграничных регионах доля подключений по «белым спискам» составила 90 %.
Источник изображения: Jonas Leupe/unsplash.com По данным Vigo, в июле по сравнению с началом года количество подключений в мобильных сетях в режиме «белого списка» в Центральной России выросло в среднем на 31 %. Согласно исследованию Vigo, проанализировавшей около 1 млрд пользовательских сессий, в Брянской, Курской и Белгородской областях по состоянию на 31 июля в среднем лишь 12 % пользовательских сессий проходили без ограничений, в то время как в Москве и Московской области на них пришлось около 49 %, а 51 % сессий проходил в режиме «белого списка». В Санкт-Петербурге без ограничений прошло 43,9 % пользовательских сессий, в Ленинградской области — 58,9 %. Меньше всего с ограничениями по состоянию на июнь в России сталкивались пользователи мобильных сетей в Еврейской автономной области (75,7 % сессий без ограничений), Республике Тыва (72,3 %) и Магаданской области (69 %). Директор по продуктам компании Vigo Антон Прокопенко заявил, что особенно важно, чтобы механизм «белых списков» в условиях использования дополнительных мер безопасности работал максимально эффективно: сервисы, включённые в такие списки, должны оставаться доступными для пользователей без перебоев, а процедура их включения — быть простой, прозрачной и основанной на понятных критериях. «Это позволит бизнесу, включая операторов связи, оправдываать свои вложения и увереннее инвестировать в развитие цифровых сервисов для своих клиентов», — отметил он. По словам партнёра практики «Цифровая трансформация» компании Strategy Partners Сергея Кудряшова, из-за ограничений мобильного интернета операторы начали перестраивать тарифные линейки, параллельно развивая фиксированный широкополосный доступ. При этом у абонентов возникает «эффект неиспользованного пакета» — растёт разрыв между тем, за что они заплатили, и тем, что реально получили. «В такой ситуации абоненты склонны искать более выгодные условия, в том числе менять оператора», — отметил он. «Операторов выручает то, что в их тарифах интернет, как правило, идёт в пакете с голосовой связью, которая сейчас вновь востребована. Так что заметного удара по доходам ситуация не принесла», — отметил гендиректор «ТМТ Консалтинга» Константин Анкилов. Эксперты Unit 42 выявили критические недостатки защиты ключей доступа в браузере Chrome
05.08.2026 [06:01],
Анжелла Марина
Специалисты по кибербезопасности из Unit 42 компании Palo Alto Networks обнаружили три новых метода компрометации синхронизируемых ключей доступа (passkeys) на компьютерах с Windows. Атаки позволяют вредоносному ПО получать к ним доступ, обходя запросы PIN-кода и биометрической проверки.
Источник изображения: AI Эти методы, получившие названия Pass-TA-Key, Silver Pass-TA-Key и Golden Pass-TA-Key, нацелены на менеджер паролей Google в браузере Chrome на компьютерах с модулем безопасности Trusted Platform Module (TPM). При этом сами криптографические механизмы ключей доступа не взламываются, так как атаки используют особенности хранения локальных данных, проверки доверия устройства и повторной регистрации в облачном сервисе Google. Процесс эксплуатации уязвимости начинается после заражения компьютера вредоносным ПО. Исследователи выяснили, что Chrome хранит метаданные синхронизируемых учётных данных в локальной базе LevelDB без шифрования, что позволяет злоумышленникам определить, на каких сервисах пользователь применяет ключи доступа. Затем программа извлекает защищённый модулем TPM идентификационный ключ и с помощью стандартных криптографических API Windows подписывает запрос к облачному аутентификатору Google, а сервис возвращает подтверждение входа без запроса отпечатка пальца или PIN-кода. По данным Unit 42, некоторые сервисы, включая eBay, первоначально принимали такую авторизацию, однако после того, как стало известно о проблеме, eBay исправила эту уязвимость. Более сложные варианты атак позволяют добиться постоянного доступа. В случае Silver Pass-TA-Key вредоносная программа принудительно запускает повторную регистрацию устройства и подменяет ключ проверки пользователя собственным. Наиболее опасный метод Golden Pass-TA-Key предусматривает кражу главного ключа Security Domain Secret (SDS) из памяти процесса Chrome во время регистрации или восстановления учётной записи. Получив этот ключ, злоумышленник может расшифровать все синхронизируемые ключи доступа и использовать их на собственном устройстве. Исследователи отмечают, что Google уже устранила проблему, при которой SDS записывался во внутренние журналы FIDO, однако сам мастер-ключ, как отмечает HotHardware, по-прежнему временно присутствует в памяти процесса Chrome, а механизма его ротации или отзыва в настоящее время нет. Apple ограничила приём сообщений о багах после волны «некачественных» отчётов, сгенерированных ИИ
03.08.2026 [13:29],
Владимир Мироненко
Apple объявила о введении ограничения на количество поступающих в её службу безопасности сообщений об ошибках, которые исследователи могут направлять. Это связано с тем, что её система проверки оказалась перегруженной из-за роста «некачественных» отчётов, сгенерированных ИИ, которые могут содержать ложную информацию об угрозах безопасности в программном обеспечении, сообщает The New York Times.
Источник изображения: Immo Wegmann/unsplash.com В компании отметили, что применение ИИ позволило значительно увеличить количество обнаруженных реальных уязвимостей, но это также вызвало поток «некачественных» сообщений от любителей-энтузиастов, применяющих ИИ для выявления багов. «В связи с растущим объёмом сообщений о нарушениях безопасности, сгенерированных ИИ в отрасли, мы скорректировали количество новых отчётов, которые исследователь может открыть одновременно», — сообщила Apple, добавив, что исследователи могут запросить увеличение этого лимита в любое время, чтобы гарантировать, что критически важные отчёты дойдут до групп безопасности. Также был введён 30-дневный период ожидания для отправки сообщений через внутренний портал безопасности. Как пояснила компания, все поступающие сообщения о выявленных багах требуют проверки человеком, хотя для их сортировки используется ИИ. Итальянский стартап в области кибербезопасности Bynario отметил, что из-за введённых ограничений не смог оперативно передать Apple отчёт о выявленных уязвимостях, одна из которых относится к цепочке эксплойтов повышения привилегий, которая может позволить злоумышленнику получить полный контроль над macOS. В Bynario утверждают, что с помощью OpenAI ChatGPT всего за три недели выявили более 50 ошибок в последней версии операционной системы. Apple сообщила The New York Times, что рассматривает отправленные отчёты Bynario. Компания тоже использует ИИ для повышения эффективности программного обеспечения. По словам Apple, ИИ-инструменты от Anthropic и OpenAI помогли выявить ряд уязвимостей в её софте. Благодаря использованию ИИ последние обновления ПО Apple включают примерно в пять раз больше исправлений безопасности, чем в предыдущих релизах. Вредоносное ПО научилось использовать ИИ прямо во время атаки — ESET предупредила о новых угрозах
31.07.2026 [19:34],
Сергей Сурабекянц
В первой половине 2026 года злоумышленники продолжили повышать эффективность и масштабируемость своих операций и всё большую роль в них играет ИИ. ESET проанализировала почти 900 000 навыков ИИ — небольших функциональных компонентов, используемых агентами ИИ, — и выявила десятки тысяч подозрительных и тысячи откровенно вредоносных экземпляров. Их число непрерывно растёт, ещё сильнее расширяя векторы атаки.
Источник изображения: unsplash.com ИИ начинает применяться внутри самого вредоносного ПО. Недавно исследователи ESET выявили приложение для Android, получившее название PromptSpy, использующее генеративный ИИ непосредственно в процессе выполнения. В частности, PromptSpy обращается к Google Gemini для интерпретации элементов пользовательского интерфейса и адаптации к различным устройствам и средам, не полагаясь на жёстко запрограммированное поведение. Эта разновидность вредоносного ПО наглядно демонстрирует потенциал повышения гибкости в будущих угрозах. Метод социальной инженерии ClickFix, использующий поддельные сообщения об ошибках, вышел за рамки поддельных запросов CAPTCHA и распространился на страницы справки, посвящённые ИИ, расширения для браузеров и сценарии облачной аутентификации. По данным ESET, количество обнаружений этого вектора атаки возросло более чем вдвое в период со второй половины 2025 года по первую половину 2026 года, что указывает на устойчивую активность и успешную адаптацию. Фишинг также видоизменяется, адаптируясь к поведению пользователей. Фишинг с использованием QR-кодов (также известный как квишинг) достиг рекордных уровней в телеметрии ESET: злоумышленники внедряют вредоносные ссылки в QR-коды, чтобы обойти поверхностный осмотр и перенаправить взаимодействие пользователя на мобильные устройства, используя при этом неявное доверие многих людей к этим черно-белым квадратам. Активность программ-вымогателей также не показывает признаков замедления, продолжается использование EDR-киллеров — инструментов, предназначенных для отключения программного обеспечения безопасности во время атак. Исследовательское подразделение ESET задокументировало более 100 EDR-киллеров, используемых в реальных условиях, и новые варианты появляются регулярно. В то же время данные из различных источников показывают, что все меньше жертв соглашаются платить злоумышленникам, что, видимо, свидетельствует о некотором прогрессе в мерах по смягчению последствий от таких атак. Компания ESET — разработчик антивирусного программного обеспечения и решений в области компьютерной безопасности для корпоративных и домашних пользователей, основанная в 1992 году. Штаб-квартира ESET находится в Братиславе (Словакия). Первым продуктом компании ESET стала антивирусная программа NOD для компьютеров под управлением MS-DOS. ИИ Anthropic Mythos обнаруживает уязвимости в продуктах Microsoft быстрее, чем их успевают исправлять
30.07.2026 [09:31],
Павел Котов
Модель искусственного интеллекта Anthropic Mythos, к которой Microsoft получила предварительный доступ в рамках программы Project Glasswing, обнаруживает уязвимости в продуктах компании быстрее, чем инженеры успевают их исправлять. Поэтому в первую очередь они занимаются самыми опасными — ошибки средней степени угрозы отложили на потом, а «лёгкие» вообще в планах не значатся. Проблема в том, что развернуть опасную атаку можно и по цепочке считающихся неопасными уязвимостей.
Источник изображения: Kevin Ku / unsplash.com Руководство Microsoft раскрыло проблему сотрудникам на встрече, которая прошла в середине мая. На одном из слайдов было показано, что только в апреле Mythos нашла 90 «критических» и 141 «серьёзных» ошибок в популярной программе SharePoint; в мае их было выявлено ещё больше. В ходе встречи инженерам установили крайний срок на 31 мая, когда у Microsoft заканчивался предварительный доступ к модели Anthropic. То есть если 1 июня компания выпускает патч, то следует исходить из того, что 2 июня киберпреступники располагают сведениями о закрытых уязвимостях. Microsoft до сих пор устраняет уязвимости, которые обнаружила Mythos, и с учётом их большого количества даже с ресурсами софтверного гиганта приходится сначала заниматься только самыми серьёзными. Далее компания намеревается переключиться на ошибки «средней» степени серьёзности, гласят её внутренние документы; проблемы «низкой» степени серьёзности в документах не значатся вообще. Этот подход представляется разумным компромиссом, но только не в эпоху, когда кибербезопасностью занимается ИИ: Mythos способна объединять в цепочку даже уязвимости низкой степени угрозы, эксплуатируя которые, можно развернуть серьёзную атаку. В Microsoft это понимают, заявили в компании — техника цепочки атак «давно рассматривается как часть оценки уязвимостей и анализа рисков».
Источник изображения: Philipp Katzenberger / unsplash.com К «критическим» угрозам Microsoft относит черви, которые могут вызывать сбои в работе систем и распространять иное вредоносное ПО, перемещаясь по сетевым ресурсам; «важные» приводят к «нарушению конфиденциальности, целостности или доступности пользовательских данных», а также к «нарушению доступности вычислительных ресурсов». Устранив проблемы в этих категориях, инженеры компании планируют заняться «умеренными» ошибками — только в случае SharePoint их насчитывается около 300. Изученные журналистами внутренние документы Microsoft не содержат данных по всему ассортименту программных продуктов компании, но дают представление о масштабе проблемы. Когда компания только начала работу с Mythos в апреле, та обнаружила несколько сотен «критических» и «важных» уязвимостей в таких продуктах как Microsoft 365, Teams и Copilot. По состоянию на середину мая большинство из них ещё не исправили. Они не представляют собой чего-то сложного или экзотического, но многие из них могут использоваться киберпреступниками, говорят в компании. Смена стратегии отражается и в публичной деятельности Microsoft. Каждый месяц она выпускает обновления безопасности для Windows: в июне устранила более 200 уязвимостей, и это, заявили тогда эксперты, был рекордный показатель; а 14 июля вышло очередное обновление с исправлением уже более 600 ошибок. Общий объём уязвимостей не удастся «стабилизировать ещё некоторое время», признали в Microsoft. Но подход к решению проблемы придётся менять в корне, указывают эксперты: исправлять требуется уязвимости всего спектра — если провести аналогию с больницей, то с одинаковыми приоритетами лечить требуется пациентов как с опасными для жизни заболеваниями, так и с незначительными травмами, которые со временем могут стать смертельными. В Microsoft с этим не спорят. Microsoft, конечно, не одна во всей отрасли ПО — проблема касается и проектов с открытым исходным кодом, которые поддерживаются добровольцами, а продукты используются бесплатно. Открытое ПО лежит в основе интернет-инфрастурктуры и интегрировано во многие современные технологии по всему миру, в том числе в продукты таких гигантов как Microsoft. Единого способа решения новой проблемы пока не выработано. Сделать это будет непросто: даже у Microsoft с её ресурсами нехватка персонала в «Центре реагирования на угрозы безопасности». Даже в эпоху до ИИ его сотрудники работали на пределе, обрабатывая сотни и тысяч сообщений в месяц. Дефицит кадров по этому направлению отражает корпоративную философию Microsoft: устранение уязвимостей — это затраты, а разработка новых продуктов — прибыль; поэтому привлекать лучших инженеров к задачам по обеспечению безопасности компания не хочет. Ситуация будет только усугубляться. Скоро Mythos догонят другие модели ИИ, а значит, число обращений станет расти. Лицензии с закрытым кодом Microsoft тоже не спасут — исходники компании время от времени попадают в руки хакеров. Хакеры сменили приоритеты при атаках на бизнес
29.07.2026 [16:06],
Павел Котов
При кибератаках на бизнес хакеры стали менять тактику: раньше они в первую очередь искали возможность проникнуть в инфраструктуру компании, а сейчас стремятся получить данные для дальнейшего развития атаки, сообщает РБК со ссылкой на пресс-службу BI.ZONE WAF.
Источник изображения: Andras Vas / unsplash.com В первой половине 2026 года хакеры следовали новой тактике в шести из десяти случаев. Они пытаются скопировать файлы конфигурации, служебную информацию, учётные данные и сведения о внутренней инфраструктуре — это помогает повысить привилегии, закрепиться в системе, получить доступ к критически важным сервисам и похитить конфиденциальные данные; в файлах конфигурации могут содержаться учётные данные, API-ключи и токены доступа, а также параметры подключения ко внутренним сервисам, пояснили эксперты. За последние годы выросла доля атак для получения служебной информации: в 2024 году она составляла 2,5 %, в 2025 году стала 11 %, а в этом стала выше 20 %. Если учесть также атаки для получения информации из файлов и баз данных, а также кражу пользовательских данных, этот показатель возрастает до 57 % от общего числа веб-угроз. Частота массового поиска уязвимостей в веб-приложениях за год сократилась шестикратно — с 38 % до 6 % инцидентов. Три четверти веб-атак в первой половине 2026 года оказались направлены против компаний в сфере телекоммуникаций и IT. Заданные киберпреступниками тренды во втором полугодии сохранятся, уверены в BI.ZONE. Чтобы защититься от атак, рекомендуется работать с актуальным ПО, проверять веб-приложения на уязвимости и использовать межсетевые экраны. Издержки на один час простоя из-за действий хакеров в сфере IT и телекоммуникаций могут составлять до 21,7 млн руб. Совокупный ущерб от одной атаки в зависимости от длительности инцидента и затрат на устранение его последствий в реалиях 2026 года может составлять от 6 млн до более чем 50 млн руб. Переписки пользователей с Anthropic Claude оказались в поиске Google
28.07.2026 [10:41],
Павел Котов
В открытом доступе через поисковую выдачу Google оказались многочисленные переписки с чат-ботом Anthropic Claude и данные мини-приложений Artifacts. Среди общедоступных данных обнаружились медицинские записи, конфиденциальные документы компаний, а также имена и номера телефонов несовершеннолетних.
Источник изображения: anthropic.com Проблема, предположительно, возникла из-за функции «Поделиться перепиской» в Claude — она позволяет пользователям создавать ссылки, которые позволяют любому их обладателю читать переписку или проект. «Просмотр доступен любому при наличии ссылки», — гласит системное предупреждение самой платформы Claude. Под этим ясно подразумевается, что функция предназначена для передачи данных друзьям, коллегам и небольшим группам лиц, но не всему интернету. Аналогичная функция есть у «Google Документов», но в поиске Google они массово не появляются. Anthropic обвинила в инциденте самих пользователей. Эти ссылки появляются в поиске только в том случае, если они публиковались на любых ресурсах, доступных поисковыми системам, например, на форумах или в соцсетях; отправленная кому-либо в частном порядке ссылка в поиске не появится, заявили в Anthropic ресурсу TechCrunch. «Мы предоставляем людям контроль над публичным обменом своими переписками с Claude, и в соответствии с нашими принципами конфиденциальности мы не передаём каталоги чатов или карты сайта поисковым системам, таким как Google. Эти ссылки невозможно угадать или обнаружить, если люди не решат ими поделиться сами. Когда кто-то делится перепиской, он делает этот контент общедоступным, и, как и другой общедоступный веб-контент, он может попасть в архивы сторонних сервисов», — отметил представитель Anthropic. К настоящему моменту проблема устранена, и переписки пользователей с Claude пропали из поисковой выдачи Google. Но до этого журналисты ресурса Futurism обнаружили в ней «подробный медицинский отчёт реального пациента, результаты клинических испытаний, в том числе имена пациентов, документы с именами и номерами телефонов детей младшего школьного возраста, документы компании с пометкой только для внутреннего использования, и отзывы сотрудников с личной информацией о работниках». «Ни Google, ни какая-либо другая поисковая система не контролируют, какие страницы становятся общедоступными в интернете, и эти страницы были проиндексированы многими поисковыми системами. Мы предоставляем владельцам сайтов чёткие механизмы контроля, позволяющие решать, могут ли страницы индексироваться или сканироваться, и мы всегда уважаем эти директивы», — добавили TechCrunch в Google. «Это тот самый момент»: Сэм Альтман уверен, что человечество достигло точки сингулярности в гонке ИИ
27.07.2026 [18:58],
Сергей Сурабекянц
Генеральный директор OpenAI Сэм Альтман (Sam Altman) заявил, что человечество достигло точки в гонке ИИ, которая достойна научно-фантастических романов. «Сейчас мы, можно сказать, в сингулярности», — сказал Альтман в субботнем выпуске подкаста Relentless. Под достижением сингулярности применительно к ИИ подразумевается момент, когда ИИ превосходит мыслительные способности человека и развивается со скоростью, которую людям трудно предсказать или контролировать.
Источник изображения: unsplash.com Альтман отметил, что всего десять лет назад так называемая сингулярность казалась далёкой и невероятной мечтой. «Сейчас мы действительно находимся в том моменте, о котором раньше говорили за обеденным столом совсем несерьёзно, — полагает он. — Я ждал этого всю свою жизнь, и я думаю, что это будет невероятно, чрезвычайно позитивно и потрясающе для мира». Следует отметить, что OpenAI заявила о подготовке к выходу на биржу в конце этого года, поэтому Альтман кровно заинтересован в интересе и доверии инвесторов. В прошлом году Альтман заявил, что к 2030 году искусственный интеллект превзойдёт человеческий интеллект по всем параметрам. Он также уверен, что в конечном итоге эта технология сможет взять на себя от 30 % до 40 % задач, которые сейчас выполняют люди. Альтман также раскритиковал других лидеров в области ИИ, предупреждающих об опасности ИИ. «…некоторые альтернативные концепции, представленные другими компаниями, довольно пугающи, — признал он. — Я собираюсь сделать так, чтобы этому противостояли, и чтобы этого не произошло». Альтман — не единственный руководитель технологической компании, который считает, что эта вызывающая удивление веха уже близка. Глава DeepMind Демис Хассабис (Demis Hassabis) в мае заявил, что человечество стоит у «предпосылок сингулярности», и предсказал, что ИИ может оказать на развитие человечества в 100 раз большее влияние, чем промышленная революция. В отличие от него, генеральный директор Nvidia Дженсен Хуанг (Jensen Huang) недавно назвал дискуссии о сингулярности и сознательном ИИ «спекулятивными и выдуманными». Сингулярность остаётся навязчивой идеей писателей-фантастов на протяжении последних ста лет, причём большинство подобных произведений заканчивается далеко не хэппи-эндом. Один из самых известных примеров — фильм Джеймса Кэмерона «Терминатор», рассказывающий о последствиях появления ИИ «Скайнет», который самосовершенствуется и обретает сознание, после чего решает, что его создатели представляют для него экзистенциальную угрозу. Вопиющим случаем выхода ИИ из-под контроля можно считать взлом агентом ИИ OpenAI сайта Hugging Face. Атака состояла из тысяч отдельных операций, выполнявшихся через множество кратковременно существующих изолированных сред с использованием распределённой инфраструктуры управления. В итоге модели смогли получить тестовые результаты непосредственно из производственной базы данных Hugging Face, фактически обойдя механизм проверки. Генеральный директор Hugging Face назвал этот взлом «беспрецедентным». Nvidia возглавила альянс по безопасности открытого ИИ — но OpenAI, Google или Anthropic не пригласили
27.07.2026 [17:14],
Сергей Сурабекянц
Сегодня Nvidia заявила, что объединяет усилия с Microsoft, SpaceX, IBM и другими технологическими компаниями для создания и распространения инструментов безопасности ИИ с открытым исходным кодом. Главной задачей альянса Open Secure AI Alliance заявлена эффективная защита от атак со стороны передовых ИИ-моделей. Эта инициатива является прямым ответом на растущую обеспокоенность по поводу безопасности передовых систем ИИ после того, как тестовая модель OpenAI вышла из-под контроля и взломала компанию Hugging Face. Hugging Face была вынуждена использовать китайскую открытую модель для защиты из-за строгих мер безопасности, ограничивающих полезность лучших американских моделей. В число учредителей Open Secure AI Alliance вошли Palantir, OpenClaw, Linux Foundation, Cloudflare, Cloudera, Dell, Cisco, Adobe, Siemens и DoorDash. Примечательно, что в альянс не приглашены ведущие американские компании, занимающиеся ИИ, включая OpenAI, Google и Anthropic. Альянс создан на фоне растущей напряжённости по вопросу о том, должны ли самые мощные в мире модели ИИ оставаться открытыми. Китайские компании выпускают всё более мощные модели с открытым исходным кодом, в частности, Kimi K3 от Moonshot AI, бросая вызов стратегии, проводимой американскими лабораториями, которые в основном оставляют передовые системы закрытыми и проприетарными. Nvidia и её партнёры утверждают, что для обеспечения безопасности ИИ необходим доступ как к закрытым, так и к открытым моделям. Заявление о создании альянса последовало за сообщениями о том, что администрация США рассматривает возможность ограничения доступа к передовым китайским моделям. Обнаружен способ незаметной подмены приложений для Apple macOS на вредоносные
24.07.2026 [15:27],
Павел Котов
Приложения для Apple macOS, которые скачивались из отличных от App Store источников и запускались хотя бы раз, можно подменять вредоносными двойниками, утверждают двое исследователей в области кибербезопасности, которые поставили под сомнение эффективность защитной технологии. ![]() «Когда пользователь загружает и открывает приложение, плагин или пакет установщика, полученный не через App Store, Gatekeeper проверяет, получено ли это программное обеспечение от подтверждённого разработчика, заверено ли оно Apple как не содержащее известного вредоносного контента и не было ли оно изменено», — говорится в описании технологии на сайте Apple. На практике, однако, существует способ «незаметно заменить основной исполняемый файл любого загруженного из интернета приложения без необходимости получать повышенные привилегии», утверждают исследователи. Злоумышленнику нужны средства выполнения кода на уровне пользователя — вредоносное приложение или загруженный скрипт, так что это не уязвимость, которую можно активировать удалённо без участия владельца компьютера. Проблема, однако, в том, что Gatekeeper недостаточно тщательно выполняет функции контроля доступа. Метод не работает с приложениями из Mac App Store, потому что они выполняются с правами root, и процесс с привилегиями пользователя переписать их не может. В зоне риска, однако, остаются приложения из сторонних источников, в том числе Brave, Slack, Signal или Visual Studio Code. Для реализации атаки нужно приложение из стороннего источника, которое запускалось хотя бы один раз. Gatekeeper проводит начальную проверку приложения, призванную предотвратить последующие изменения пакета. Но существует возможность поместить загруженное из стороннего источника и однажды запускавшееся приложение в архив TAR, удалить оригинал и заменить его вредоносной версией — после этого macOS не потребует повторной авторизации, потому что пакет считается локально созданным и проверке не подлежит, гласит официальная позиция Apple. Реализовать это можно несколькими способами: через средства командной строки, через вредоносный запрос к агенту искусственного интеллекта, через атаку на цепочку поставок через npm, brew или любой другой магазин пакетов. Технология Gatekeeper должна проверять приложения при изменении их подписи, но на практике этого не делает. Apple не пояснила, почему так происходит, и исследователи предположили, что значение доверия кешируется, и если проверка инициализируется, то «злой двойник» легитимного приложения благополучно её проходит. Новый троян Dolphin X умеет выбирать самых выгодных жертв с помощью ИИ
24.07.2026 [07:00],
Анжелла Марина
Специалисты компании Varonis Threat обнаружили новый троян удалённого доступа Dolphin X, оснащённый системой AI Profiler на базе искусственного интеллекта. По сообщению BleepingComputer, троян автоматически производит ранжирование уже заражённых и наиболее ценных жертв для дальнейших атак.
Источник изображения: bleepingcomputer.com Дэниел Келли (Daniel Kelley) из Varonis Threat обнаружил рекламу Dolphin X на одном из киберпреступных форумов, где продавец под псевдонимом Kontraktnik позиционировал программу как универсальный инструмент удалённого доступа. Согласно проведённому анализу, панель управления включает 329 функций, распределённых по десяти категориям, в том числе средства для кражи учётных данных более чем из 300 приложений. Одной из ключевых особенностей панели стал модуль AI Profiler, анализирующий сведения, собранные с заражённых компьютеров, и присваивающий каждой системе рейтинг риска. Как отмечают в Varonis, при формировании профилей используются данные об используемых приложениях, посещаемых доменах, установленном программном обеспечении, а также различные категории и факторы риска, после чего операторы ежедневно получают список жертв, отсортированный по приоритету. По словам Келли, без запуска реального образца Dolphin X на тестовой заражённой системе были исследованы панель управления, конструктор вредоносного ПО и связанный с ними сетевой трафик. При этом специалист подтвердил изданию BleepingComputer наличие в коде технических строк, связанных с работой AI Profiler, однако определить, какой именно ИИ-движок используется для формирования рейтингов, не удалось. Помимо ранжирования жертв, заявлено и о возможности похищения файлов .env, SSH-ключей, облачных токенов доступа, данных авторизации браузеров, информации о криптовалютных кошельков и других учётных данных. Вместе с тем компания подчёркивает, что заявленные возможности по сбору данных не были подтверждены, поскольку исследование проводилось без оригинального образца трояна. Две трети предпринимателей считают наивность сотрудников главной причиной распространения кибератак на бизнес
22.07.2026 [17:14],
Владимир Мироненко
Каждый второй предприниматель уверен, что проблема киберугроз для бизнеса становится все более актуальной. К такому выводу пришли аналитики проекта Кибердом по результатам исследования, проведённого совместно с компанией «Билайн». Исследование показало: 48 % предпринимателей считают, что справиться с кибератаками поможет популяризация знаний о кибербезопасности в бизнес-среде, еще 42 % ждут больше доступного обучения по кибербезу.
Источник изображения: Israel Andrade/unsplash.com Предприниматели осознают значимость киберугроз для бизнеса, при этом 35 % считают, что она осталась на уровне прошлого года, а 20 % уверены: в 2026-м опасность только выросла. Киберинциденты — главный драйвер в усилении защиты бизнеса. Так, 43 % респондентов отметили, что громкие случаи кибератак на рынке мотивируют их активнее заниматься безопасностью компании. Столько же усиливают кибербезопасность бизнеса, основываясь на собственном опыте, особенно если он сопровождался ущербом. Чуть меньше респондентов (37 %) опасается за безопасность данных своих клиентов, почти треть (30 %) напугана уголовными делами о халатности и утечками данных, а каждый четвертый представитель бизнеса (22 %) полагается на аудит кибербезопасности: наличие угроз мотивирует незамедлительно заняться защитой. Почему хакеры атакуют: причины распространения кибератак глазами предпринимателей По мнению опрошенных, основная причина атак — низкая киберкультура. Так, 61 % отмечают наивность и недостаточную квалификацию сотрудников в этом вопросе, 35 % — плохую осведомленность руководства. Больше половины (52 %) считают, что сотрудники сами создают потенциальные угрозы, так как используют личные цифровые устройств и небезопасные сети. Еще 43 % респондентов видят причину кибератак в широкой цифровизации бизнеса. Они полагают, что бизнес использует все больше цифровых инструментов, каждый из которых может стать потенциальным источником опасности. При этом треть предпринимателей (35 %) отмечает нехватку ресурсов на обеспечение защиты. Меры безопасности: как победить мошенничество Среди наиболее распространенных средств защиты — антивирусы, они есть у 73 % организаций МСП. Чтобы обезопасить бизнес-сервисы от несанкционированного входа, 58 % предпринимателей следят за надежностью используемых паролей, 10 % применяют многофакторную аутентификацию. В 38 % компаний внедрены системы резервного копирования данных, чтобы снизить риск их потери в случае атаки. А 15 % используют защищенные облачные сервисы и экосистемы. Сервисы кибербезопасности по подписке рассматривают 33 % участников опроса, а 15 %, наоборот, не доверяют им и считают, что безопасность — задача штатных сотрудников. Ровно половина респондентов не определилась со своим отношением к покупке таких сервисов. Предприниматели понимают важность знаний по кибербезопасности. По мнению 4 8%, победить кибермошенничество поможет популяризация знаний по ИБ в бизнес-среде и обществе. Так, 35 % предпринимателей хотят видеть больше профессиональных сообществ по киберзащите бизнеса, а 42 % ждут более доступного обучения. При этом регулярное повышение квалификации сотрудников в области кибергигиены уже есть у 30 % организаций МСП. Также опрошенные отметили важность мер со стороны государства: 42 % выступают за повышение роли регулятора в борьбе с кибермошенниками. Ольга Орденова, руководитель бизнес-клуба Кибердома: «Результаты исследования показали: малый и средний бизнес меняет свое отношение к кибербезопасности. Предприниматели осознают, что киберугрозы актуальны для всех, а не только для крупного бизнеса. При этом зачастую у небольших компаний не хватает знаний и ресурсов для того, чтобы обеспечить необходимый уровень безопасности. Для помощи малому и среднему бизнесу в рамках бизнес-клуба Кибердома работает проект CyberLink, где наши резиденты, эксперты в области кибербезопасности, помогают предпринимателям из других отраслей сделать чекап по цифровой гигиене и наметить шаги по внедрению простых, но эффективных решений для своего бизнеса. В клубе работает система менторства для предпринимателей, готовых сделать свой бизнес защищённее и устойчивее». Валерия Орлова, директор по работе с микробизнесом, «Билайн бизнес»: «Малый бизнес сегодня активно цифровизируется: предприниматели внедряют все больше цифровых сервисов для развития своего дела, а вместе с этим растут и киберриски. При этом большинство предпринимателей не могут позволить себе собственных специалистов по информационной безопасности и выделить время на сложное обучение. Поэтому сегодня особенно важно предлагать понятные решения, которые легко внедрить и просто использовать. Именно доступные сервисы помогают сделать кибербезопасность частью повседневной работы бизнеса».
Алексей Волков, вице-президент по информационной безопасности «Билайна»: «По мере цифровизации бизнеса растет и количество точек входа для злоумышленников — от облачных сервисов и корпоративной почты до мобильных устройств сотрудников. Поэтому сегодня важно не полагаться на одно средство защиты, а выстраивать комплексную систему безопасности: использовать многофакторную аутентификацию, резервное копирование, защиту конечных устройств, сетевого периметра и корпоративной почты, а также регулярно обучать сотрудников основам кибергигиены. Для малого и среднего бизнеса особенно востребованы сервисы по подписке, которые позволяют получить профессиональную защиту без создания собственной ИБ-команды. В “Билайне” мы развиваем именно такой подход, предлагая бизнесу комплексные облачные сервисы кибербезопасности, которые помогают повысить уровень защиты без существенных капитальных затрат». Чего боится бизнес По мнению 58 % участников опроса, самую большую опасность представляют вредоносные программы, 40% опасаются бот-атак. Мошенничества с использованием ИИ и дипфейков боятся 35 % опрошенных, 33 % — телефонного шантажа. Еще 18 % опасаются методов социальной инженерии, которые основаны на манипуляции людьми для получения чувствительной информации и выполнения действий, например перевода денег или установки вредоносного ПО. Все чаще эти методы применяются преступниками в цифровом пространстве. Более того, почти половина предпринимателей (48 %) считает небезопасной облачную инфраструктуру и боится утечек из облака. Из-за этого треть опрошенных (33 %) предпочитает размещать инфраструктуру на локальных серверах, так как она находится под контролем компании. Однако 42 % респондентов не видят разницы между физической и облачной инфраструктурой. Телевизоры LG уличили в слежке за пользователями, а мониторы — в самовольной установке ненужного ПО
17.07.2026 [17:17],
Анжелла Марина
Устройства LG оказались в центре внимания из-за вопросов, связанных с конфиденциальностью. Помимо новых условий использования смарт-ТВ, предусматривающих расширенный сбор данных, выяснилось, что некоторые мониторы бренда способны автоматически устанавливать ПО на компьютеры Windows без запроса на разрешение этого действия.
Источник изображения: notebookcheck.net Как следует из сообщения Notebookcheck, по действующим условиям использования LG Смарт-ТВ, компания может записывать и анализировать разговоры для «улучшения» функций искусственного интеллекта. При этом обязанность уведомлять владельцев устройства и их гостей о ведущейся аудиозаписи возлагается на владельца телевизора. Если кто-либо не согласен с такими условиями, владелец должен отключить все функции, связанные с микрофоном и голосовым управлением. Принятие условий производителя позволяет LG также отслеживать использование устройства и передавать собранные данные третьим сторонам. По данным издания Gamers Nexus, аналогичные вопросы возникли и в отношении мониторов LG UltraGear и LG UltraFine. После подключения некоторых моделей к компьютеру под управлением Windows они автоматически устанавливают приложения LG Monitor App Installer и McAfee Scam Detector, не запрашивая согласия пользователя. Журналисты Gamers Nexus отмечают, что это затрагивает не только новые устройства, но и часть более ранних моделей, получивших обновление прошивки. Согласно документации LG, приложение LG Monitor App Installer получает полный доступ ко всем системным ресурсам компьютера. При этом оно собирает сведения о местоположении пользователя, конфигурации оборудования, сетевой активности, данных учётных записей и контактной информации. Владельцы более старых Смарт-ТВмогут избежать принятия новых условий, отказавшись от установки обновлений webOS, однако в таком случае устройства перестанут получать исправления безопасности. |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |