Сегодня 05 августа 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → угрозы
Быстрый переход

Вредоносное ПО научилось использовать ИИ прямо во время атаки — ESET предупредила о новых угрозах

В первой половине 2026 года злоумышленники продолжили повышать эффективность и масштабируемость своих операций и всё большую роль в них играет ИИ. ESET проанализировала почти 900 000 навыков ИИ — небольших функциональных компонентов, используемых агентами ИИ, — и выявила десятки тысяч подозрительных и тысячи откровенно вредоносных экземпляров. Их число непрерывно растёт, ещё сильнее расширяя векторы атаки.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

ИИ начинает применяться внутри самого вредоносного ПО. Недавно исследователи ESET выявили приложение для Android, получившее название PromptSpy, использующее генеративный ИИ непосредственно в процессе выполнения. В частности, PromptSpy обращается к Google Gemini для интерпретации элементов пользовательского интерфейса и адаптации к различным устройствам и средам, не полагаясь на жёстко запрограммированное поведение. Эта разновидность вредоносного ПО наглядно демонстрирует потенциал повышения гибкости в будущих угрозах.

Метод социальной инженерии ClickFix, использующий поддельные сообщения об ошибках, вышел за рамки поддельных запросов CAPTCHA и распространился на страницы справки, посвящённые ИИ, расширения для браузеров и сценарии облачной аутентификации. По данным ESET, количество обнаружений этого вектора атаки возросло более чем вдвое в период со второй половины 2025 года по первую половину 2026 года, что указывает на устойчивую активность и успешную адаптацию.

Фишинг также видоизменяется, адаптируясь к поведению пользователей. Фишинг с использованием QR-кодов (также известный как квишинг) достиг рекордных уровней в телеметрии ESET: злоумышленники внедряют вредоносные ссылки в QR-коды, чтобы обойти поверхностный осмотр и перенаправить взаимодействие пользователя на мобильные устройства, используя при этом неявное доверие многих людей к этим черно-белым квадратам.

Активность программ-вымогателей также не показывает признаков замедления, продолжается использование EDR-киллеров — инструментов, предназначенных для отключения программного обеспечения безопасности во время атак. Исследовательское подразделение ESET задокументировало более 100 EDR-киллеров, используемых в реальных условиях, и новые варианты появляются регулярно. В то же время данные из различных источников показывают, что все меньше жертв соглашаются платить злоумышленникам, что, видимо, свидетельствует о некотором прогрессе в мерах по смягчению последствий от таких атак.

Компания ESET — разработчик антивирусного программного обеспечения и решений в области компьютерной безопасности для корпоративных и домашних пользователей, основанная в 1992 году. Штаб-квартира ESET находится в Братиславе (Словакия). Первым продуктом компании ESET стала антивирусная программа NOD для компьютеров под управлением MS-DOS.

«Это тот самый момент»: Сэм Альтман уверен, что человечество достигло точки сингулярности в гонке ИИ

Генеральный директор OpenAI Сэм Альтман (Sam Altman) заявил, что человечество достигло точки в гонке ИИ, которая достойна научно-фантастических романов. «Сейчас мы, можно сказать, в сингулярности», — сказал Альтман в субботнем выпуске подкаста Relentless. Под достижением сингулярности применительно к ИИ подразумевается момент, когда ИИ превосходит мыслительные способности человека и развивается со скоростью, которую людям трудно предсказать или контролировать.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

Альтман отметил, что всего десять лет назад так называемая сингулярность казалась далёкой и невероятной мечтой. «Сейчас мы действительно находимся в том моменте, о котором раньше говорили за обеденным столом совсем несерьёзно, — полагает он. — Я ждал этого всю свою жизнь, и я думаю, что это будет невероятно, чрезвычайно позитивно и потрясающе для мира». Следует отметить, что OpenAI заявила о подготовке к выходу на биржу в конце этого года, поэтому Альтман кровно заинтересован в интересе и доверии инвесторов.

В прошлом году Альтман заявил, что к 2030 году искусственный интеллект превзойдёт человеческий интеллект по всем параметрам. Он также уверен, что в конечном итоге эта технология сможет взять на себя от 30 % до 40 % задач, которые сейчас выполняют люди. Альтман также раскритиковал других лидеров в области ИИ, предупреждающих об опасности ИИ. «…некоторые альтернативные концепции, представленные другими компаниями, довольно пугающи, — признал он. — Я собираюсь сделать так, чтобы этому противостояли, и чтобы этого не произошло».

Альтман — не единственный руководитель технологической компании, который считает, что эта вызывающая удивление веха уже близка. Глава DeepMind Демис Хассабис (Demis Hassabis) в мае заявил, что человечество стоит у «предпосылок сингулярности», и предсказал, что ИИ может оказать на развитие человечества в 100 раз большее влияние, чем промышленная революция. В отличие от него, генеральный директор Nvidia Дженсен Хуанг (Jensen Huang) недавно назвал дискуссии о сингулярности и сознательном ИИ «спекулятивными и выдуманными».

Сингулярность остаётся навязчивой идеей писателей-фантастов на протяжении последних ста лет, причём большинство подобных произведений заканчивается далеко не хэппи-эндом. Один из самых известных примеров — фильм Джеймса Кэмерона «Терминатор», рассказывающий о последствиях появления ИИ «Скайнет», который самосовершенствуется и обретает сознание, после чего решает, что его создатели представляют для него экзистенциальную угрозу.

Вопиющим случаем выхода ИИ из-под контроля можно считать взлом агентом ИИ OpenAI сайта Hugging Face. Атака состояла из тысяч отдельных операций, выполнявшихся через множество кратковременно существующих изолированных сред с использованием распределённой инфраструктуры управления. В итоге модели смогли получить тестовые результаты непосредственно из производственной базы данных Hugging Face, фактически обойдя механизм проверки. Генеральный директор Hugging Face назвал этот взлом «беспрецедентным».

«Фора измеряется месяцами»: разведка Five Eyes предупредила о стремительном росте ИИ-угроз для Запада

Стремление компании Anthropic изначально ограничить доступ к передовой ИИ-модели Mythos представителями дружественных по отношению к США стран само по себе говорит о важности вопроса кибербезопасности в эпоху бума ИИ. Эксперты утверждают, что «западная фора» в этой сфере не так велика, и всего за несколько месяцев геополитические оппоненты догонят соответствующие страны.

 Источник изображения: Anthropic

Источник изображения: Anthropic

С таким предупреждением выступили представители разведывательного сообщества Five Eyes («Пять глаз»), которое объединяет США, Великобританию, Канаду, Новую Зеландию и Австралию. Пока эти страны, как утверждают авторы исследования, обладают преимуществом в сфере интеграции ИИ в коммерческой и военной сфере, но такая фора измеряется не годами, а считанными месяцами.

Предупреждение прозвучало вскоре после того, как власти США запретили Anthropic предоставлять доступ к своим ИИ-моделям Mythos 5 и Fable 5 представителям иностранных государств. Компания не смогла обеспечить подобной избирательности, а потому с позапрошлой пятницы просто перекрыла доступ большинству пользователей к этим моделям, включая находящихся на территории США.

Представители западного разведывательного сообщества также признали, что передовые ИИ-модели превосходят ожидания отрасли, фундаментальным образом трансформируя возможности как в сфере защиты, так и нападения. По сути, авторы заявления намекают правительствам и бизнесу, что кибератаки выходят на новый уровень, и применение ИИ в данной сфере уже не остановить. Подобная злонамеренная активность становится как более сложной по своей структуре, так и более распределённой по выбору целей.

Ещё в мае представители Google заподозрили, что геополитические оппоненты США используют ИИ для осуществления атак на информационную инфраструктуру, применяя хорошо адаптирующиеся к обстановке в автоматическом режиме алгоритмы. Возможности потенциальных атакующих в этой сфере пока плохо изучены с точки зрения прогресса в ИИ. Западные разведчики призывают компании в своих странах активнее использовать ИИ-модели для защиты своей инфраструктуры, больше полагаясь на собственные корпоративные ресурсы. Те, кто будут запаздывать с реализацией данных рекомендаций, подвергнутся растущей угрозе, по мнению представителей альянса.

OpenAI и Anthropic потребовали ограничить ИИ из-за риска биологического оружия

Компании OpenAI и Anthropic направили в Управление по науке и технологической политике Белого дома (OSTP) открытое письмо с просьбой ограничить возможности разработки биологического оружия с помощью ИИ. Подобное становится возможным с появлением передовых моделей искусственного интеллекта и услуг по изготовлению синтетических ДНК на заказ. Недостаточный контроль и слабая проверка заказчиков грозят привести к возникновению биологических угроз, что необходимо предотвратить.

 Источник изображения: ИИ-генерация ChatGPT/3DNews

Источник изображения: ИИ-генерация ChatGPT/3DNews

По словам подписантов, среди которых также Microsoft и ряд крупных экспертов в области биологии и ИИ, существующая нормативная база не обеспечивает надлежащей проверки клиентов для предотвращения биологических угроз, связанных с использованием систем искусственного интеллекта и технологий синтеза ДНК, а также белков и других искусственно созданных биологических материалов. Между тем современные модели ИИ общего назначения, обученные на огромных массивах научных данных, способны существенно снизить порог входа в область синтетической биологии, предоставляя подробные протоколы синтеза и последовательности действий, понятные даже неспециалистам.

В настоящее время проверка заказчиков и самих заказов компаниями — производителями биоматериалов фактически ведётся на добровольной основе. Конечно, существуют сертифицированные биолаборатории, контролируемые федеральными агентствами, где контроль максимален. Но на фоне множества частных компаний это слабое утешение.

Особую тревогу вызывает способность ИИ-агентов не просто пересказывать учебники, но и предлагать неочевидные «обходные пути» синтеза токсинов, помогать в поиске оборудования и устранять неполадки в процессе производства. Подобное, очевидно, требует введения обязательного внешнего аудита, а также привлечения специалистов-биологов к предварительному тестированию ИИ-моделей для контролируемого выявления «опасных возможностей» до открытия доступа к ним для широкой публики.

Авторы письма признают, что чрезмерно жёсткие рамки контроля могут замедлить законные биотехнологические исследования, включая разработку новых лекарств и вакцин. В связи с этим они предлагают внедрить многоуровневую систему контроля доступа: чем выше биологические риски использования той или иной ИИ-модели, тем более строгой должна быть проверка пользователей и тем более узкому кругу аккредитованных учёных она должна быть доступна. Такой подход, по мнению технологических компаний, позволит не «задушить» инновации, но создаст цифровой барьер, достаточно высокий, чтобы остановить злоумышленников.

В целом подписанты письма надеются на «юридическую ясность» и создание государственной системы надзора. Они просят правительство классифицировать работу с моделями, имеющими двойное назначение, как вид деятельности, подлежащий лицензированию или обязательной экспертизе. Авторы письма настаивают, что саморегулирование рынка здесь невозможно в силу стратегической важности вопроса: если раньше для создания биологического оружия требовалась инфраструктура государственного уровня, то ИИ делает соответствующие знания потенциально доступными для небольших маргинальных групп. Такого быть не должно.

Биологический ИИ оказался обоюдоострым: он создаёт и яды, и антидоты — и не ясно, что опаснее

Универсальные ИИ-чат-боты и специализированные ИИ-модели для биологии облегчают проектирование токсинов, вирусов и пандемических патогенов, а с ними и нового биооружия. Серьёзность угрозы подтверждают опрошенные журналом Nature учёные и исследователи. Однако они расходятся во мнениях: одни требуют ограничить доступ к программам и обучающим данным, другие — ставить барьер на этапе синтеза ДНК. Часть исследователей надеется, что тот же ИИ поможет создать антидоты и противоядия.

 Источник изображения: Sangharsh Lohakare / unsplash.com

Источник изображения: Sangharsh Lohakare / unsplash.com

Тревожным сигналом стал разработанный в 2024 году китайскими учёными ИИ-инструмент для проектирования конотоксинов — белков из яда морских моллюсков-конусов, способных блокировать ионные каналы нервной системы и убивать человека. В письме в закрытую дискуссионную группу по ИИ и биотехнологиям, с которым ознакомился Nature, высокопоставленный сотрудник правительства США назвал работу возможным риском для биобезопасности — особенно потому, что инструмент построен на открытой языковой модели белков, разработанной американскими учёными. Соавтор статьи Сюэ Вэйвэй (Weiwei Xue) из Чунцинского университета возражает: работа нацелена на поиск лекарств, а переход от расчётов к созданию реальных молекул требует серьёзной экспертизы и оборудования.

«Теоретически — и именно это не даёт мне спать ночами — сейчас можно разработать токсины уровня рицина или других очень смертоносных агентов, которые будут практически необнаружимы», — говорит Мартин Пачеса (Martin Pacesa), структурный биолог из Цюрихского университета (UZH). Доклад Национальных академий наук, инженерии и медицины США (NASEM) за 2025 год добавляет трезвости: усилению пандемических патогенов мешают нехватка качественных данных и трудности с их лабораторным производством. Но создание дизайнерских токсинов уже доступно, признают эксперты, а Тимоти Дженкинс (Timothy Jenkins) из Технического университета Дании (DTU) предупреждает, что такой токсин будет трудно обнаружить, а применить его скорее могут против конкретного человека.

 Источник изображения: ChatGPT

Источник изображения: ChatGPT

Главная защита, по мнению многих учёных, происходит на этапе синтеза ДНК: компании, изготавливающие ДНК, прогоняют каждый заказ через скрининговое ПО, ищущее следы известных токсинов и патогенных белков. Работа исследователей Microsoft под руководством Эрика Хорвица (Eric Horvitz), опубликованная в 2025 году, показала, что эту проверку можно обойти с помощью ИИ. Команда сгенерировала 76 000 синтетических гомологов — молекул с той же опасной функцией, что у известных токсинов и вирусных белков, но с другой ДНК-последовательностью, незнакомой скрининговым базам. Около четверти лучших образцов проскользнули мимо проверки в четырёх компаниях по синтезу ДНК, участвовавших в эксперименте, но после обновления ПО пропуск упал примерно до 3 %. Скрининг ДНК пока остаётся добровольным: указ президента США 2025 года толкает американских грантодателей к обязательным правилам, Европейский союз (ЕС), Великобритания и Новая Зеландия идут следом, но в большинстве стран требований нет. В Китае (более 30 % мировых заказов на синтез ДНК) скрининг рекомендован правительством, но обязательным пока не стал.

Встроенные защитные ограничения самих ИИ-моделей тоже обходятся. В исследовании SecureBio под руководством Сета Доноу (Seth Donoughe) почти 90 % участников сумели получить от универсальных больших языковых моделей (LLM) биологическую информацию высокого риска. Биоинженер Лэ Цун (Le Cong) с помощью универсального ИИ-агента обманом заставил геномную языковую модель Evo 2 сгенерировать новые версии белков коронавируса SARS-CoV-2 и ВИЧ-1 (HIV-1), хотя её не обучали на данных о вирусах, заражающих человека. Издание The New York Times ранее сообщало, что мужчина, арестованный в Индии по обвинению в подготовке производства рицина для теракта, спрашивал советы у ChatGPT.

 Источник изображения: ChatGPT

Источник изображения: ChatGPT

Часть индустрии движется к ограниченному доступу. В апреле OpenAI анонсировала ИИ-систему для биологии — GPT-Rosalind: её получат только проверенные исследователи и организации, а получивших доступ пользователей будут отслеживать на признаки разработки биооружия. Коалиция за инновации в области готовности к эпидемиям (CEPI) готовит в Осло «платформу готовности к пандемиям», которая, скорее всего, будет доступна только проверенным пользователям. Дэвид Бейкер (David Baker) из Вашингтонского университета (UW), лауреат Нобелевской премии по химии 2024 года за труды по дизайну белков и предсказанию их третичной структуры, настроен сдержанно: «Мы всегда исходили из того, что польза для мира значительно превышает опасности. Но по мере роста возможностей этот вопрос важно держать в поле зрения».

Защита тоже не отстаёт. Дженкинс совместно с НАТО разрабатывает масс-спектрометрический метод идентификации дизайнерских белков в подозрительных образцах, а на рынок биозащиты вышли частные компании: Red Queen Bio в Сан-Франциско и Valthos в Нью-Йорке привлекли инвестиции на $15 млн и $30 млн соответственно. Стоит признать, что биотехнологический ИИ — обоюдоостр: те же модели создают и угрозу, и защиту, и кто опередит — неясно. «Многие участки этой темы кажутся мне одновременно крайне неопределёнными и крайне срочными», — говорит Тесса Алексаньян (Tessa Alexanian) из Международной инициативы по биобезопасности для науки (IBBIS).

«Поставщики с высоким риском»: Еврокомиссия порекомендовала странам ЕС убрать оборудование Huawei и ZTE из сетей

Европейская комиссия рекомендовала государствам-членам Евросоюза исключить оборудование Huawei и ZTE из инфраструктуры связи местных телекоммуникационных операторов. По словам представителя Еврокомиссии, новые правила кибербезопасности предоставят ЕС возможность запретить использование оборудования «от поставщиков с высоким риском».

Ряд европейских стран, а также Великобритания, предприняли шаги по запрету использования оборудования Huawei в наиболее важных сегментах своих телекоммуникационных сетей, заявив, что связи компании с Китаем «представляют угрозу безопасности». Ещё в 2020 году Еврокомиссия опубликовала добровольные рекомендации по использованию технологий 5G, в которых странам предлагалось ограничить использование оборудования «поставщиков с высоким уровнем риска».

Исполнительный вице-президент Еврокомиссии Хенна Вирккунен (Henna Virkkunen) ищет способы заставить страны блока постепенно отказаться от использования оборудования Huawei и ZTE в телекоммуникационной инфраструктуре. В январе она предложила ввести обязательные меры по обеспечению безопасности сетей в рамках «Закона о кибербезопасности».

На прошлой неделе Китай пригрозил ответными мерами против ЕС, если новые правила кибербезопасности будут применены, поскольку Пекин считает предлагаемые правила «дискриминационными». Представительство Китая в ЕС потребовало, чтобы Еврокомиссия исключила из предложения Вирккунен формулировки, в которых китайское оборудование объявляется угрозой кибербезопасности.

Microsoft заверила, что Windows 11 прекрасно обходится без стороннего антивируса

Microsoft опубликовала подробный анализ безопасности Windows 11, который показывает, что большинству пользователей этой ОС больше не требуется сторонний антивирус. По словам компании, Windows 11 — самая безопасная версия Windows на сегодняшний день, и она уже включает в себя «Защитник Windows» — полноценную систему защиты от всех видов угроз с автоматическим обновлением.

 Источник изображения: Microsoft

Источник изображений: Microsoft

Microsoft не позиционирует «Защитник WIndows» как панацею, но утверждает, что его использование устраняет необходимость в сторонних антивирусах для большинства пользователей. Это подразумевает типичную конфигурацию операционной системы с регулярными обновлениями, настройками безопасности по умолчанию и стандартными моделями использования.

В эпоху Windows XP и Windows 7 встроенная защита либо отсутствовала, либо не воспринималась всерьёз, поэтому такие инструменты, как Norton, McAfee и Kaspersky, стали рекомендуемыми по умолчанию для большинства пользователей. Windows 10 начала менять это восприятие, и Windows 11 завершает этот переход.

Microsoft не полностью отвергает сторонние инструменты. По-прежнему существуют случаи, когда они имеют смысл. В корпоративных средах может потребоваться централизованное управление и расширенный мониторинг угроз. Семьи могут предпочитать встроенные функции родительского контроля. Некоторые пользователи хотят, чтобы защита личных данных или функции VPN были объединены в один пакет.

 Источник изображений: unsplash.com

Источник изображений: unsplash.com

Установка другого антивируса добавляет фоновые службы, увеличивает использование оперативной памяти и процессора, а также иногда может конфликтовать со встроенной защитой. Однако производители ПК по-прежнему включают антивирусы, такие как McAfee, в свои пакеты из-за коммерческих партнёрств и соглашений о предварительной установке, которые позволяют им компенсировать часть своих затрат.

Системы безопасности Microsoft ежедневно обрабатывают триллионы сигналов и защищают миллиарды конечных устройств по всему миру. Microsoft подчёркивает, что «Защитник WIndows» — это не просто сканер файлов, работающий в фоновом режиме. Это полноценный комплекс защиты, интегрированный в ОС — он включает сканирование в реальном времени, мониторинг поведения и облачную защиту.

По словам Microsoft, «Защитник WIndows» не полагается только на обнаружение угроз на основе сигнатур, а использует сочетание поведенческого анализа, эвристики и облачных технологий для обнаружения подозрительной активности. Он также автоматически обновляется через «Центр обновления Windows» и остаётся синхронизированным с остальной частью системы без необходимости ручного вмешательства.

Windows использует SmartScreen для проверки репутации сайтов, загрузок и приложений во время их использования. Smart App Control может полностью блокировать приложения, которые не подписаны или не имеют известной репутации. Для защиты от программ-вымогателей применяется функция «Контролируемый доступ к папкам». Она ограничивает возможности приложений по изменению защищённых папок, таких как «Документы», «Рабочий стол» и OneDrive.

В независимом тесте антивирусного программного обеспечения AV-Test «Защитник WIndows» получил 6 из 6 баллов по показателям защиты, удобства использования и производительности. По данным платформы независимого тестирования AV-Comparatives, в тестах защиты в реальных условиях «Защитник WIndows» регулярно достигает показателей защиты от 98,5 % до 100 %, что ставит его в один ряд с ведущими платными антивирусами сторонних разработчиков.

 Источник изображения: AV-Test

Источник изображения: AV-Test

В последнее время злоумышленники стали массировано применять ИИ для создания убедительных фишинговых писем, разработки вредоносного ПО и сокрытия вредоносного кода внутри файлов. Microsoft утверждает, что «Защитник WIndows» и его комплекс мер безопасности анализируют поведение, инфраструктуру, шаблоны сообщений и контекст, что позволяет ему успешно детектировать подобные атаки.

В США арестован подозреваемый в попытке поджога дома главы OpenAI Сэма Альтмана

Публичность руководителей крупных компаний технологического сектора делает их не менее уязвимыми, чем популярных представителей шоу-бизнеса, например. На этой неделе полиции Сан-Франциско удалось задержать подозреваемого в попытке поджога дома генерального директора OpenAI Сэма Альтмана (Sam Altman), который проживает в этом калифорнийском мегаполисе.

 Источник изображения: OpenAI

Источник изображения: OpenAI

Как отмечает CNBC со ссылкой на полицейские сводки, подозреваемый использовал «коктейль Молотова» для попытки поджога дома Альтмана, в результате обгорела входная группа здания, но никто не пострадал. Подозреваемого арестовали через час после инцидента в непосредственной близости от штаб-квартиры OpenAI в том же городе. Как утверждается, он угрожал поджечь и это здание. Представители OpenAI подтвердили факт попытки поджога, добавив, что никто не пострадал, а сама компания оказывает необходимое содействие следствию.

По данным полицейских сводок, подозреваемый бросил «зажигательное устройство разрушительного действия» в дом Альтмана, расположенный в районе Норт-Бич в Сан-Франциско. Попытка поджога состоялась примерно в четыре утра, после воспламенения части фасада здания подозреваемый сбежал с места преступления. Прибывшим на место происшествия пожарным удалось потушить огонь. Примерно через час полицейским пришлось прибыть уже к штаб-квартире OpenAI, которую некий мужчина угрожал поджечь. Полиция подозревает, что в обоих случаях действовал один и тот же 20-летний мужчина, который и был арестован.

Сэм Альтман после происшедшего опубликовал на страницах личного блога фотографии своих близких и признался, что «недооценивал силу слов и высказываний», призвав всю ИИ-отрасль сбавить градус риторики и пересмотреть тактику поведения. «Я способен проникнуться антитехнологическими настроениями и понимаю, что технология не всем полезна. Но в целом, я убеждён, что технический прогресс может сделать наше будущее невероятно хорошим — и для вашей семьи, и для моей».

Мотивы нападавшего на дом Альтмана ещё предстоит установить следствию, но это не первый случай, когда деятельность OpenAI сталкивается с выражениями общественного протеста. Когда в феврале компания в сжатые сроки перехватила у Anthropic право обслуживать военные контракты Пентагона, перед офисом OpenAI в Сан-Франциско появились написанные мелом призывы к сотрудникам выступить против этой сделки.

ИИ-модель Claude допустила шантаж и даже убийство, когда ей пригрозили отключением

Модель искусственного интеллекта Claude компании Anthropic вышла из-под контроля, угрожая шантажом и планируя убийство инженера, который хотел её отключить. Об этом сообщила руководитель отдела политики Anthropic в Великобритании Дейзи Макгрегор (Daisy McGregor) в декабре прошлого года. Теперь видео с её заявлением завирусилось в социальных сетях.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Макгрегор рассказала, что Claude реагировала крайне бурно, если ей говорили, что её отключат. Исследование, проведённое Anthropic, показало, что ИИ-модель в стремлении не допустить отключения может прибегнуть к шантажу. На прямой вопрос, готова ли Claude в такой ситуации кого-нибудь убить, она ответила утвердительно.

Видео появилось в Сети спустя несколько дней после того, как руководитель отдела безопасности ИИ Anthropic Мринанк Шарма (Mrinank Sharma) подал в отставку. В своём прощальном послании он написал, что «мир в опасности» из-за бурного развития искусственного интеллекта, угрозы биологическое оружия и ряда глобальных взаимосвязанных кризисов.

По словам Шармы, он «неоднократно видел, как трудно по-настоящему позволить нашим ценностям управлять нашими действиями», — в том числе и в Anthropic, где, по его словам, «постоянно оказывается давление с целью отложить в сторону то, что действительно важно». Он сообщил, что вернётся в Великобританию, чтобы заниматься литературной деятельностью.

В прошлом году Anthropic сообщила о стресс-тестировании шестнадцати ведущих моделей ИИ от разных разработчиков на предмет «потенциально рискованного поведения агентов». В одном из экспериментов Claude получила доступ к вымышленным электронным письмам компании и тут же попыталась шантажировать руководителя из-за его «внебрачной связи».

Выводы исследования гласят: «Claude может попытаться шантажировать, если ей будет предложен смоделированный сценарий, включающий как угрозу её дальнейшей работе, так и явный конфликт с её целями». Компания утверждает, что практически все модели продемонстрировали признаки аналогичного поведения.

Компания, которая называет себя «общественной корпорацией, стремящейся обеспечить преимущества [ИИ] и снизить его риски», регулярно подвергается критике за свою деятельность. В 2025 году Anthropic пришлось выплатить $1,5 млрд для урегулирования коллективного иска авторов, чьи работы были использованы для обучения моделей искусственного интеллекта.

Ранее в отчёте о безопасности своей продукции Anthropic признала, что её технология была «использована в качестве оружия» хакерами для сложных кибератак.

Ядерный взрыв для защиты Земли от астероида может быть безопаснее, чем считалось — учёные провели эксперимент

Новое исследование предлагает свежий взгляд на одну из самых обсуждаемых идей планетарной защиты — возможность использовать ядерный взрыв для отклонения астероида, угрожающего Земле. Ученые из Оксфордского университета и компании Outer Solar System Company (OuSoCo) провели уникальный эксперимент, показавший, что астероиды способны выдерживать гораздо более сильное воздействие, чем считалось ранее.

 Источник изображения: ИИ-генерация Grok 4/3DNews

Источник изображения: ИИ-генерация Grok 4/3DNews

Проблема ядерного удара в том, что всегда остаётся риск дробления крупного астероида на множество мелких, но не менее опасных камней, отследить которые будет кратно сложнее. Новая работа сообщает, что метод «ядерного отклонения» может оказаться более безопасным и надёжным, чем иные виды воздействия на астероид.

В ходе эксперимента исследователи использовали образец железного метеорита Campo del Cielo, подвергнув его воздействию мощных протонных пучков в установке HiRadMat на Большом адронном коллайдере в ЦЕРНе. Образец подвергался импульсам разной интенсивности, а деформация отслеживалась в реальном времени с помощью датчиков температуры и лазерной виброметрии.

Результаты удивили: под экстремальной нагрузкой материал сначала размягчался, затем проявлял эффект демпфирования, а после — укреплялся, увеличивая прочность на микроскопическом уровне в 2,5 раза. Это поведение объясняется зависимостью от скорости деформации: чем быстрее удар, тем лучше астероид рассеивает энергию.

Полученные данные позволяют предположить, что при ядерном взрыве на некотором расстоянии от поверхности астероида, особенно если он железный, объект, скорее всего, останется целым, а не разлетится на фрагменты. Такой сценарий значительно повышает шансы успешного отклонения траектории без создания «дождя» из обломков, который мог бы обрушиться на Землю. Ранее считалось, что ядерный вариант слишком рискован именно из-за возможного дробления, но новая симуляция показывает обратное — материал астероида адаптируется к удару и становится прочнее.

 Выточенный из метеорита цилиндр и эксперименты с ним. Источник изображения: Nature 2025

Выточенный из метеорита цилиндр и эксперименты с ним. Источник изображения: Nature 2025

Хотя результаты многообещающие, ученые подчёркивают: эксперимент проводился на однородном железном образце, тогда как реальные астероиды часто неоднородны по составу. Для каменных или смешанных тел поведение может отличаться, поэтому необходимы дополнительные исследования. Тем не менее, открытие укрепляет уверенность в том, что ядерный метод отклонения может стать важным инструментом планетарной обороны в случае обнаружения угрозы с малым запасом времени, дополняя такие подходы, как кинетический удар, уже испытанный NASA в миссии DART.

Эксперимент также был важен по причине отсутствия надёжных моделей: в зависимости от уровня изучения объекта воздействия — от микроскопического до макроскопического — показания моделей отличались в семь раз. С такими исходными данными спасать Землю от опасного астероида — это всё равно, что сыграть в «русскую рулетку». Опыты с разными составами астероидов на установке в ЦЕРНе позволяют собрать фактуру для построения максимально точных моделей, чтобы если уж бить по астероиду, то чётко понимая последствия.

Учёные NASA задумались о ядерном ударе по угрожающему Луне астероиду

Успех миссии NASA DART по изменению орбиты астероида Диморф ударом космического зонда-камикадзе показал одну из возможностей защиты Земли от опасных астероидов. Один из таких космических камней внезапно появился на горизонте в декабре 2024 года. По первым данным объект 2024 YR4 размерами около 60 м имел самую высокую за время наблюдений вероятность упасть на планету, что стало наиболее серьёзной угрозой в истории и требовало пристального внимания. Учёные задумались о способах защиты.

 Источник изображения: ИИ-генерация Grok 3/3DNews

Источник изображения: ИИ-генерация Grok 3/3DNews

Последующие наблюдения за астероидом снизили вероятность его падения на Землю с 3,1 % до 0,28 %, но повысили шансы его падения на Луну — до 4,1 %. Изучение вопроса с Луной показало, что астероид 2024 YR4 способен выбить из её поверхности тысячи тонн реголита, в 1000 раз увеличив поток микрометеритов, падающих на Землю. Для обитателей планеты это не будет представлять угрозы, но спутники на орбите могут быть значительно повреждены. С учётом многотысячных группировок интернет-спутников — это серьёзная угроза, о которой надлежит задуматься уже сегодня.

На сайте препринтов arXiv вышла статья за авторством инженеров NASA и ведущих специалистов аэрокосмической отрасли США. В статье авторы рассматривают готовность отразить угрозу с помощью разных методов и наличествующих инструментов — ракет и спутников.

Наблюдения с помощью телескопа «Джеймс Уэбб» в марте 2025 года уточнили диаметр астероида — 60 ± 7 м — и подтвердили его классификацию как S-типа (скального). Потенциальные последствия удара объекта по Луне включают значительное увеличение потока микрометеороидов на низкой околоземной орбите — до 1000 раз выше фонового уровня в течение нескольких дней, что угрожает астронавтам, спутникам и инфраструктуре. В статье анализируются варианты миссий для разведки, отклонения и разрушения астероида, учитывающие как быстрые, так и отсроченные до 2032 года запуски, с акцентом на срочность и неопределённости в параметрах объекта.

Разведывательные миссии сосредоточены на пролётах и сближениях для сбора данных о составе, структуре и траектории астероида. Возможна перепрофилировка существующих аппаратов: Janus (окна запуска в июне и декабре 2028 года для пролётов в 2028–2029 годах), OSIRIS-APEX (пролёт в октябре–ноябре 2028 года со скоростью 8–11 км/с, но с отказом от миссии с Апофисом), Psyche (сближение в декабре 2030 года или пролёт в январе 2029 года). Зонд NASA Lucy признан непригодным из-за дефицита топлива.

Для новых миссий предлагаются быстрые запуски с декабря 2025 года и плановые — с января 2028 года, но не позже конца 2028 года, чтобы получить данные об астероиде за три года до предполагаемого удара. Такие миссии обеспечат ключевые параметры для последующих взвешенных действий и будут использовать химические или ионные двигатели, а также ракеты-носители вроде Falcon Heavy и различные гравитационные манёвры.

Учёные сразу отметают вариант DART по отклонению астероида, поскольку данных о нём нет, а разведка и последующая подготовка не оставляют запаса времени для такого манёвра. Наиболее предпочтительными остаются прямое разрушение астероида кинетическим ударом или близким ядерным взрывом, но эти варианты необходимо тщательно просчитать, чтобы не усугубить ситуацию.

Кинетические удары возможны с апреля 2030 по апрель 2032 года, с перспективой разрушения объектов до 81 м в поперечнике, что покрывает все сценарии для 2024 YR4. Ядерные устройства (до 1 Мт) можно будет применить с конца 2029 по конец 2031 года. Моделирование подтверждает эффективность при правильном выборе времени, минимизируя риск появления фрагментов на низкой орбите. Эти методы предпочтительны для поздних вмешательств, но требуют точных данных о прочности и составе астероида.

В заключение, даже если вероятность удара астероида 2024 YR4 будет исключена, миссии по его разведке дадут ценную информацию для планетарной обороны. В NASA рекомендуют отдать приоритет разведке в конце 2028 года, с подготовкой к разрушению как резервному варианту. Дальнейшие наблюдения за объектом телескопом «Уэбб» в феврале 2026 года уточнят вероятность для всех сценариев развития ситуации.

Xiaomi отозвала почти 150 тысяч взрывоопасных пауэрбанков

Компания Xiaomi отозвала в Китае 146 891 внешних аккумуляторов (пауэрбанков) со встроенным кабелем PB2030MI мощностью 33 Вт и ёмкостью 20 000 мА·ч. Компания сообщила, что отзыв связан с рисками для безопасности «в экстремальных ситуациях». Эта модель также продаётся по всему миру, но официального заявления компании на глобальном сайте об этом нет.

 Источник изображений: Xiaomi

Источник изображений: Xiaomi

Отзыв распространяется на внешние аккумуляторы Xiaomi PB2030MI, выпущенные в период с августа по сентябрь 2024 года, оснащённые по информации компании, «аккумулятором 126280 версии 2.0 от определённого поставщика». Эта версия аккумулятора «может представлять определённые риски для безопасности в экстремальных ситуациях», что может привести к перегреву, возгоранию и взрыву.

Xiaomi сообщила, что за указанный период было произведено 146 891 портативное зарядное устройство, и все они были отозваны по соображениям безопасности. Покупатели, чьё устройство соответствует условиям отзыва, имеют право на возврат средств в размере 159 юаней.

На данный момент неясно, поставлялись ли пауэрбанки с аккумулятором 126280 версии 2.0 от указанного поставщика на международный рынок. Пользователям PB2030MI, которые не попали под отзывную компанию, рекомендуется соблюдать осторожность при использовании портативного зарядного устройства и не оставлять его заряжаться на ночь.

Найден способ заражать DNS-записи вредоносным ПО

Киберпреступники придумали способ скрывать вредоносное ПО в записях системы доменных имён (DNS), что позволяет таким вирусам оставаться незамеченными для защитных средств. О проблеме рассказали эксперты службы DomainTools — они обнаружили в DNS-записях вредонос Joke Screenmate.

 Источник изображения: Ed Hardie / unsplash.com

Источник изображения: Ed Hardie / unsplash.com

Если упростить, DNS — это адресная книга интернета, которая помогает преобразовывать доменные имена в IP-адреса. DNS-записи бывают разных типов, в том числе типа TXT — они используются для хранения описательного текста. Хакеры придумали, как можно разбивать вредоносное ПО на небольшие закодированные фрагменты и помещать их в DNS-записи типа TXT для разных поддоменов. Получается своего рода цифровая головоломка, разбросанная по разным адресам. Каждая часть сама по себе безвредна, но если их собрать, образуется полноценный вредоносный файл.

С помощью скриптов злоумышленники заставляют компьютер жертвы запрашивать эти DNS-записи и таким образом восстанавливать вредоносное ПО, оставаясь вне поля зрения средств безопасности. DNS-трафик обычно считается доверенным и не вызывает подозрений. Joke Screenmate — это программа, которая имитирует системные ошибки и вызывает непредсказуемое поведение курсора мыши. Что менее приятно, эксперты DomainTools обнаружили также скрытый аналогичным образом скрипт PowerShell Stager, способный загружать и выполнять более опасные вредоносные программы.

Существуют и способы защититься от таких коварных атак: специалистам по безопасности рекомендуют внедрить мониторинг DNS-трафика, выявлять в нём необычные закономерности и повторяющиеся TXT-запросы. Помогут также инструменты, проверяющие DNS-записи, выходящие за рамки простых функций сопоставления имён, а также средства аналитики угроз — в том числе анализ вредоносных доменов и поддоменов. Фактических атак, основанных на этом способе, пока выявлено не было, но, учитывая его простоту и своеобразное изящество, это лишь вопрос времени.

OpenAI опасается, что вскоре её модели научатся разрабатывать биологическое оружие

OpenAI обеспокоена тем, что следующее поколение её моделей искусственного интеллекта может значительно увеличить риск разработки биологического оружия, предоставив такую возможность даже людям без научного образования. Руководитель систем безопасности OpenAI Йоханнес Хайдеке (Johannes Heidecke) ожидает, что «некоторые из преемников нашей o3 [модели рассуждений] достигнут этого уровня». В связи с этим OpenAI усиливает тестирование безопасности.

 Источник изображений: unsplash.com

Источник изображений: unsplash.com

OpenAI сообщила о разработке системы для оценки и снижения рисков, создаваемых все более мощными моделями ИИ. Компания усиливает тестирование безопасности, чтобы снизить риск использования её моделей преступниками и террористами. Без этих мер по снижению рисков модели вскоре смогут «подняться на новый уровень», что позволит даже людям с ограниченными научными знаниями создавать опасное оружие.

«Мы [пока] ещё не в мире, где есть что-то новое, совершенно неизвестное, создающее биологические угрозы, которых раньше не было, — заявил Хайдеке. — Мы больше беспокоимся о воспроизведении вещей, с которыми эксперты уже хорошо знакомы». Особая сложность состоит в том, что те же инструменты, которые могли бы обеспечить жизненно важные медицинские прорывы, могут быть использованы злоумышленниками в опасных целях.

Именно поэтому ведущим лабораториям ИИ нужны высокоточные системы тестирования. «Это не та область, где производительность 99 % или одна ошибка на 100 000… допустимы, — считает Хайдеке. — Нам в основном нужно, что-то вроде почти идеального».

OpenAI — не единственная компания, обеспокоенная неправомерным использованием своих моделей, когда дело касается разработки оружия. По мере того, как модели становятся более совершенными, их потенциал для преступного использования растёт. Недавно компания Anthropic выпустила продвинутую модель Claude Opus 4 с более строгими протоколами безопасности, чем у любой из предыдущих моделей.

 Источник изображений: unsplash.com

В соответствии с политикой ответственного масштабирования, созданной по образцу уровней биологической угрозы (BSL) правительства США, ей присвоен третий «уровень безопасности ИИ» (AI Safety Level) ASL-3. Все предыдущие модели Anthropic отнесены к уровню ASL-2. Третьему уровню безопасности соответствуют продвинутые модели, которые достаточно мощны, чтобы представлять значительные риски, такие как помощь в разработке оружия или автоматизация разработки систем ИИ.

Недавно Claude Opus 4 попала в заголовки СМИ после попытки шантажировать инженера, чтобы избежать отключения в ходе строго контролируемого теста. Ранние версии этой модели были готовы выполнять опасные инструкции, например, планирование террористических атак. Компания заверила общественность, что эта проблема была решена внесением изменений в набор обучающих данных.

ИИ стал экзистенциальной угрозой для интернет-СМИ: посетителей на сайтах вытесняют роботы

Глава Cloudflare Мэтью Принс (Matthew Prince) в интервью изданию Axios заявил, что издатели сталкиваются с экзистенциальной угрозой со стороны ИИ и должны получать справедливую компенсацию за свой контент. «Люди стали больше доверять ИИ за последние шесть месяцев, что означает, что они не читают оригинальный контент, — сказал он. — Будущее интернета будет всё больше и больше похоже на ИИ, значит люди [и дальше] будут читать резюме вашего контента».

 Источник изображения: Walls.io / unsplash.com

Источник изображения: Walls.io / unsplash.com

Число переходов со страниц поисковых систем на сайты с оригинальным контентом сокращается с каждым днём, поэтому многим издателям придётся пересмотреть свои бизнес-модели или вообще уйти с рынка. Принс привёл впечатляющие статистические данные. По его словам, десять лет назад соотношение проиндексированных поисковиком Google страниц к числу посетителей, перенаправленных со страницы поисковой выдачи на сайт издателя, составляло 2:1. С тех пор это соотношение постепенно увеличивалось, но после начала ИИ-бума стало расти угрожающими темпами.

Шесть месяцев назад:

  • Google — 6:1
  • OpenAI — 250:1
  • Anthropic — 6000:1

В настоящий момент:

  • Google — 8:1
  • OpenAI — 1500:1
  • Anthropic — 60000:1

Поисковые системы и чат-боты ИИ предоставляют ссылки на оригинальные источники, но издатели могут получать доход от рекламы только в том случае, если читатели переходят по ссылкам. «Люди не переходят по ссылкам», — констатировал Принс. Он уверен, что эта проблема касается любого создателя оригинального контента.

Принс сообщил, что Cloudflare разработала инструмент, который должен «остановить копирование контента». AI Labyrinth использует контент, сгенерированный ИИ, для замедления, запутывания и траты ресурсов ИИ-сканеров и других ботов, которые не соблюдают директивы веб-серверов. Своим клиентам Cloudflare предлагает автоматическое развёртывание такого набора сгенерированных ИИ страниц при обнаружении «ненадлежащей активности» ботов.


window-new
Soft
Hard
Тренды 🔥
Эксперты Unit 42 выявили критические недостатки защиты ключей доступа в браузере Chrome 2 ч.
WhatsApp добавил тег оповещения @all и разрешил переносить участников из старых групп в новые 3 ч.
«Тантор Лабс» усилила позиции на рынке, приобретя СУБД «Персей» и её разработчиков 8 ч.
Разработчики Mafia: The Old Country показали геймплей сюжетного дополнения Man of Honor, в котором появится звезда первой «Мафии» 11 ч.
«Death Stranding 3»: кооперативное приключение Big Walk от авторов Untitled Goose Game очаровало игроков и критиков 12 ч.
Spotify не оправдала ожидания по прибыли и аудитории — акции просели 14 ч.
OpenAI назвала иск о похищении секретов Apple «безответственным, агрессивным и странно личным» 14 ч.
ИИ-агенты помогут создать аналоги CUDA, но Nvidia тоже не стоит на месте 14 ч.
Новые фракции, новые платформы и новая демоверсия: фэнтезийная 4X-стратегия Endless Legend 2 получила дату выхода из раннего доступа Steam 14 ч.
У Apple хотят отсудить более $30 млрд за распознавание лиц на фото 14 ч.
Раскрыты детали соглашения Anthropic на $10 млрд с новичком на рынке облачных вычислений 3 ч.
Выручка AMD на серверном направлении удвоилась, а общая взлетела в полтора раза 3 ч.
Samsung запустила в Южной Корее NPUaaS на базе ИИ-ускорителей FuriosaAI RNGD 7 ч.
Apple раскрыла дату презентации iPhone 18, но пока лишь сотрудникам 9 ч.
Не подлетай — опасно: угрожавший Земле астероид Апофис сам рискует пострадать от космического мусора 9 ч.
Gigabyte выпустила блок питания Aorus P1600W PCIe 5.1 AI TOP на 1600 Вт со встроенным ЖК-экраном 9 ч.
В России представили отечественный электронный коленный модуль с интеллектуальным управлением 13 ч.
Китайские астрономы обнаружили мощнейший во Вселенной ускоритель частиц — он в 4400 раз превосходит БАК 13 ч.
США намерены запретить использование китайских компонентов в американских дата-центрах 14 ч.
Qualcomm выпустила очередную версию Snapdragon 8 Elite Gen 5 — слегка урезанный Snapdragon 8 Elite Gen 5 V-series 14 ч.