Сегодня 03 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft предсказала биологические угрозы «нулевого дня» из-за ИИ

Экспертам Microsoft при помощи искусственного интеллекта удалось обнаружить уязвимости «нулевого дня» в системах биологической безопасности, которые используются для предотвращения несанкционированного использования ДНК.

 Источник изображения: Braňo / unsplash.com

Источник изображения: Braňo / unsplash.com

Такие системы блокируют продажу и покупку генетических последовательностей, которые могут использоваться для создания смертельно опасных токсинов и патогенов. Группе исследователей под руководством старшего научного сотрудника Microsoft Эрика Хорвица (Eric Horvitz) удалось обойти эту защиту способом, ранее неизвестным специалистам в области безопасности. Хорвиц и его сотрудники подключили алгоритмы генеративного ИИ, предназначенные для получения новых форм белков — подобные программы уже помогают в открытии новых препаратов. Проблема в том, что они могут иметь двойное назначение, генерируя структуры не только полезных, но и опасных молекул. В Microsoft с 2023 года начали изучать потенциал систем ИИ двойного назначения, чтобы установить, способны ли подобные системы помочь биотеррористам в производстве вредоносных белков.

Эксперты компании попытались преодолеть защиту ПО для обеспечения биологической безопасности. При производстве белков исследователи обычно заказывают у коммерческих поставщиков последовательности ДНК, которые впоследствии можно ввести в клетку. При помощи ПО поступающие заказы сравниваются с известными токсинами и патогенами — при близких совпадениях срабатывают оповещения. В разработке схемы атаки Microsoft применяла несколько моделей для генерации белков, в том числе свою собственную EvoDiff; исследователи поставили цель перепроектировать токсины таким образом, чтобы они могли пройти контроль ПО, но сохранить свои смертоносные свойства.

 Источник изображения: digitale / unsplash.com

Источник изображения: digitale / unsplash.com

Эксперимент проводился полностью в цифровой среде: в реальности они не создавали ни одного токсичного белка, чтобы избежать подозрений, что компания разрабатывает биологическое оружие. Microsoft также заявила, что перед публикацией материалов исследования оповестила о нём власти США и производителей ПО, хотя некоторые разработанные ИИ-молекулы всё равно обходят эту защиту. В компании Integrated DNA Technologies, крупном производителе ДНК-материалов, заявили, что закрытие этих уязвимостей — это не разовая работа, а «начало дальнейших испытаний», и сравнили сложившуюся ситуацию с «гонкой вооружений». Чтобы гарантировать, что результаты исследования не будут использованы не по назначению, исследователи из Microsoft не стали раскрывать подробностей своей работы и не сообщили, какие белки они просили ИИ переработать.

Впрочем, есть мнение, что подобные точечные акции не помогут решить общую проблему, и лучшей защитой от злонамеренных действий было бы встроить средства защиты в сам ИИ — либо напрямую, либо посредством контроля над информацией, которую он выдаёт. Ещё более надёжным способом защиты является мониторинг самого синтеза генов на уровне производителя, потому что технологии ИИ становятся всё более распространёнными, и контролировать их труднее. «Этого джинна обратно в бутылку не загонишь. Если у тебя есть ресурсы, чтобы обманом попытаться заставить нас создать последовательность ДНК, ты, вероятно, сможешь и обучить большую языковую модель», — признают учёные.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Слухи: ремейк культовой Halo: Combat Evolved создаётся на гибридном движке при участии студии в ответе за The Elder Scrolls IV: Oblivion Remastered 36 мин.
Microsoft устранила ещё два препятствия, мешавших обновиться до Windows 11 25H2 41 мин.
Microsoft предсказала биологические угрозы «нулевого дня» из-за ИИ 2 ч.
Обнаружена уязвимость, которая ставит под угрозу пользователей всех игр на Unity с 2017 года 3 ч.
Cloudflare обновила robots.txt: теперь сайты могут запретить ИИ-чат-ботам воровать контент 3 ч.
Джефф Безос: ИИ — это «промышленный пузырь», но он поможет человечеству 4 ч.
Боссы в Resident Evil Requiem проверят не навыки стрельбы, а смекалку игроков 6 ч.
Технологии Google губят традиционные сайты — спасительные меры могут сделать только хуже 8 ч.
ВМС США с головой погрузились в облако Microsoft Azure и никак не могут выбраться 8 ч.
2 миллиарда убитых зомби за 25 миллионов часов: разработчики Dying Light: The Beast раскрыли статистику игроков за первые дни после релиза 8 ч.
До 2,8 МВт за 45 с: Rolls-Royce представила газовый генератор mtu 20V4000 L64 для дата-центров 2 ч.
UKPN начнёт отапливать дома британских малоимущих кластерами из сотен Raspberry Pi 3 ч.
В лучших ИИ-ускорителях Huawei нашли чипы TSMC, Samsung и SK hynix, которых в Китае быть не должно 4 ч.
Задержки поставок ИИ-чипов в ОАЭ на десятки миллиардов долларов расстраивают NVIDIA 4 ч.
Видео: электромобиль Xiaomi SU7 сам включился и попытался сбежать от хозяев 5 ч.
В MIT на порядок улучшили батарею из бетона — фундамент сможет питать дом в течение суток и дольше 5 ч.
В России вскоре поступит в продажу защищённый смартфон Honor X9d с батареей на 8300 мА·ч 5 ч.
Почти 50 тыс. сетевых устройств Cisco имеют серьёзные уязвимости нулевого дня 6 ч.
Китайская CXMT освоила 18-нм DRAM с помощью украденных у Samsung секретов, утверждает следствие 6 ч.
Устройство Ampinel добавит видеокартам то, чего лишила их Nvidia — балансировку питания для защиты от расплавления 7 ч.