На ранних этапах развития систем генеративного искусственного интеллекта их создатели обеспокоились проблемой безопасности, поскольку предположили, что с их помощью некоторые пользователи попытаются создать новые виды оружия, включая биологическое. Anthropic утверждает, что в этом году смогла предотвратить несколько попыток создания биологического оружия.

10 флагманских процессоров Intel за 10 лет

Мастерская локальных ИИ: салат картофельный с Qwen3.8

Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти

В помощь студенту: обзор российских ИИ-сервисов для учёбы и закрепления знаний

Обзор смартфона Google Pixel 11 Pro: когда надо выпустить хоть что-то

Обзор смартфона Samsung Galaxy Z Flip8: исчезающий вид?

Компьютер месяца — сентябрь 2026 года

Источник изображения: Anthropic

Данная информация стала доступна после публикации отчёта Anthropic о случаях некорректного использования её ИИ-моделей. При этом сама компания подчёркивает, что не может с уверенностью говорить о наличии у связанных с этими инцидентами учёных умысла на создание именно биологического оружия. По сути, запросы к ИИ-моделям в этой сфере нередко используются для разработки вакцин от опасных патогенов, и определить по их составу истинные намерения разработчика сложно. Тем не менее, на всякий случай Anthropic решила обратить внимание регуляторов на данные инциденты.

До сих пор куда большим вниманием пользовались случаи применения ИИ-моделей для поиска и эксплуатации уязвимостей в информационной инфраструктуре компаний и организаций, а биологические угрозы оставались в большей мере гипотетическими. По словам старшего советника Совета по стратегическим рискам Эндрю Уэбера (Andrew Weber), свежий отчёт Anthropic содержит «леденящие кровь примеры причастности поддерживаемых государством создателей биологического оружия, которые пользуются возможностями быстро развивающихся ИИ-моделей».

Объёмный отчёт Anthropic, охватывающий период восьми последних месяцев, традиционно приводит примеры использования ИИ-моделей семейства Claude представителями недружественных по отношению к США стран для достижения определённых политических целей. Впервые при этом были приведены примеры использования Claude для разработки традиционных видов оружия, включая огнестрельное, ракетное, а также бомбы и боевые дроны.

Anthropic не была столь категоричной в идентификации случаев, описывающих попытки разработки биологического оружия, поскольку не уверена в наличии у авторов запросов именно злонамеренных мотивов. По этой причине не были названы ни организации, ни страны, причастные к соответствующей активности. Однако, компанию насторожили попытки авторов исследований скрыть своё происхождение и цели подобной активности, поэтому соответствующие учётные записи были заблокированы.

В качестве одного из примеров приводятся попытки некоего исследователя изучить специфику распространения вируса чикунгунья, который передаётся человеку через укусы инфицированных комаров и вызывает продолжительные боли в суставах, сопровождающиеся сильной лихорадкой. По версии Anthropic, конкретный исследователь пытался модифицировать вирус, придав ему более выраженные вредоносные свойства. Помимо теоретических изысканий, данный исследователь проводил практические эксперименты на животных, а лабораторию для этих целей должен был предоставить некий исследовательский институт оборонного назначения.

Ещё в прошлом году, по оценкам самой Anthropic, её собственные модели не были достаточно продвинутыми для содействия человеку в проведении биологических исследований, способных привести к созданию оружия. Нынешние версии ИИ-моделей Anthropic уже способны оказывать содействие в таких вопросах, а потому назревает необходимость введения защитных и ограничительных мер. Эксперты подчёркивают, что ИИ на нынешнем этапе своего развития предоставляет возможности как по созданию лекарственных средств, так и биологического оружия, противостоять которому без подготовки человечество не сможет. Эндрю Уэбер призвал ограничить доступ исследователям из недружественных к США стран к подобным ИИ-инструментам.

Компании OpenAI и Anthropic направили в Управление по науке и технологической политике Белого дома (OSTP) открытое письмо с просьбой ограничить возможности разработки биологического оружия с помощью ИИ. Подобное становится возможным с появлением передовых моделей искусственного интеллекта и услуг по изготовлению синтетических ДНК на заказ. Недостаточный контроль и слабая проверка заказчиков грозят привести к возникновению биологических угроз, что необходимо предотвратить.

10 флагманских процессоров Intel за 10 лет

Компьютер месяца — сентябрь 2026 года

Обзор смартфона Samsung Galaxy Z Flip8: исчезающий вид?

Мастерская локальных ИИ: салат картофельный с Qwen3.8

В помощь студенту: обзор российских ИИ-сервисов для учёбы и закрепления знаний

Обзор смартфона Google Pixel 11 Pro: когда надо выпустить хоть что-то

Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти

Источник изображения: ИИ-генерация ChatGPT/3DNews

По словам подписантов, среди которых также Microsoft и ряд крупных экспертов в области биологии и ИИ, существующая нормативная база не обеспечивает надлежащей проверки клиентов для предотвращения биологических угроз, связанных с использованием систем искусственного интеллекта и технологий синтеза ДНК, а также белков и других искусственно созданных биологических материалов. Между тем современные модели ИИ общего назначения, обученные на огромных массивах научных данных, способны существенно снизить порог входа в область синтетической биологии, предоставляя подробные протоколы синтеза и последовательности действий, понятные даже неспециалистам.

В настоящее время проверка заказчиков и самих заказов компаниями — производителями биоматериалов фактически ведётся на добровольной основе. Конечно, существуют сертифицированные биолаборатории, контролируемые федеральными агентствами, где контроль максимален. Но на фоне множества частных компаний это слабое утешение.

Особую тревогу вызывает способность ИИ-агентов не просто пересказывать учебники, но и предлагать неочевидные «обходные пути» синтеза токсинов, помогать в поиске оборудования и устранять неполадки в процессе производства. Подобное, очевидно, требует введения обязательного внешнего аудита, а также привлечения специалистов-биологов к предварительному тестированию ИИ-моделей для контролируемого выявления «опасных возможностей» до открытия доступа к ним для широкой публики.

Авторы письма признают, что чрезмерно жёсткие рамки контроля могут замедлить законные биотехнологические исследования, включая разработку новых лекарств и вакцин. В связи с этим они предлагают внедрить многоуровневую систему контроля доступа: чем выше биологические риски использования той или иной ИИ-модели, тем более строгой должна быть проверка пользователей и тем более узкому кругу аккредитованных учёных она должна быть доступна. Такой подход, по мнению технологических компаний, позволит не «задушить» инновации, но создаст цифровой барьер, достаточно высокий, чтобы остановить злоумышленников.

В целом подписанты письма надеются на «юридическую ясность» и создание государственной системы надзора. Они просят правительство классифицировать работу с моделями, имеющими двойное назначение, как вид деятельности, подлежащий лицензированию или обязательной экспертизе. Авторы письма настаивают, что саморегулирование рынка здесь невозможно в силу стратегической важности вопроса: если раньше для создания биологического оружия требовалась инфраструктура государственного уровня, то ИИ делает соответствующие знания потенциально доступными для небольших маргинальных групп. Такого быть не должно.

OpenAI обеспокоена тем, что следующее поколение её моделей искусственного интеллекта может значительно увеличить риск разработки биологического оружия, предоставив такую возможность даже людям без научного образования. Руководитель систем безопасности OpenAI Йоханнес Хайдеке (Johannes Heidecke) ожидает, что «некоторые из преемников нашей o3 [модели рассуждений] достигнут этого уровня». В связи с этим OpenAI усиливает тестирование безопасности.

10 флагманских процессоров Intel за 10 лет

В помощь студенту: обзор российских ИИ-сервисов для учёбы и закрепления знаний

Обзор смартфона Google Pixel 11 Pro: когда надо выпустить хоть что-то

Мастерская локальных ИИ: салат картофельный с Qwen3.8

Обзор смартфона Samsung Galaxy Z Flip8: исчезающий вид?

Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти

Компьютер месяца — сентябрь 2026 года

Источник изображений: unsplash.com

OpenAI сообщила о разработке системы для оценки и снижения рисков, создаваемых все более мощными моделями ИИ. Компания усиливает тестирование безопасности, чтобы снизить риск использования её моделей преступниками и террористами. Без этих мер по снижению рисков модели вскоре смогут «подняться на новый уровень», что позволит даже людям с ограниченными научными знаниями создавать опасное оружие.

«Мы [пока] ещё не в мире, где есть что-то новое, совершенно неизвестное, создающее биологические угрозы, которых раньше не было, — заявил Хайдеке. — Мы больше беспокоимся о воспроизведении вещей, с которыми эксперты уже хорошо знакомы». Особая сложность состоит в том, что те же инструменты, которые могли бы обеспечить жизненно важные медицинские прорывы, могут быть использованы злоумышленниками в опасных целях.

Именно поэтому ведущим лабораториям ИИ нужны высокоточные системы тестирования. «Это не та область, где производительность 99 % или одна ошибка на 100 000… допустимы, — считает Хайдеке. — Нам в основном нужно, что-то вроде почти идеального».

OpenAI — не единственная компания, обеспокоенная неправомерным использованием своих моделей, когда дело касается разработки оружия. По мере того, как модели становятся более совершенными, их потенциал для преступного использования растёт. Недавно компания Anthropic выпустила продвинутую модель Claude Opus 4 с более строгими протоколами безопасности, чем у любой из предыдущих моделей.

В соответствии с политикой ответственного масштабирования, созданной по образцу уровней биологической угрозы (BSL) правительства США, ей присвоен третий «уровень безопасности ИИ» (AI Safety Level) ASL-3. Все предыдущие модели Anthropic отнесены к уровню ASL-2. Третьему уровню безопасности соответствуют продвинутые модели, которые достаточно мощны, чтобы представлять значительные риски, такие как помощь в разработке оружия или автоматизация разработки систем ИИ.

Недавно Claude Opus 4 попала в заголовки СМИ после попытки шантажировать инженера, чтобы избежать отключения в ходе строго контролируемого теста. Ранние версии этой модели были готовы выполнять опасные инструкции, например, планирование террористических атак. Компания заверила общественность, что эта проблема была решена внесением изменений в набор обучающих данных.