Компания Anthropic, специализирующаяся на разработке искусственного интеллекта, совместно с Министерством энергетики США проводит уникальные испытания своей модели Claude 3 Sonnet. Целью эксперимента является проверка способности ИИ «не делиться» потенциально опасной информацией, связанной с ядерной энергетикой, в частности, с созданием оружия.

Источник изображения: Copilot

Как стало известно изданию Axios, специалисты из Национального управления ядерной безопасности (NNSA) при Министерстве энергетики США с апреля этого года проверяют модель Claude 3 Sonnet, чтобы убедиться, что она не может быть использована для создания атомного оружия. В ходе «красных запросов» эксперты манипулируют системой, пытаясь её «сломать».

По словам Anthropic, подобные тесты, проходящие в совершенно секретной среде, являются первыми в своём роде и могут открыть путь для аналогичных взаимоотношений с другими государственными структурами. «В то время как американская промышленность лидирует в разработке передовых ИИ-моделей, федеральное правительство приобретает уникальный опыт, необходимый для оценки систем искусственного интеллектана предмет определенных рисков для национальной безопасности», — заявила руководитель отдела политики национальной безопасности Anthropic Марина Фаваро (Marina Favaro).

Представители NNSA также подчеркнули важность работы в этом направлении. Вендэн Смит (Wendin Smith), заместитель администратора NNSA, заявила, что ИИ является «одной из ключевых технологий, которая требует постоянного внимания в контексте национальной безопасности».

Anthropic планирует и дальше продолжить сотрудничество с правительством, чтобы разработать более надёжные меры безопасности для своих систем. Пилотная программа, в рамках которой тестируется также более новая модель Claude 3.5 Sonnet, продлится до февраля 2024 года. Компания обещает поделиться результатами тестирования с научными лабораториями и другими организациями.

В крупных городах Великобритании преступники всё чаще используют бесшумные электрические средства индивидуальной мобильности (СИМ), чтобы на ходу выхватывать телефоны или сумочки из рук ничего не подозревающих людей. Проблема настолько распространена, что Совет национальной полиции (NPCC) заказал правительственной лаборатории оборонной науки и технологий (DSTL) разработку оружия, выводящего из строя электрические СИМ с помощью электромагнитных импульсов.

Источник изображений: Columbia Pictures

В Великобритании разрешено без лицензии использовать электрические СИМ с максимальной мощностью 250 Вт и ограничителем скорости в 25 км/ч. Тишина и скорость сделали такие СИМ излюбленным транспортом для преступников. За последние три года электросамокаты и электроскутеры оказались задействованы в 20 000 преступлений. Всего на сегодняшний день в Великобритании насчитывается около 750 000 подобных СИМ.

Под надзором главного научного консультанта NPCC разработчики DSTL в настоящее время работают над оружием, безвредным для людей, других электронных устройств и транспортных средств. По словам представителя NPCC, устройство должно посылать сигнал, который имитирует перегрев двигателя СИМ, в результате чего электросамокат останавливается. Описание устройства подразумевает наличие эмиттера и заплечного контейнера с аккумуляторами или суперконденсаторами, из-за чего его сразу стали сравнивать с оборудованием «Охотников за привидениями» из классического блокбастера.

Аналитики сомневаются в эффективности будущего чудо-оружия, аргументируя это малой дальностью работы подобного устройства, быстрым перемещением преступника и малой вероятностью того, что грабитель станет действовать прямо на глазах у оснащённого по последнему слову техники полицейского. В то же время стоит помнить, что не ошибается лишь тот, кто ничего не делает.

Apple стала отказывать в выпуске игр для гарнитуры смешанной реальности Vision Pro, если эти игры содержат реалистичные модели оружия. На такую меру пожаловался разработчик под псевдонимом AkDebuging — в Apple же сослались на то, что игры с реалистичным изображением оружия пропагандируют противозаконные действия.

Источник изображения: reddit.com/r/VisionPro

«Мы заметили, что Ваше приложение содержит реалистичные изображения оружия», — заявили в Apple. Пользователи форума Reddit выразили крайнюю обеспокоенность действиями компании. По их мнению, выкладывать целое состояние за гарнитуру Apple, чтобы обнаружить отсутствие хороших игр с реалистичным оружием — это безумие. «Своим упрямством они уничтожат игры, и у них не будет ничего, чтобы поддержать платформу и экосистему», — написал один из пользователей сообщества.

Спустя некоторое время Apple всё-таки пересмотрела своё решение и допустила игру к размещению в магазине приложений без каких-либо доработок. Но это уже не первый такой случай: в марте с той же формулировкой была отклонена игра разработчика Rodrigotakase для Vision Pro. Он был вынужден заменить реалистичные модели оружия на их явно игрушечные версии, после чего Apple выпустила игру. Новая ограничительная мера, вероятно, касается лишь Vision Pro — игры для iPhone, iPad и Mac с такой формулировкой ещё не отклонялись.

Великобритания провела первые боевые испытания лазерного оружия с высокой мощностью против воздушной цели. Предполагается, что проведённые стрельбы откроют путь к созданию недорогой альтернативы ракетам ПВО для уничтожения таких целей, как военные беспилотники.

Источник изображений: министерство обороны Великобритании

Во время испытаний на Гебридских островах лазерная установка DragonFire уничтожила приближающиеся беспилотники с расстояния в несколько миль, что, по мнению экспертов, стало важной вехой для британских военных, сообщает The Times. Испытания прошли на полигоне в Шотландии, и британское министерство обороны «важным шагом» на пути к принятию технологии на вооружение. Министр обороны Грант Шаппс (Grant Shapps) заявил, что технология может снизить «зависимость от дорогостоящих боеприпасов, а также уменьшить риск сопутствующего ущерба».

По словам представителей министерства обороны Великобритании, лазерное оружие DragonFire достаточно точно, чтобы поразить монету в 1 британский фунт с расстояния в километр. Диаметр данной монеты составляет всего 23 мм.

Также было отмечено, что как британская армия, так и флот рассматривают возможность использования лазерного оружия в своих перспективных системах противовоздушной обороны (ПВО). Заметим, что Великобритания станет не первой страной, которая использует лазеры в качестве оружия — ВМС США уже установили лазерные системы ПВО от Lockheed Martin на нескольких кораблях.

Заметим, что главным средством ПВО сейчас являются ракеты. Причём применяемые в таких системах боеприпасы могут быть гораздо дороже уничтожаемых ими беспилотников: некоторые из таких ракет стоят миллионы долларов, тогда как беспилотник может стоить лишь несколько тысяч.

По данным минобороны Великобритании, 10-секундная стрельба из системы DragonFire по стоимости эквивалентна использованию обычного бытового обогревателя в течение часа. Также было отмечено, что стоимость эксплуатации системы обычно не превышает 10 британских фунтов ($12,7 или 1130 рублей) за выстрел.

Лазерное оружие, которое официально называется «энергетическое оружие с лазерным наведением» (LDEW) использует мощный световой луч для поражения цели и может наносить удары в буквальном смысле со скоростью света.

Дальность действия системы DragonFire засекречена, но это оружие прямой видимости, то есть оно может атаковать любую видимую цель в пределах досягаемости. Система разрабатывается Лаборатории оборонной науки и техники (Defence Science and Technology Laboratory — DSTL) совместно с промышленными партнерами по заказу минобороны Великобритании.

Руководитель DSTL доктор Пол Холлинсхед (Paul Hollinshead) сказал: «Благодаря этим испытаниям мы сделали огромный шаг вперед в реализации потенциальных возможностей и понимании угроз, которые несет в себе оружие направленной энергии». Также было отмечено, что оружейная система DragonFire — результат совместных инвестиций минобороны и промышленности Великобритании в размере 100 миллионов фунтов стерлингов.

Китайскую академию инженерной физики (CAEP), занимающуюся разработками ядерного оружия, США внесли в санкционные списки ещё в 1997 году, но как минимум с 2020 года ей удавалось получить американские чипы, к которым у неё не должно было быть доступа. The Wall Street Journal сообщает о не менее чем 12 случаях, причём многие чипы приобретались входящей в состав академии лабораторией вычислительной гидродинамики, занятой в том числе моделированием ядерных взрывов.

Источник изображения: Diane Serik/unsplash.com

Подобные покупки, по данным издания являются, обходом ограничений, наложенных США и предназначенных для того, чтобы помешать использованию американских продуктов в ядерных исследованиях иностранными державами. Академия — одна из первых китайских структур, внесённых в санкционные списки. В частности, она создала первую в Китае водородную бомбу. Журналистское расследование позволило установить, что из научных работ, опубликованных CAEP за последние 10 лет, как минимум в 34 упоминается использование в исследованиях американских полупроводников в тех или иных целях, как минимум в семи случаях исследования могут быть связаны с ядерным оружием.

В октябре прошлого года США расширили список экспортных ограничений в отношении Китая, призванных помешать геополитическим соперникам получать передовые технологии, предназначенные для систем ИИ и суперкомпьютеров. Впрочем, в большинстве случаев используемые решения широко доступны на международном рынке. В NVIDIA сообщили, что CAEP в основном использует чипы общего назначения, проконтролировать движение которых по планете практически невозможно. Intel тоже подтвердила, что соблюдает введённые ограничения и то же обязаны делать и её клиенты, в теории. Эксперты сходятся во мнении, что движение чипов практически невозможно отследить, поскольку на Китай только в 2021 году приходилось более трети покупок чипов из общего объёма в $556 млрд.

Министерство торговли США в июне 2020 года расширило ограничения в отношении CAEP, добавив в свой чёрный список 10 структур, принадлежащих академии или управляемых ею, а также 17 прокси-структур, которые использовались для покупки необходимых американских комплектующих.

Тем не менее, китайские военные и их поставщики пока обходят санкции, закупая компоненты через подставные структуры и другими способами. Кроме того, множество разработанных в США чипов выпускаются за пределами США, из-за чего усложняется экспортный контроль. Помимо собственно закупки чипов проводятся и тендеры на другие виды товаров и услуг, например — на закупку и обслуживание плат, разработанных Cadence Design Systems, Inc., хотя в самой Cadence, утверждают, что строго соблюдают санкционный режим. По данным журналистов, тендеры в основном выполняются малыми китайскими компаниями.

Заметим, что американские компании иногда выпускают специальные версии своих продуктов для Китая. Так в ноябре NVIDIA сообщила, что будет выпускать ускоритель A800 — специальную версию ускорителя A100 с урезанной функциональностью специально для Поднебесной. И та же CAEP очень заинтересованно в этих и других моделях.

Источник изображения: Joshua Sortino/unsplash.com

Как сообщает The Wall Street Journal со ссылкой на Пентагон, сегодня у Китая имеются порядка 400 ядерных боеголовок, но к 2035 году их число должно вырасти до порядка 1500.

Некоторые из работ CAEP, рассмотренных журналистами, связаны с инерциальным термоядерным синтезом (ICF), предусматривающим использование лазеров высокой мощности для запуска процессов, в малых масштабах имитирующих термоядерные реакции. В числе прочего описывалось использование американских полупроводников для оптимизации применения таких устройств и использования чипов в других процессах. В условиях, когда ядерные испытания в мире почти не проводятся благодаря международным соглашениям, их заменители чрезвычайно важны для ядерных держав.

По мнению экспертов, для того, чтобы политика ограничений экспорта оказалась эффективной, необходимо прекратить продажи комплектующих дистрибуторам, если неизвестны конечные пользователи. Впрочем, эксперты признают, что ограничить оборот полупроводников будет чрезвычайно трудно. Но США пытаются.

Наблюдательный городской совет Сан-Франциско отменил принятое на прошлой неделе решение, позволяющее полиции применять роботов с летальным оружием для устранения преступников — оно вызвало протесты со стороны жителей города и правозащитных организаций. Однако отмена решения может носить временный характер — вопрос направлен на дальнейшее обсуждение.

Источник изображения: Sufyan / unsplash.com

Первоначально городской совет разрешил Департаменту полиции Сан-Франциско применять дистанционно управляемых роботов «в качестве летального средства, когда неизбежна гибель граждан или офицеров [полиции], и [оно] перевешивает любой доступный вариант [применения] силы». Представитель местной полиции заявил, что правоохранительные органы могут устанавливать взрывчатку на роботов, предназначенных для разминирования, дезориентации или нейтрализации вооружённого или опасного подозреваемого, «чтобы спасти или предотвратить дальнейшую гибель ни в чём не повинных людей». Прецедент в стране уже был: в 2016 году в техасском Далласе застреливший пятерых полицейских человек был ликвидирован при помощи заминированного робота-сапёра.

Инициатива подверглась резкой критике со стороны правозащитников, которые увидели в ней очередное проявление милитаризации правоохранительных органов США: они заявили, что подобная практика «без необходимости ставит под угрозу жизни людей», а общество «испытывает дискомфорт при использовании вооружённых роботов в любой ситуации». Подобное применение машин они назвали «прекрасным примером модели эскалации и милитаризации полиции». Эти аргументы, похоже, нашли отклик среди членов городского совета, и в правильности своего решения начали сомневаться даже те, кто ранее проголосовал за него.