Сегодня 25 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → ядерное оружие

Anthropic и правительство США проверяют искусственный интеллект на утечку ядерных секретов

Компания Anthropic, специализирующаяся на разработке искусственного интеллекта, совместно с Министерством энергетики США проводит уникальные испытания своей модели Claude 3 Sonnet. Целью эксперимента является проверка способности ИИ «не делиться» потенциально опасной информацией, связанной с ядерной энергетикой, в частности, с созданием оружия.

 Источник изображения: Copilot

Источник изображения: Copilot

Как стало известно изданию Axios, специалисты из Национального управления ядерной безопасности (NNSA) при Министерстве энергетики США с апреля этого года проверяют модель Claude 3 Sonnet, чтобы убедиться, что она не может быть использована для создания атомного оружия. В ходе «красных запросов» эксперты манипулируют системой, пытаясь её «сломать».

По словам Anthropic, подобные тесты, проходящие в совершенно секретной среде, являются первыми в своём роде и могут открыть путь для аналогичных взаимоотношений с другими государственными структурами. «В то время как американская промышленность лидирует в разработке передовых ИИ-моделей, федеральное правительство приобретает уникальный опыт, необходимый для оценки систем искусственного интеллектана предмет определенных рисков для национальной безопасности», — заявила руководитель отдела политики национальной безопасности Anthropic Марина Фаваро (Marina Favaro).

Представители NNSA также подчеркнули важность работы в этом направлении. Вендэн Смит (Wendin Smith), заместитель администратора NNSA, заявила, что ИИ является «одной из ключевых технологий, которая требует постоянного внимания в контексте национальной безопасности».

Anthropic планирует и дальше продолжить сотрудничество с правительством, чтобы разработать более надёжные меры безопасности для своих систем. Пилотная программа, в рамках которой тестируется также более новая модель Claude 3.5 Sonnet, продлится до февраля 2024 года. Компания обещает поделиться результатами тестирования с научными лабораториями и другими организациями.


window-new
Soft
Hard
Тренды 🔥
Chrome для Android наконец научился переносить адресную строну в нижнюю часть экрана 25 мин.
Nvidia завершила бета-тестирование DLSS Transformer — с ней игры пойдут в 4K и 240 FPS 26 мин.
Diablo IV возглавила июльскую подборку игр для подписчиков PS Plus, а Sony готовится к празднику 2 ч.
HPE делает ставку на повсеместное использование ИИ-агентов 2 ч.
«Сбер» научил GigaChat рассуждать над запросами, но функцию пока открыл не всем 3 ч.
Поддержка модов, новые механики и полноценная A-Life: для S.T.A.L.K.E.R. 2: Heart of Chornobyl вышло крупное обновление 1.5 3 ч.
«Сбер» представил нейросеть Kandinsky 4.1 Video для генерации 10-секундных HD-видео 4 ч.
Cloud.ru представил ИИ-помощника для автоматизации работы с облаком и управления инфраструктурой 4 ч.
Утилита Red OS MediaWriter поможет создать загрузочный USB-накопитель с «Ред ОС» 5 ч.
Мошенники заигрались: аферисты используют Minecraft, Roblox и Brawl Stars для обмана российских школьников 6 ч.
HPE представила новые решения для частных ИИ-фабрик на базе решений NVIDIA 5 мин.
Представлен Fairphone 6 — смартфон с повышенной ремонтопригодностью, 8 годами обновлений и модульными аксессуарами 5 мин.
Vivo представила X Fold 5 — самый лёгкий и защищённый смартфон-книжку в мире. А ещё он совместим с Apple Watch и AirPods 11 мин.
HDMI 2.2 будет поддерживать 16K при 60 Гц и до 96 Гбит/с — утверждены финальные спецификации 52 мин.
Состоялся релиз InfoWatch ARMA Industrial Firewall 3.14 с поддержкой глубокого разбора 16 промышленных протоколов 3 ч.
Гознак построит в Москве ЦОД на 1,5 тыс. стоек 4 ч.
Граждане Индии, Венгрии и Польши впервые полетели на МКС в рамках частной миссии Axiom Space 5 ч.
Intel свернёт производство автопроцессоров ради серверов и ПК 6 ч.
Кавардак на рынке памяти продолжается — 16-Гбит чипы DDR4 стоят уже вдвое дороже DDR5 такой же ёмкости 6 ч.
Апокалиптические астероиды подождут: у NASA выявили отсутствие комплексного плана защиты Земли 6 ч.