Сегодня 18 января 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Anthropic и правительство США проверяют искусственный интеллект на утечку ядерных секретов

Компания Anthropic, специализирующаяся на разработке искусственного интеллекта, совместно с Министерством энергетики США проводит уникальные испытания своей модели Claude 3 Sonnet. Целью эксперимента является проверка способности ИИ «не делиться» потенциально опасной информацией, связанной с ядерной энергетикой, в частности, с созданием оружия.

 Источник изображения: Copilot

Источник изображения: Copilot

Как стало известно изданию Axios, специалисты из Национального управления ядерной безопасности (NNSA) при Министерстве энергетики США с апреля этого года проверяют модель Claude 3 Sonnet, чтобы убедиться, что она не может быть использована для создания атомного оружия. В ходе «красных запросов» эксперты манипулируют системой, пытаясь её «сломать».

По словам Anthropic, подобные тесты, проходящие в совершенно секретной среде, являются первыми в своём роде и могут открыть путь для аналогичных взаимоотношений с другими государственными структурами. «В то время как американская промышленность лидирует в разработке передовых ИИ-моделей, федеральное правительство приобретает уникальный опыт, необходимый для оценки систем искусственного интеллектана предмет определенных рисков для национальной безопасности», — заявила руководитель отдела политики национальной безопасности Anthropic Марина Фаваро (Marina Favaro).

Представители NNSA также подчеркнули важность работы в этом направлении. Вендэн Смит (Wendin Smith), заместитель администратора NNSA, заявила, что ИИ является «одной из ключевых технологий, которая требует постоянного внимания в контексте национальной безопасности».

Anthropic планирует и дальше продолжить сотрудничество с правительством, чтобы разработать более надёжные меры безопасности для своих систем. Пилотная программа, в рамках которой тестируется также более новая модель Claude 3.5 Sonnet, продлится до февраля 2024 года. Компания обещает поделиться результатами тестирования с научными лабораториями и другими организациями.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Стало известно, о чём Дуров говорил и что обещал на допросе во французском суде 40 мин.
TikTok предупредил, что завтра прекратит работу в США, если Байден не вмешается 2 ч.
Instagram добавил новые функции в Reels в преддверии блокировки TikTok в США 4 ч.
Новая статья: Marvel Rivals — нужна ли теперь Overwatch? Рецензия 14 ч.
Ремастер Tomb Raider: The Angel of Darkness для сборника Tomb Raider IV-VI Remastered раскроет потенциал худшей игры серии — подробности улучшений 16 ч.
Первый «геймплей» Virtua Fighter 6 оказался точной копией боевой сцены из фильма «Драконы навсегда» с Джеки Чаном 18 ч.
Руководитель разработки Dragon Age: The Veilguard покинет BioWare после 18 лет в Electronic Arts 19 ч.
Верховный суд США поддержал закон о блокировке TikTok — соцсети осталось два дня 19 ч.
ЕС потребовал от соцсети X раскрыть алгоритм рекомендаций и политику модерирования 20 ч.
Российские пользователи пожаловались на сбой Steam, но Роскомнадзор тут ни при чём 20 ч.
Новую тяжёлую европейскую ракету Ariane 6 улучшили — следующий пуск состоится в феврале 51 мин.
Российский аналог Starlink решено строить на отечественной электронике — проект «Бюро 1440» может затянуться 57 мин.
Amazon прекратила доставлять товары дронами после инцидента на испытательном полигоне 3 ч.
Во Франции создали крошечного робота-хирурга, который очень аккуратно покопается в мозгах 3 ч.
SpaceX запретили запускать Starship на время расследования взрыва при последнем полёте 4 ч.
Стартап по выпуску электромобилей Canoo объявил о своём банкротстве и прекращении деятельности 6 ч.
GlobalFoundries построить в США исследовательский центр и новую фабрику на субсидии по «Закону о чипах» 7 ч.
Трамп планирует объявить криптовалюту национальным приоритетом и создать консультативный совет по криптовалютам 13 ч.
Sparkle и OEC переработают 22 тыс. км подводных кабелей 14 ч.
Lenovo купила поставщика СХД Infinidat 15 ч.