Сегодня 05 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Anthropic и правительство США проверяют искусственный интеллект на утечку ядерных секретов

Компания Anthropic, специализирующаяся на разработке искусственного интеллекта, совместно с Министерством энергетики США проводит уникальные испытания своей модели Claude 3 Sonnet. Целью эксперимента является проверка способности ИИ «не делиться» потенциально опасной информацией, связанной с ядерной энергетикой, в частности, с созданием оружия.

 Источник изображения: Copilot

Источник изображения: Copilot

Как стало известно изданию Axios, специалисты из Национального управления ядерной безопасности (NNSA) при Министерстве энергетики США с апреля этого года проверяют модель Claude 3 Sonnet, чтобы убедиться, что она не может быть использована для создания атомного оружия. В ходе «красных запросов» эксперты манипулируют системой, пытаясь её «сломать».

По словам Anthropic, подобные тесты, проходящие в совершенно секретной среде, являются первыми в своём роде и могут открыть путь для аналогичных взаимоотношений с другими государственными структурами. «В то время как американская промышленность лидирует в разработке передовых ИИ-моделей, федеральное правительство приобретает уникальный опыт, необходимый для оценки систем искусственного интеллектана предмет определенных рисков для национальной безопасности», — заявила руководитель отдела политики национальной безопасности Anthropic Марина Фаваро (Marina Favaro).

Представители NNSA также подчеркнули важность работы в этом направлении. Вендэн Смит (Wendin Smith), заместитель администратора NNSA, заявила, что ИИ является «одной из ключевых технологий, которая требует постоянного внимания в контексте национальной безопасности».

Anthropic планирует и дальше продолжить сотрудничество с правительством, чтобы разработать более надёжные меры безопасности для своих систем. Пилотная программа, в рамках которой тестируется также более новая модель Claude 3.5 Sonnet, продлится до февраля 2024 года. Компания обещает поделиться результатами тестирования с научными лабораториями и другими организациями.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Трансформаторы для трансформеров: Hitachi Energy вложит $1 млрд в выпуск энергооборудования для ИИ ЦОД в США 15 мин.
Выручка Foxconn растёт на фоне ИИ-бума и не думает останавливаться 22 мин.
AMD готовит суперускоритель Mega Pod с 256 ускорителями Instinct MI500 2 ч.
Amazfit представила смарт-часы T-Rex 3 Pro с титановым корпусом и автономностью до 26 дней за €400 2 ч.
Сети, серверы, ИИ: HPE превзошла ожидания Уолл-стрит по квартальной выручке 3 ч.
Lenovo показала концепт ноутбука ThinkBook VertiFlex с поворотным дисплеем 4 ч.
Этой осенью Waymo начнёт перевозить пассажиров на беспилотных такси в аэропорт Сан-Хосе 5 ч.
Китайским учёным удалось доказать существование у Марса твёрдого ядра 7 ч.
Intel не ранее следующего года определится с целесообразностью освоения техпроцесса 14A 7 ч.
OpenAI выпустит свой первый ИИ-чип в 2026 году при поддержке Broadcom — последней это сулит $10 млрд 8 ч.