Anthropic Mythos за считанные часы взломала почти все секретные системы АНБ США

Передовая модель искусственного интеллекта Anthropic Mythos за несколько часов во время контролируемой оценки безопасности смогла взломать «почти все» секретные системы Агентства национальной безопасности (АНБ) — одного из самых высокопоставленных и влиятельных разведывательных агентств в США, пишет The Economist.

Об инциденте рассказал сенатор Марк Уорнер (Mark Warner), зампредседателя Комитета по разведке в верхней палате конгресса, со ссылкой на главу АНБ и Киберкомандования США генерала Джошуа Радда (Joshua Rudd). Первоначально сообщение об этом было опубликовано 14 июня, и впоследствии распространилось в соцсетях с утверждением, что Anthropic «взломала АНБ». В действительности это было санкционированное внутреннее тестирование, в ходе которого Mythos использовалась совместно с другими средствами в условиях, максимально приближённых к реальным.

История проливает свет на распоряжение американских властей от 12 июня, согласно которому Anthropic надлежало заблокировать доступ к моделям Fable 5 и Mythos 5 для всех лиц, не являющихся гражданами США, в том числе для сотрудников самой компании — та вообще изъяла их из общего доступа. Испытания проводились накануне, 11 июня; это, по утверждениям Anthropic, был «узкий взлом». Модель просто проанализировала базу кода с целью исправить выявленные проблемы, в результате чего были обнаружены несколько незначительных, уже известных ошибок — полноценного наступательного вторжения не было. Сейчас Anthropic, по её словам, пытается восстановить доступ к системе и совместно с чиновниками Белого дома готовит систему совместного управления рисками.

Инцидент разделил общественность на три лагеря. Первые говорят о неспособности правительства нанимать достаточно квалифицированных специалистов в области кибербезопасности. Вторые считают заявления Anthropic преувеличенной сенсацией или маркетинговым шагом, указывая на отсутствие подробностей о предполагаемом взломе и ставя под сомнение техническую компетентность главы АНБ. Третьи напоминают, что возможности моделей ИИ резко выросли — сроки развёртывания атак сократились с нескольких часов до нескольких минут, и даже в поддерживаемых проектах с открытым исходным кодом обнаруживается большое число уязвимостей.

Anthropic тем временем продолжает тесно сотрудничать с АНБ в рамках программы Project Glasswing. Несколько сотрудников компании работают прямо в ведомстве, адаптируя и настраивая Mythos для конкретных задач.