Глава Anthropic: правительство должно иметь право ограничивать опасные ИИ-модели

Немало пострадавшая за свои принципы в споре с Пентагоном компания Anthropic устами своего генерального директора Дарио Амодеи (Dario Amodei) на этой неделе признала, что правительство должно иметь возможность блокировать распространение определённых ИИ-моделей, если в этом будут прослеживаться риски.

При этом, как отмечается в публикации Bloomberg, новые ИИ-модели должны проходить обязательное тестирование независимыми экспертами для выявления рисков сразу по нескольким категориям, включая угрозы в сфере кибербезопасности и создания биологического оружия. По словам Амодеи, пришло время перейти от прозрачности к более серьёзному и юридически обязывающему регулированию отрасли ИИ. По сути, искусственный интеллект с точки зрения своего применения подобен транспортным средствам, самолётам и лекарственным препаратам, которые при неумелом использовании могут представлять угрозу для жизней множества людей.

Если ИИ представляет неприемлемые риски с точки зрения общества и государства, у правительства должны быть полномочия для блокировки его распространения или хотя бы замедления с целью предварительной реализации мер безопасности. Ещё на прошлой неделе Амодеи призвал создать систему, которая позволила бы разработчикам ИИ и чиновникам сообща оценивать угрозы, исходящие от новых технологий. Президент США Дональд Трамп (Donald Trump) своим недавним указом хоть и наделил правительство полномочиями по доступу к ИИ-моделям, но никаких требований по их обязательной экспертизе не предусмотрел.

Первоначальная версия ИИ-модели Mythos, которая позволяла эффективно находить уязвимости в информационной инфраструктуре, распространялась Anthropic в узком кругу близких к властям дружественных к США стран организаций, а после исключения функций, связанных с анализом кибербезопасности, модифицированная модель Claude Fable 5 была выпущена в широкий оборот на этой неделе. «Мы теперь должны сообща и не спеша создать хрупкий свод политик, который будет иметь дело с рисками и возможностями, нарастающими удивительно быстро с текущего момента», — подчеркнул глава Anthropic в своей публикации на страницах блога.