Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Глава Anthropic: правительство должно иметь право ограничивать опасные ИИ-модели

Немало пострадавшая за свои принципы в споре с Пентагоном компания Anthropic устами своего генерального директора Дарио Амодеи (Dario Amodei) на этой неделе признала, что правительство должно иметь возможность блокировать распространение определённых ИИ-моделей, если в этом будут прослеживаться риски.

 Источник изображения: Anthropic

Источник изображения: Anthropic

При этом, как отмечается в публикации Bloomberg, новые ИИ-модели должны проходить обязательное тестирование независимыми экспертами для выявления рисков сразу по нескольким категориям, включая угрозы в сфере кибербезопасности и создания биологического оружия. По словам Амодеи, пришло время перейти от прозрачности к более серьёзному и юридически обязывающему регулированию отрасли ИИ. По сути, искусственный интеллект с точки зрения своего применения подобен транспортным средствам, самолётам и лекарственным препаратам, которые при неумелом использовании могут представлять угрозу для жизней множества людей.

Если ИИ представляет неприемлемые риски с точки зрения общества и государства, у правительства должны быть полномочия для блокировки его распространения или хотя бы замедления с целью предварительной реализации мер безопасности. Ещё на прошлой неделе Амодеи призвал создать систему, которая позволила бы разработчикам ИИ и чиновникам сообща оценивать угрозы, исходящие от новых технологий. Президент США Дональд Трамп (Donald Trump) своим недавним указом хоть и наделил правительство полномочиями по доступу к ИИ-моделям, но никаких требований по их обязательной экспертизе не предусмотрел.

Первоначальная версия ИИ-модели Mythos, которая позволяла эффективно находить уязвимости в информационной инфраструктуре, распространялась Anthropic в узком кругу близких к властям дружественных к США стран организаций, а после исключения функций, связанных с анализом кибербезопасности, модифицированная модель Claude Fable 5 была выпущена в широкий оборот на этой неделе. «Мы теперь должны сообща и не спеша создать хрупкий свод политик, который будет иметь дело с рисками и возможностями, нарастающими удивительно быстро с текущего момента», — подчеркнул глава Anthropic в своей публикации на страницах блога.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Microsoft превратила Copilot в «новую ОС для работы» — и теперь Word, Excel и PowerPoint работают прямо в ней 2 ч.
Крупнейшее IPO в истории: $83 за акцию Anthropic 2 ч.
Google открыла доступ к Genie 4 – ИИ для генерации целых миров, которые можно менять прямо на ходу 2 ч.
«Группа Астра» представила Astra Server Core для замены серверных функций Microsoft в корпоративной инфраструктуре 3 ч.
GTA VI начала переписывать историю — блокбастер Rockstar бьёт рекорды популярности на Twitch, YouTube и Kick 3 ч.
Google выпустила Gemini 4 Neon — почти флагманский рассуждающий ИИ стал быстрее и дешевле 4 ч.
«Просто ужасно»: ИИ-агент Meta Muse сам влез в переписки Signal — и это лишь одна из его пугающих проблем 5 ч.
Рекорд SpaceX побит: Anthropic провела крупнейшее IPO в истории и привлекла $81,3 млрд 5 ч.
Sandfall Interactive лишилась одного из главных творцов успеха Clair Obscur: Expedition 33 7 ч.
Rockstar назвала PS5 Pro «недостаточно мощной», чтобы потянуть GTA VI при 60 кадрах/с 7 ч.
Пульс есть, но пациент без сознания: «Вояджер-1» перестал передавать телеметрию и научные данные, улетев на световые сутки 2 ч.
RAID-технология VROC станет доступна для процессоров AMD EPYC 3 ч.
Intel наконец нашла стороннего заказчика для передового техпроцесса 18A — но не говорит, кто это 3 ч.
Мощнейшая за 20 лет магнитная буря перекроила радиационные пояса Земли — их стало четыре вместо двух 4 ч.
ИИ-бум может захлебнуться в избытке чипов — Сэм Альтман предупредил, что OpenAI не сможет скупить всё 6 ч.
Sizable Energy намерена запитать ЦОД от морских гидроаккумуляторных энергохранилищ 6 ч.
Intel Foundry наконец заполучила крупного клиента — Microsoft доверила ей упаковку чипов Maia и Cobalt 7 ч.
OCTOPUS с Xeon 6 и квантовыми процессорами: Университет Осаки запустил академическую платформу SEAFOOD 7 ч.
Phison представила космические SSD Pascari Space 14 ч.
Intel запустила новую волну увольнений — Тан продолжает повышать эффективность компании 16 ч.