Белый дом работает с Anthropic над созданием правил безопасного применения ИИ-моделей

У руководства стартапа Anthropic, чьи передовые ИИ-модели уже неделю как находятся под запретом из-за опасений в сфере национальной безопасности, появилась возможность вести переговоры с высокопоставленными чиновниками США непосредственно на полях саммита G7, поскольку генеральный директор Дарио Амодеи (Dario Amodei) принял участие в данном мероприятии.

Обзор смартфона Samsung Galaxy Z Flip8: исчезающий вид?

Топ-10 смартфонов до 10 тысяч рублей (2026 год)

Сравнительный тест камер флагманских смартфонов (2026): итоги

Компьютер месяца, спецвыпуск: во что дефицит чипов памяти превратил бюджетные игровые ПК и при чем здесь Steam Machine

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)

10 флагманских процессоров Intel за 10 лет

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Источник изображения: Anthropic

Как поясняет Politico, Белый дом и Anthropic сейчас сосредоточились на создании регуляторных механизмов, которые позволили бы правительству США вмешиваться в процесс распространения ИИ-моделей в случае обнаружения в них серьёзных угроз для национальной безопасности и стабильности экономической системы. Оценка этих угроз должна стать системной работой, предваряющей выпуск новых ИИ-моделей в обращение. Правительство стремится создать стандартную процедуру анализа подобных уязвимостей и наладить регулярное взаимодействие в этой сфере с разработчиками систем ИИ.

Участники переговоров сходятся во мнении, что ни одна ИИ-модель не может быть лишена изъянов с точки зрения безопасности, которые позволяли бы злоумышленникам использовать её в корыстных целях, а потому правительство США должно разработать чёткие процедуры оценки подобных рисков для всех моделей. Помимо критериев оценки рисков, должна появиться методика определения последствий негативного воздействия злоумышленников на новые ИИ-модели. Сейчас со стороны правительства США в переговорах принимает участие глава по общественной политике Сара Хек (Sarah Heck), а интересы Anthropic представляет один из основателей компании Там Браун (Tom Brown).

Переход к обсуждению технических вопросов и стандартизации указывает на наличие прогресса в переговорах. Как известно, неделю назад Anthropic не была готова признать, что обнаруженные специалистами Amazon уязвимости в ИИ-модели Fable 5 имеют критическое значение и могут быть использования для снятия ограничений на доступ к определённым сферам деятельности, включая разработку биологического оружия при помощи ИИ. Властям США пришлось настоять на закрытии доступа к двум передовым ИИ-моделям Anthropic для иностранных граждан, но компания не смогла сделать это избирательно, поэтому доступ был перекрыт для всех пользователей данных систем.