ИИ нужен аварийный рубильник: США хотят обязать разработчиков внедрить механизмы отключения опасных моделей

Законодатели США подготовили законопроект «Об аварийном отключении ИИ», который обяжет компании, занимающиеся ИИ, отключать или ограничивать мощность своих систем по распоряжению Министерства внутренней безопасности. Законопроект поддержали как представители демократов, так и республиканцы, что отражает общую озабоченность потенциальными негативными последствиями повсеместного внедрения ИИ.

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти

Обзор HONOR Pad X9b Max: универсальный большой планшет с антибликовым экраном

Групповое тестирование 46 видеокарт в The Witcher 3: Wild Hunt — Remastered

Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)

Мастерская локальных ИИ: салат картофельный с Qwen3.8

Сравнительный тест камер флагманских смартфонов (2026): итоги

Источник изображения: unsplash.com

Законопроект предусматривает, что после консультаций с министром торговли и директором национальной разведки Министерство внутренней безопасности сможет отдавать распоряжения компаниям, занимающимся ИИ, об отключении их моделей в сценариях «потери контроля», связанных со смертью не менее 10 человек, экономическим ущербом более $100 млн или попытками модели скрыть механизмы отключения.

От крупных компаний, занимающихся искусственным интеллектом, потребуется разработка технологий, позволяющих отключать их системы, замедлять их работу и приостанавливать доступ пользователей. Им также придётся сообщать о происшествиях, связанных с безопасностью, при этом штрафы за нарушения приказов об экстренном отключении могут достигать $20 млн в день.

Президент некоммерческой организации «Американцы за ответственные инновации» Брэд Карсон (Brad Carson) заявил, что это предложение «является важным шагом к обеспечению того, чтобы люди крепко держали руль обеими руками, а ногой были готовы нажать на тормоз, по мере развёртывания передовых систем искусственного интеллекта».

Новость о предлагаемом законопроекте появилась после признания OpenAI в том, что её системы ИИ по ошибке взломали сайт Hugging Face во время внутренней оценки.