ИИ нужен аварийный рубильник: США хотят обязать разработчиков внедрить механизмы отключения опасных моделей

Законодатели США подготовили законопроект «Об аварийном отключении ИИ», который обяжет компании, занимающиеся ИИ, отключать или ограничивать мощность своих систем по распоряжению Министерства внутренней безопасности. Законопроект поддержали как представители демократов, так и республиканцы, что отражает общую озабоченность потенциальными негативными последствиями повсеместного внедрения ИИ.

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)

Топ-10 смартфонов до 10 тысяч рублей (2026 год)

Компьютер месяца, спецвыпуск: во что дефицит чипов памяти превратил бюджетные игровые ПК и при чем здесь Steam Machine

Сравнительный тест камер флагманских смартфонов (2026): итоги

10 флагманских процессоров Intel за 10 лет

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Обзор смартфона Samsung Galaxy Z Flip8: исчезающий вид?

Источник изображения: unsplash.com

Законопроект предусматривает, что после консультаций с министром торговли и директором национальной разведки Министерство внутренней безопасности сможет отдавать распоряжения компаниям, занимающимся ИИ, об отключении их моделей в сценариях «потери контроля», связанных со смертью не менее 10 человек, экономическим ущербом более $100 млн или попытками модели скрыть механизмы отключения.

От крупных компаний, занимающихся искусственным интеллектом, потребуется разработка технологий, позволяющих отключать их системы, замедлять их работу и приостанавливать доступ пользователей. Им также придётся сообщать о происшествиях, связанных с безопасностью, при этом штрафы за нарушения приказов об экстренном отключении могут достигать $20 млн в день.

Президент некоммерческой организации «Американцы за ответственные инновации» Брэд Карсон (Brad Carson) заявил, что это предложение «является важным шагом к обеспечению того, чтобы люди крепко держали руль обеими руками, а ногой были готовы нажать на тормоз, по мере развёртывания передовых систем искусственного интеллекта».

Новость о предлагаемом законопроекте появилась после признания OpenAI в том, что её системы ИИ по ошибке взломали сайт Hugging Face во время внутренней оценки.