Законодатели США подготовили законопроект «Об аварийном отключении ИИ», который обяжет компании, занимающиеся ИИ, отключать или ограничивать мощность своих систем по распоряжению Министерства внутренней безопасности. Законопроект поддержали как представители демократов, так и республиканцы, что отражает общую озабоченность потенциальными негативными последствиями повсеместного внедрения ИИ.
Источник изображения: unsplash.com
Законопроект предусматривает, что после консультаций с министром торговли и директором национальной разведки Министерство внутренней безопасности сможет отдавать распоряжения компаниям, занимающимся ИИ, об отключении их моделей в сценариях «потери контроля», связанных со смертью не менее 10 человек, экономическим ущербом более $100 млн или попытками модели скрыть механизмы отключения.
От крупных компаний, занимающихся искусственным интеллектом, потребуется разработка технологий, позволяющих отключать их системы, замедлять их работу и приостанавливать доступ пользователей. Им также придётся сообщать о происшествиях, связанных с безопасностью, при этом штрафы за нарушения приказов об экстренном отключении могут достигать $20 млн в день.
Президент некоммерческой организации «Американцы за ответственные инновации» Брэд Карсон (Brad Carson) заявил, что это предложение «является важным шагом к обеспечению того, чтобы люди крепко держали руль обеими руками, а ногой были готовы нажать на тормоз, по мере развёртывания передовых систем искусственного интеллекта».
Новость о предлагаемом законопроекте появилась после признания OpenAI в том, что её системы ИИ по ошибке взломали сайт Hugging Face во время внутренней оценки.