MWC 2018
2018
Computex
IFA 2018
Законодатели США подготовили законопроект «Об аварийном отключении ИИ», который обяжет компании, занимающиеся ИИ, отключать или ограничивать мощность своих систем по распоряжению Министерства внутренней безопасности. Законопроект поддержали как представители демократов, так и республиканцы, что отражает общую озабоченность потенциальными негативными последствиями повсеместного внедрения ИИ.
Источник изображения: unsplash.com
Законопроект предусматривает, что после консультаций с министром торговли и директором национальной разведки Министерство внутренней безопасности сможет отдавать распоряжения компаниям, занимающимся ИИ, об отключении их моделей в сценариях «потери контроля», связанных со смертью не менее 10 человек, экономическим ущербом более $100 млн или попытками модели скрыть механизмы отключения.
От крупных компаний, занимающихся искусственным интеллектом, потребуется разработка технологий, позволяющих отключать их системы, замедлять их работу и приостанавливать доступ пользователей. Им также придётся сообщать о происшествиях, связанных с безопасностью, при этом штрафы за нарушения приказов об экстренном отключении могут достигать $20 млн в день.
Президент некоммерческой организации «Американцы за ответственные инновации» Брэд Карсон (Brad Carson) заявил, что это предложение «является важным шагом к обеспечению того, чтобы люди крепко держали руль обеими руками, а ногой были готовы нажать на тормоз, по мере развёртывания передовых систем искусственного интеллекта».
Новость о предлагаемом законопроекте появилась после признания OpenAI в том, что её системы ИИ по ошибке взломали сайт Hugging Face во время внутренней оценки.
Источник:
