Европейские парламентарии пришли к предварительному соглашению по «Закону об ИИ»

По итогам активных дискуссий законодателям в Брюсселе удалось достичь «предварительного соглашения» в отношении общеевропейского «Закона об искусственном интеллекте». Это будет первый в мире свод правил по управлению системами ИИ — он сможет служить ориентиром для других регионов, власти которых стремятся принять аналогичные законы.

Источник изображения: NoName_13 / pixabay.com

Законодатели зафиксировали обязательства, которые налагаются на разработчиков «высокоэффективных» систем ИИ общего назначения: если эти системы отвечают определенным критериям, то для них должен проводиться ряд мероприятий, в том числе оценка рисков, состязательное тестирование, составление отчётов об инцидентах и многое другое. Разработчики обеспечивают прозрачность — в частности, представляют подробный обзор используемых при обучении ИИ материалов. К примеру, ответственная за ChatGPT компания OpenAI до сих пор отказывается раскрывать эту информацию.

Граждане получат право подавать жалобы на системы ИИ и получать объяснения по поводу решений, принимаемых системами «высокого риска», если эти решения влияют на их права. Механизмы правоприменения пока не описываются, но указываются размеры штрафов: от €7,5 млн или 1,5 % от глобального оборота компании до €35 млн или 7 % глобальной выручки.

В ряде сфер применение ИИ запрещается. Например, распознавание лиц по камерам наблюдения и категоризация людей на основе «критических характеристик», таких как раса, интимные предпочтения, религиозные или политические убеждения; запрещается применение систем распознавания эмоций на рабочих местах или в учебных заведениях; запрещается создание систем «социального рейтинга». Предусмотрены гарантии и исключения для использования правоохранительными органами биометрических систем в режиме реального времени и поиска доказательств на записях.

Источник изображения: Gerd Altmann / pixabay.com

Первый проект европейского «Закона об ИИ» был представлен в 2021 году — тогда документ определял, что вообще считать ИИ, и был направлен на выработку единых норм регулирования этой сферы в государствах — членах ЕС. Вскоре после этого появились платформы ChatGPT и Stable Diffusion, что привело к многочисленным изменениям в законопроекте. Сейчас парламентарии достигли предварительного соглашения, и документ направится на дополнительные обсуждения, в том числе пройдёт голосование в комитетах Европарламента по внутреннему рынку и гражданским свободам. Ожидается, что окончательное соглашение будет достигнуто до конца года. Но даже в этом случае «Закон об ИИ» вступит в силу не ранее 2025 года.

Наиболее яростные дискуссии вызвали нормы регулирования анализа биометрических данных в реальном времени с помощью ИИ, а также систем ИИ общего назначения вроде ChatGPT. Европарламентарии настаивают на полном запрете применения ИИ в биометрическом наблюдении, а правительства стран добиваются исключений для военных, правоохранительных органов и органов госбезопасности. В последний момент представители Германии, Италии и Франции предложили также возможность саморегулирования для разработчиков генеративного ИИ.