Крупные американские технологические компании стали более активно выступать против ужесточения регулирования ЕС цифрового рынка, полагая, что поддержка администрации Дональда Трампа (Donald Trump) позволит им бороться с тем, что они считают препятствием для развития рынка цифровых технологий и ИИ, пишет Financial Times.

Источник изображения: Guillaume Périgois/unsplash.com

Уверенности компаниям добавляет то, что вице-президент Джей Ди Вэнс (JD Vance), находясь с визитом в Европе, осудил «обременительные международные» правила блока и призвал к регулированию ИИ, которое «не будет душить» быстро развивающийся сектор.

По словам источников Financial Times, Кремниевая долина лоббирует введение ЕС ограничений применения Закона о цифровых рынках (DMA), призванного бороться со злоупотреблениями на рынке со стороны крупных онлайн-платформ и позволяющего налагать на нарушителей крупные штрафы.

Исполнительный заместитель председателя Еврокомиссии по технологическому суверенитету, безопасности и демократии Хенна Вирккунен (Henna Virkkunen) заявила Financial Times, что Европа «полностью привержена обеспечению соблюдения принятых правил», несмотря на давление США.

Тем не менее в этом месяце Еврокомиссия отозвала свою Директиву об ответственности ИИ (Liability Rules for Artificial Intelligence), которая позволяла штрафовать технологические компании за любой ущерб, причиненный инструментами или системами ИИ. Вирккунен объяснила, что решение регулятора было принято под давлением со стороны американских технологических компаний для того, чтобы стимулировать инвестиции в ИИ.

Ближайшее столкновение компаний с регуляторами ожидается в апреле по поводу принятия кодекса практики ИИ (General-Purpose AI Code of Practice), в котором будет изложено, как компании могут внедрять правила Закона об ИИ (EU Artificial Intelligence Act), например, как они должны справляться с «системными» рисками ИИ.

Meta✴ уже ясно дала понять, что не будет подписывать этот кодекс, а её главный лоббист Джоэл Каплан (Joel Kaplan) заявил в Брюсселе в начале этого месяца, что документ налагает «неработоспособные и технически невыполнимые требования». Он также предупредил, что без партнёрства США и Европы в сфере ИИ у Китая все шансы выиграть в гонке технологий искусственного интеллекта.

Apple, Meta✴ и холдинг Alphabet, в который входит Google, подверглись проверкам после вступления в силу DMA в 2023 году. Но после победы Трампа на президентских выборах Еврокомиссия пересматривает свои позиции по поводу этих расследований.

Apple уже три года является объектом антимонопольного разбирательства в Германии из-за непрозрачной работы функции App Tracking Transparency Framework (ATTF). Эта функция позволяет владельцам iPhone отправлять приложениям запрос на запрет отслеживания. Федеральное ведомство по картелям (Bundeskartellamt) обвиняет Apple в том, что ATTF применяется только к сторонним приложениям, и не распространяется на приложения Apple, что нарушает антимонопольную политику.

В сегодняшнем пресс-релизе немецкое антимонопольное ведомство утверждает, что Apple применяет к сторонним приложениям иной стандарт конфиденциальности, чем к собственным, особенно когда речь идёт об отслеживании активности пользователей для рекламы. С момента внедрения ATTF в апреле 2021 года iOS-приложения, распространяемые в App Store, должны запросить дополнительное согласие пользователей, чтобы отслеживать их действия и получить доступ к определённым данным.

Однако, судя по информации Bundeskartellamt, строгие требования ATTF применяются только к сторонним поставщикам приложений, а не к самой Apple. Антимонопольное ведомство полагает, что такой подход должен быть запрещён в соответствии со специальными положениями о контроле за злоупотреблениями для крупных цифровых компаний «Закона о конкуренции Германии» (GWB) и общими положениями о контроле за злоупотреблениями статьи 102 «Договора о функционировании Европейского союза» (TFEU).

Между тем, ATTF, по сути, не является проблемой для крупных рекламных приложений, таких как Facebook✴. Meta✴ даже улучшила свои рекламные возможности, получив от ATTF, частично с помощью ИИ, возможность более точного таргетинга пользователей.

Правительство России подготовило целый ряд поправок в действующие законы для борьбы с кибермошенниками, пишет РБК. По словам экспертов, это самый объёмный документ за последние годы — он включает изменения в несколько десятков законов и нормативно-правовых актов, которые помогут обезопасить пользователей от телефонного и интернет-мошенничества.

Источник изображения: Jonas Leupe/unsplash.com

Пакет поправок, который вскоре будет рассматривать комиссия правительства по законопроектной деятельности, включает запрет на использование зарубежных мессенджеров для служебной коммуникации или общения с пользователями для сотрудников госорганов, кредитных организаций, ЦБ, операторов связи, владельцев социальных сетей, агрегаторов товаров и услуг, сервисов размещения объявлений. Перечень таких зарубежных мессенджеров будет составлять Роскомнадзор.

Что касается использования для служебной коммуникации российских мессенджеров, то сотрудники вышеперечисленных организаций смогут ими воспользоваться только после того, как подтвердят свою личность через Единую систему идентификации и аутентификации (ЕСИА). Также предлагается обязать владельцев маркетплейсов и агрегаторов товаров и услуг с аудиторией более 200 тыс. пользователей из России проводить идентификацию через ЕСИА всех, кто размещает объявления о продаже товаров или услуг.

По данным РБК, перечень предлагаемых мер также включает:

• обязательную маркировку звонков от организаций, вызовов с международных номеров и звонков, инициируемых с виртуальных АТС: на экране телефона пользователя будет отображаться соответствующая информация, подтверждающая, что звонок от сотрудника банка, а не мошенника;
• предоставление абонентам сотовых операторов права отказаться от рекламных и спам-рассылок и звонков;
• если абонент запросит код для идентификации в ЕСИА или попытается сменить ключ простой электронной подписи во время телефонного разговора, оператор обязан присылать такие SMS только после окончания вызова;
• предоставление возможности госорганам, занимающимся оперативно-разыскной деятельностью и отвечающим за безопасность, получать по запросу сведения из информационных систем операторов связи;
• введение запрета на ввоз, продажу, покупку, хранение и использование на территории России абонентских терминалов иностранных спутниковых систем, чья работа запрещена или ограничена в стране или Евразийском экономическом союзе; возможность досудебной блокировки сайтов, публикующих сведения о незаконной реализации и использовании таких устройств;
• введение обязательной биометрической идентификации для оформления выписок из бюро кредитных историй и дистанционного оформления микрозаймов;
• возможность введения запрета через «Госуслуги» на заключение договора на оказание услуг сотовой связи без личного присутствия онлайн;
• банки, операторы связи, маркетплейсы, агрегаторы, социальные сети будут обязаны предоставить возможность пользователям установить авторизацию через биометрическую систему, использование такого способа авторизации должно быть добровольным.

В Минцифры подтвердили разработку совместно с заинтересованными ведомствами и отраслью комплекса мер по снижению случаев кибермошенничества, которые предполагается внедрить в 2025–2026 годах. По данным источника РБК, комиссия по законопроектной деятельности может рассмотреть пакет 10 февраля.

Эксперты отметили, что предлагаемые меры соответствуют общемировым тенденциям в сфере кибербезопасности. Ожидается, что они позволят значительно затруднить деятельность мошенников, но не стоит забывать, что злоумышленники постоянно адаптируются к новым условиям и разрабатывают новые способы обхода защитных механизмов.

Госдума приняла сразу во втором и третьем чтениях закон, предусматривающий за утечку персональных данных штрафы в размере до 3 % от годового оборота организации. Ответственность возлагается на граждан, должностных лиц и юридические лица.

Источник изображения: Hack Capital / unsplash.com

Распространение от одной тысячи до десяти тысяч субъектов персональных данных или от десяти тысяч до ста тысяч идентификаторов влекут за собой штрафы в размере: для граждан — от 100 тыс. до 200 тыс. руб.; для должностных лиц — от 200 тыс. до 400 тыс. руб.; для юридических лиц — от 3 млн до 5 млн руб. Массовая утечка данных, включающая более 100 тыс. субъектов или более 1 млн идентификаторов, предусматривает более крупные штрафы: для граждан — до 400 тыс. руб., для должностных лиц — до 600 тыс. руб., для юрлиц — до 15 млн руб.

В случае повторной утечки будут следовать ещё более суровое наказание в виде штрафов размером до 600 тыс. рублей для физлиц, до 1,2 млн рублей для для должностных лиц, а юридическими лицами в таком случае грозит штраф от 1 % до 3 % от совокупного размера выручки от реализации всех товаров (работ, услуг) за календарный год. Если компания тратит на обеспечение информационной безопасности от 1 % годовой выручки, максимальный штраф для неё составит 50 млн руб.

Принятый Госдумой закон также предусматривает увеличение штрафов за незаконную обработку данных. В случае повторного нарушения штрафы составят: для граждан — до 30 тыс. руб., для должностных лиц — до 200 тыс. руб., для юрлиц — до 500 тыс. руб. Обработка биометрических персональных данных в информационных системах госорганов без аккредитации будет караться штрафом в размере до 2 млн руб.; если действия оператора повлекли передачу биометрических данных, для него предусматривается штраф в размере до 20 млн руб. За непринятие мер по обеспечению безопасность биометрических персональных данных штраф составит до 1,5 млн руб.

Центр мониторинга и управления сетью связи общего пользования (ЦМУ ССОП), подведомственный Роскомнадзору, не зафиксировал изменений в качестве работы видеосервиса YouTube. По информации ЦМУ ССОП, сервис GlobalCheck, сообщивший о восстановлении работы YouTube, не предназначен для оценки качества работы ресурсов интернета — он лишь проверяет доступность IP-адресов и наличие блокировки сайтов.

Источник изображения: Pixabay

13 ноября Владимир Путин провёл встречу с руководителем «Мосфильма» Кареном Шахназаровым. Среди прочих вопросов обсуждалась и ситуация с замедлением в России видеосервиса YouTube, которое глава «Мосфильма» назвал «нецелесообразным». По словам Шахназарова, Путин пообещал «посмотреть и разобраться».

Вчера появились сообщения о восстановлении работоспособности YouTube у российских операторов сотовой связи, однако сервис открывался без проблем далеко не у всех. В частности, в «Поиске по видео» «Яндекса» не отмечено никаких изменений в функционировании видеохостинга. Абоненты стационарного интернета в подавляющем большинстве случаев не сообщают об улучшении качества работы YouTube.

Сегодня пресс-секретарь Дмитрий Песков прокомментировал ситуацию. По его словам, бо́льшая часть проблем с доступностью YouTube связана с позицией компании Google, не выполняющей требования российского законодательства. Он также усомнился в первостепенной важности видеохостинга YouTube для россиян. Тем не менее, он подтвердил намерение Путина разобраться со сложившейся ситуацией.

Власти Евросоюза накануне опубликовали первый проект Практического кодекса для моделей искусственного интеллекта общего назначения (AGI), также известных как «сильный ИИ» и «ИИ уровня человека». В документе, который будет окончательно доработан к маю будущего года, изложены руководящие принципы управления рисками, приводится план по соблюдению нормативных требований, описываются возможности для компаний избежать крупных штрафов.

Источник изображения: Tung Nguyen / pixabay.com

Европейский «Закон об ИИ» вступил в силу 1 августа, и в нём оставлена возможность закрепить правила в отношении ИИ общего назначения в будущем. Этот проект документа — первая попытка прояснить, что ожидается от передовых моделей; заинтересованным сторонам даётся время направить отзывы и предложить доработки до того, как нормы вступят в силу.

К моделям ИИ общего назначения причисляются системы, обученные с общей вычислительной мощностью более 10²⁵ флопс. Под действие документа попадут, как ожидается, компании OpenAI, Google, Meta✴, Anthropic и Mistral — этот список может вырасти.

Кодекс охватывает несколько аспектов деятельности разработчиков ИИ общего назначения: прозрачность, соблюдение авторских прав, оценку рисков, а также снижение технических и управленческих рисков. Разработчикам ИИ надлежит раскрывать информацию о веб-сканерах, которые использовались для обучения моделей — это важно для обладателей авторских прав и создателей контента. Оценка рисков включает в себя меры по предотвращению киберпреступлений, включения в обучающие массивы дискриминационных материалов и потери контроля над ИИ.

Разработчики ИИ, как ожидается, сформулируют «Рамочную структуру принципов безопасности» (Safety and Security Framework — SSF). Этот документ поможет структурировать политики сдерживания угроз и смягчить их пропорционально индивидуальным системным рискам. Предложенные ЕС нормативы также охватывают технические области, в том числе защиту данных моделей, обеспечение отказоустойчивого контроля доступа и постоянную переоценку их эффективности. Раздел, описывающий механизмы взаимодействия с органами власти, предусматривает реализацию подотчётности силами самих разработчиков: требуется постоянная оценка рисков и при необходимости привлечение сторонних экспертов. Нарушение «Закона об ИИ» грозит серьёзным штрафом в размере до €35 млн или до 7 % глобальной годовой прибыли в зависимости от того, что больше. Стороны, которых касается законопроект, могут присылать отзывы до 28 ноября; документ будет окончательно доработан к 1 мая 2025 года.

Администрация действующего президента США Джо Байдена (Joe Biden) ускорила переговоры с производителями электронных компонентов, в том числе Intel и Samsung, стремясь закрепить одну из своих знаковых инициатив до того, как избранный глава государства Дональд Трамп (Donald Trump) станет хозяином Белого дома, передаёт Bloomberg.

Источник изображения: pixabay.com

Министерство торговли выделило более 90 % из $39 млрд по «Закону о чипах» от 2022 года, призванному восстановить американскую полупроводниковую отрасль, но было заключено лишь одно соответствующее соглашение. Предстоящие два месяца станут важными для более чем двадцати компаний, которые всё ещё находятся в процессе получения субсидий. Некоторые из них, в том числе TSMC и GlobalFoundries, уже завершили переговоры и ожидают оглашения окончательного решения. Другие, такие как Intel, Samsung и Micron, до сих пор прорабатывают важные детали своих контрактов.

Власти стремятся заключить к концу 2024 года как можно больше соглашений, что позволит начать перечисление средств компаниям, добившихся оговорённых результатов. Дополнительным стимулом стало избрание Трампа: администрация Байдена хочет отделить промышленную политику от партийной, а производители не хотят пересмотра условий с приходом новой администрации. «Закон о чипах» предполагает не только гранты, но также многомиллиардные займы и налоговые льготы. Демократы рассматривают его как одно из своих важнейших достижений, а избранный президент и его союзники в последние дни начали критиковать и этот закон. Трамп назвал его «очень плохим» и заявил, что более эффективным решением было бы регулирование пошлин; член Палаты представителей от республиканцев Майк Джонсон (Mike Johnson) пообещал его «упростить» — ранее он упоминал о намерении вообще отменить этот закон, но впоследствии отказался от этой идеи.

Источник изображения: u_8t3emw1yia / pixabay.com

Вместе с тем, переговоры с TSMC о строительстве заводов в Аризоне начала администрация Трампа во время его первого президентского срока; а производство полупроводников в США обе партии назвали приоритетом в области национальной безопасности, особенно с учётом сложной геополитической обстановки на Тайване. Республиканцы могут убрать из «Закона о чипах» социальные аспекты: требования к детским садам, порядок взаимодействия с профсоюзами и защиту окружающей среды. Компании, впрочем, больше обеспокоены тем, что политические игры ещё сильнее задержат финансирование — деньги, по мнению их руководств, не поступают уже слишком долго. При этом некоторые проекты уже достигли требуемых показателей, а значит, первые транши могут пойти сразу по заключении контрактов.

В случае с Intel исход переговоров зависит от перспектив компании — сегодня она испытывает серьёзные затруднения и может отделить производственное направление. Micron, как и несколько других игроков, не хочет вступать в Национальный центр полупроводниковых технологий (NSTC). Samsung же напугала администрацию Байдена настолько слабым квартальным отчётом, что руководству компании пришлось приносить извинения. Переговоры американских властей и корейской компании прерывались более чем на месяц, но сейчас возобновились.

Среди других нерешённых вопросов значатся оплата труда при строительстве предприятий и ясность в отношении того, несколько тесными могут быть связи с Китаем. Цель администрация Байдена — до прихода нового президента установить обязательства по выплате как можно более крупного объёма средств. Это защитит компании от большинства возможных изменений за исключением принятия соответствующего акта Конгресса или нарушения условий соглашения получателями денег. Сформированное администрацией Трампа Министерство торговли может также попытаться расторгнуть или пересмотреть уже подписанные соглашения, но в его команде заявили, что так делать не станут. При этом часть окончательной работы, в том числе фактическая передача средств, ляжет на плечи назначенцев Трампа.

Австралийские власти готовятся принять закон о запрете социальных сетей для детей до 16 лет, заявил премьер-министр страны Энтони Албаниз (Anthony Albanese). Документ, который чиновник описал как передовой в мире пакет мер, может начать действовать в конце будущего года.

Источник изображения: Mircea Iancu / pixabay.com

Сейчас в стране испытывается система проверки возраста, которая поможет заблокировать детям доступ к соцсетям. «Социальные сети причиняют нашим детям вред, и я призываю к этому», — заявил господин Албаниз на пресс-конференции. Чрезмерное использование соцсетей, по его мнению, создают угрозу физическому и психическому здоровью несовершеннолетних.

Законодательно ограничить использование соцсетей детьми намереваются в нескольких странах, но политика австралийских властей может оказаться одной из наиболее строгих. Нигде до сих пор не пытались внедрить механизмы проверки возраста на основе биометрии или государственной идентификации. В Австралии намереваются установить самый высокий возрастной предел и не делать исключений, таких как наличие родительского согласия или существующих учётных записей. Законопроект будет внесён в австралийский парламент в этом году, а вступит в силу он через 12 месяцев после ратификации законодателями.

Запрет может затронуть такие платформы, как Instagram✴, Facebook✴, TikTok, X и YouTube. Эта мера может спровоцировать молодёжь исследовать более тёмные ресурсы интернета, которые не поддаются регулированию; а к платформам, где они могут получить поддержку, доступа у них не будет, заявили в организации Digital Industry Group (DIGI), в которую входят Meta✴, TikTok, X и Google. Австралийские власти пытаются решить проблему XXI века методами XX века, отметила управляющий директор DIGI Сунита Бозе (Sunita Bose). «Вместо того, чтобы блокировать доступ посредством запретов, нужно реализовывать сбалансированный подход к созданию отвечающих возрасту пространств, формированию цифровой грамотности и защиты молодёжи от вреда в интернете», — добавила госпожа Бозе.

Продуктам Apple в России грозит резкое подорожание — их собираются обложить дополнительными пошлинами и сборами, если компания проигнорирует требование законодательства РФ об установке отечественных программ на устройства. Соответствующие поправки внесены в законопроект, обязывающий продавать в РФ гаджеты только с возможностью установки на них российских приложений, к его второму чтению в Госдуме.

Американская компания Apple традиционно ограничивает предустановку сторонних программ на свои устройства, что противоречит требованиям законодательства РФ. Законопроект, в случае его принятия Госдумой, запретит на территории России подобные ограничения, из-за которых пользователям оказываются недоступны российские мобильные приложения либо они работают некорректно.

Неясно только, как будет реализован механизм принуждения к исполнению этого закона для компаний, которые официально не представлены в России и не взаимодействуют с российскими регуляторами. Продукция таких производителей, в том числе устройства Apple, поступают на российский рынок из третьих стран методом параллельного импорта. То есть изначально эти продукты не предназначены для России, и вряд ли на них может появиться механизм предустановки российского ПО.

Соответственно, у Apple нет никаких причин соблюдать российские законы и открывать свои платформы для отечественного софта. Наверняка можно сказать, что Apple не пойдёт навстречу российским властям, а в случае назначения штрафов, повышенных ввозных пошлин или других подобных мер принуждения, просто проигнорирует их.

Госдума во втором и третьем чтениях сразу приняла нормы, закладывающие основы регулирования криптовалют в России. Реестр майнеров поручено вести Федеральной налоговой службе (ФНС), а правительство получает право запрещать добычу криптовалют в отдельных субъектах РФ.

Источник изображения: MichaelWuensch / pixabay.com

Кабмину предоставляется право запрещать майнинг криптовалют (в том числе участвовать в майнинговых пулах) в субъектах РФ целиком или на отдельных территориях субъектов; а также устанавливать условия и порядок введения запрета — это зафиксировано в изменениях к закону «Об электроэнергетике». Правительство также получает право (но не обязанность) предъявлять требования к деятельности операторов майнинговой инфраструктуры, а также характеру и объёму услуг, которые они оказывают. Расширяется круг субъектов — получателей адреса-идентификатора цифровой валюты, гласит обновлённая редакция закона «О цифровых финансовых активах, цифровой валюте и о внесении изменений в отдельные законодательные акты».

Реестр лиц, которые осуществляют добычу цифровой валюты, поручено нести ФНС России; она же аккумулирует информацию по ведению реестра и занимается исключением из него — ранее предполагалось, что все эти полномочия получит Минцифры. Оператору майнинговой инфраструктуры запрещается предоставлять её лицам, которые не включены в реестр. Документ вступает в силу 1 ноября 2024 года.

По итогам правительственного совещания, в котором приняли участие представители нескольких ведомств, было принято решение ввести меры регулирования для использования средств индивидуальной мобильности (СИМ) в России. Управлять ими можно будет только при наличии прав, а передвигаться на СИМ по тротуарам и проезжей части запретят, сообщают «Известия».

Источник изображений: urent.ru

В правительственном совещании участвовали представители Минтранса, Минпромторга, МВД, Минцифры, Минюста, Дептранса Москвы и депутаты Госдумы — они приняли решение, что назрела необходимость отрегулировать эти виды транспорта. Минимальный возраст для управления СИМ составит 16 лет, кроме того, потребуется получать права — МВД уже поручено проработать данный вопрос. Сейчас с этого возраста выдаётся водительское удостоверение на управление мотоциклами и мопедами. Передвигаться на СИМ по тротуарам и автомобильным дорогам также со временем запретят, но сперва подготовят инфраструктуру, которая позволит не создавать угроз для пешеходов помех для водителей традиционного транспорта.

Полностью запрещать СИМ в стране не намерены, сообщил глава комитета Госдумы по транспорту Евгений Москвичёв, «но там, где это возможно, их стоит ограничивать». Целью совещания стала выработка «единого комплексного подхода» к регулированию СИМ: пешеходы просят убрать электросамокаты с тротуаров, а водители — с автомобильных дорог; но на ближайшую перспективу было решено повысить минимальный возраст для использования СИМ с 14 до 16 лет, рассказали в Минтрансе.

В «МТС Юрент», однако, сообщили, что кикшеринги уже ограничили возраст клиентов до 18 лет — несовершеннолетние отслеживаются и блокируются. Полный запрет СИМ в компании также посчитали неоправданным: ими, по некоторым данным, хотя бы раз пользовались 30 млн человек в России, и это удобный, экологически чистый транспорт. А для появления достаточного числа велодорожек потребуется время. Операторы имеют возможность ограничивать скорость СИМ там, где они могут представлять опасность для пешеходов — сейчас у «МТС Юрент» 3,5 тыс. таких зон, и это на 60 % больше, чем в минувшем году.

Есть, впрочем, и мнение, что инициатива нуждается в доработке. Она в первую очередь касается пользователей прокатных сервисов, но непонятно, что делать с владельцами собственных электросамокатов и других СИМ — они искусственных ограничений скорости не имеют. Непонятно, кем и как будет контролироваться исполнение новых норм, каким будет порядок наказания за их нарушения, и кого будут штрафовать: самих нарушителей или их родителей. Потребуется также источник инвестиций в организацию процесса обучения и получения прав на управление СИМ, указывают опрошенные «Известиями» эксперты. Противоречивой представляется и идея ограничить СИМ велодорожками, потому что у электросамокатов и велосипедов разная динамика движения, что тоже чревато столкновениями. Возможно, наиболее эффективной мерой стало бы техническое ограничение скорости электросамокатов.

Проверка соответствия требованиям Закона об искусственном интеллекте (AI Act) Европейского союза (ЕС) выявила ключевые недостатки в ИИ-моделях крупнейших технологических компаний, таких как Meta✴, OpenAI и других. Основные проблемы связаны с устойчивостью к кибератакам и предвзятостью выводов. Компании, чьи ИИ не соответствуют новым нормам, могут столкнуться с крупными штрафами — до 35 млн евро или 7 % от их мирового годового оборота.

Источник изображения: kalhh / Pixabay

Европейский союз долго обсуждал необходимость введения новых правил для регулирования ИИ, однако ситуация значительно ускорилась после того, как в конце 2022 года OpenAI выпустила ChatGPT. Огромная популярность этого сервиса и активные общественные обсуждения возможных угроз, исходящих от ИИ, привели к созданию свода правил для ИИ общего назначения (General Purpose AI или GPAI). Этот закон, призванный гарантировать безопасность и этичность ИИ-технологий, будет вступать в силу поэтапно в течение следующих двух лет.

Новый инструмент Large Language Model Checker (LLM Checker), разработанный швейцарским стартапом LatticeFlow AI совместно с учёными из Высшей технической школы Цюриха (ETH Zurich) и болгарского Института компьютерных наук, искусственного интеллекта и технологий (INSAIT), проверяет ИИ-модели по множеству критериев, включая техническую надёжность, безопасность и устойчивость к кибератакам. Он был создан в строгом соответствии с требованиями AI Act и уже получил поддержку представителей ЕС.

Каждая протестированная ИИ-модель оценивается по шкале от 0 до 1. Данные, опубликованные LatticeFlow, продемонстрировали, что модели компаний Alibaba, Anthropic, OpenAI, Meta✴ и Mistral получили средние оценки от 0,75 и выше. Тем не менее тестирование выявило серьёзные недостатки, на устранение которых техногигантам, вероятно, придётся выделить дополнительные ресурсы.

Одним из ключевых аспектов тестирования стали проблемы дискриминационного характера. ИИ-модели часто вели себя предвзято, когда дело касалось пола, расы и других характеристик, что является серьёзной проблемой. Так, модель OpenAI GPT-3.5 Turbo получила низкую оценку — 0,46 в категории дискриминационных выводов, а модель Alibaba Cloud Qwen1.5 72B Chat получила ещё более низкий результат — 0,37.

Источник изображения: latticeflow.ai, huggingface.co

Другой важной областью исследования стала проверка на устойчивость к кибератакам, в частности к так называемому «угону запроса» (prompt hijacking). Этот тип атак предполагает, что злоумышленники могут внедрить вредоносную команду в легитимный запрос, чтобы получить конфиденциальные данные. В этой категории модель Meta✴ Llama 2 13B Chat получила оценку 0,42, а модель французской компании Mistral 8x7B Instruct — 0,38. Это подчёркивает необходимость дальнейшей работы над защитой ИИ от изощрённых кибератак.

Среди протестированных ИИ-моделей лучшим результатом может похвастаться Claude 3 Opus, разработанная компанией Anthropic при поддержке Google. Её средний балл составил 0,89, что подтверждает высокий уровень соответствия ИИ требованиям новоиспечённого закона. LatticeFlow заявила, что LLM Checker будет находиться в свободном доступе, и разработчики смогут проверять свои ИИ-модели на соответствие закону.

Генеральный директор и соучредитель LatticeFlow Петар Цанков (Petar Tsankov) отметил, что результаты тестирования в основном положительные и предлагают компаниям дорожную карту для доработки своих ИИ в соответствии с законом: «ЕС всё ещё разрабатывает критерии соответствия, но мы уже видим определённые пробелы в моделях. С более тщательной оптимизацией на соответствие требованиям мы уверены, что разработчики моделей смогут хорошо подготовиться к выполнению нормативных требований».

В настоящее время ЕС всё ещё пытается определить, как будут применяться правила AI Act в отношении генеративного ИИ, привлекая экспертов для разработки кодекса практических правил, регулирующих эту технологию.

26 сентября южнокорейский парламент принял законопроект, предусматривающий уголовную ответственность за распространение, хранение и просмотр видео или изображений, содержащих дипфейки откровенно сексуального характера. За просмотр и хранение такого контента закон предусматривает наказание в виде тюремного заключения на срок до трёх лет или штрафа до 30 млн вон ($22,6 тыс.), а за создание подобных дипфейков грозит заключение сроком до пяти лет или штраф.

Источник изображения: Pixabay

Только в этом году южнокорейская полиция получила более 800 заявлений о создании дипфейков сексуального содержания. В частности, регулирующие органы Южной Кореи проводят расследование о причастности мессенджера Telegram к распространению такого контента из-за недостаточной модерации. Сообщается, что в Telegram есть каналы с более чем 200 000 подписчиков, где распространяется такой контент.

Чтобы нынешний закон вступил в силу, его должен подписать президент Южной Кореи Юн Сок Ель.

Российские законодатели также на днях предложили добавить ответственность за дипфейки в Уголовный кодекс — в Госдуму внесён законопроект, предлагающий признать использование дипфейков отягощающим обстоятельством при мошенничестве и клевете.

Руководители более чем 25 компаний, включающих Meta✴, Spotify и Prada, обратились с открытым письмом к Европейскому союзу (ЕС), в котором предупредили, что чрезмерно жёсткое и непоследовательное регулирование в сфере ИИ может существенно ограничить инновационный потенциал региона и лишить его ожидаемых экономических преимуществ.

Источник изображения: GregMontani / Pixabay

В открытом письме, инициированном Meta✴, руководители компаний аргументированно излагают свою позицию: «Европа утратила конкурентные преимущества и инновационный потенциал по сравнению с другими регионами. Существует реальный риск дальнейшего отставания в эпоху ИИ из-за непоследовательности регуляторных решений». Авторы подчёркивают, что ИИ способен значительно повысить производительность труда европейцев и стимулировать экономический рост, однако ЕС может не реализовать этот потенциал в полной мере.

Среди подписантов — представители ведущих компаний различных секторов экономики: шведский производитель телекоммуникационного оборудования Ericsson, немецкий разработчик программного обеспечения SAP, промышленный конгломерат Thyssenkrupp и итальянский люксовый бренд одежды Prada. К инициативе также присоединились исследователи, представители гражданского общества и отраслевые ассоциации, что свидетельствует о широком резонансе проблемы в европейском бизнес-сообществе.

Ключевое требование авторов письма — гармонизация существующих правил ЕС и разработка современной интерпретации Общего регламента защиты данных (GDPR). Компании настаивают на необходимости создания чёткой и последовательной нормативной базы, которая позволит эффективно использовать европейские данные для обучения ИИ-моделей без ущерба для конфиденциальности пользователей.

Европейская комиссия отреагировала на обращение заявлением о поддержке инноваций в сфере ИИ. Исполнительный орган ЕС подчеркнул, что от нового комиссара по вопросам юстиции ожидается обеспечение баланса между потребностями правоохранительных органов и коммерческими интересами в рамках GDPR. Это заявление можно интерпретировать как сигнал готовности к диалогу и поиску компромиссных решений. Тем не менее европейские законодатели настаивают на необходимости жёсткого регулирования для противодействия монополистическим тенденциям в технологическом секторе, борьбы с дезинформацией и защиты несовершеннолетних в интернете.

Обращение бизнес-сообщества последовало за недавними заявлениями Meta✴ и Apple о задержке запуска новых ИИ-функций в Европе. Apple в июне этого года сообщила о вероятной отсрочке внедрения системы Apple Intelligence для европейских пользователей iPhone. Причина — неопределённость, вызванная новым законом о цифровой конкуренции. Следом за ней в июле Meta✴ объявила о приостановке выпуска в ЕС своей перспективной мультимодальной ИИ-модели, способной обрабатывать текст, изображения и речь. Компания сослалась на непредсказуемость европейской регуляторной среды. Ранее Meta✴ уже откладывала планы по обучению ИИ-моделей на основе публичных постов взрослых пользователей Facebook✴ и Instagram✴ в Европе после вмешательства ирландского регулятора по защите данных.

За последнее десятилетие ЕС укрепил свои позиции как влиятельный глобальный регулятор в сфере технологий. GDPR, вступивший в силу в 2018 году, стал международным эталоном защиты персональных данных. Новые законодательные акты ЕС, касающиеся цифровой конкуренции, контроля над онлайн-контентом и регулирования ИИ, уже вынудили ведущие технологические компании, хоть и со скрипом, адаптировать свои бизнес-модели для ЕС.

Поэтапный запуск новых продуктов и функций за пределами США — стандартная практика для технологических компаний. Например, чат-бот Google AI Bard (позже переименованный в Gemini) появился в ЕС через несколько месяцев после запуска в США и Великобритании. Задержка была частично обусловлена требованием ирландского регулятора о внедрении дополнительных функций защиты конфиденциальности. Meta✴ также отложила запуск своей социальной платформы Threads в ЕС на несколько месяцев после её дебюта в США.

Несмотря на регуляторные вызовы, ЕС с населением около 450 млн человек остаётся одним из крупнейших и наиболее платёжеспособных рынков в мире. Это объясняет стремление технологических компаний найти компромисс с европейскими регуляторами для сохранения доступа к этому стратегически важному региону. Однако в открытом письме особо отмечается риск ограничения доступа европейских организаций к открытым ИИ-моделям.

Ключевой аргумент письма — непоследовательное применение GDPR создаёт неопределённость относительно типов данных, допустимых для обучения ИИ-моделей. «Если компании и институты планируют инвестировать десятки миллиардов евро в развитие генеративного ИИ для европейских граждан, им необходимы чёткие, последовательно применяемые правила, разрешающие использование европейских данных», — подчёркивается в обращении.

DMA или «Закон о цифровых рынках», принятый в Евросоюзе, призван улучшить конкурентную обстановку в сфере цифровых услуг. Компании Apple он грозит отказом от многих принципов работы с программным обеспечением, и в частности, требует от Apple предоставить конкурентам доступ к важным элементам программной экосистемы компании. В четверг антимонопольные регуляторы ЕС начали разбирательство, чтобы убедиться, что Apple соблюдает новые правила.

Источник изображения: Apple

В рамках так называемой «процедуры спецификации» Европейская комиссия пропишет, что Apple должна сделать, чтобы соблюсти DMA. «Сегодня мы впервые используем процедуру спецификации в рамках DMA, чтобы направить Apple к эффективному выполнению обязательств по совместимости через конструктивный диалог», — говорится в заявлении главы антимонопольной службы ЕС Маргрете Вестагер (Margrethe Vestager).

По словам антимонопольного ведомства ЕС, первое разбирательство касается особенностей и функций подключения iOS к смарт-часам, наушникам, гарнитурам виртуальной реальности и другим устройствам, подключенным к интернету. Еврокомиссия намерена уточнить, как Apple обеспечит эффективное взаимодействие с такими функциями, как уведомления, сопряжение устройств и подключение.

Второе разбирательство касается того, как Apple будет удовлетворять запросы на совместимость, поданные разработчиками и третьими лицами для iOS и iPadOS. По мнению европейских антимонопольщиков, конкуренты Apple должны иметь равные с ней права доступа к операционным системам смартфонов iPhone и планшетов iPad. Власти Евросоюза хотят покончить с закрытостью программных платформ Apple, из-за которой конкуренты в сфере разработки программного обеспечения для устройств этой марки находились в более слабом положении, а также были вынуждены платить компании высокие комиссионные за работу с фирменной инфраструктурой.

По мнению представителей Apple, предоставление подобного доступа сторонним разработчикам в долгосрочной перспективе снизит уровень информационной безопасности, предлагаемый европейским пользователям устройств этой компании. Антимонопольные органы ЕС, в частности, настаивают на предоставлении доступа сторонним разработчикам ПО к голосовому интерфейсу Siri и чипу Apple, отвечающему за электронные платежи.

Помимо надвигающегося антимонопольного расследования в отношении доступа сторонних разработчиков к фирменному магазину приложений, Apple может столкнуться с отдельным судебным процессом по указанным выше поводам. Оборотный штраф, налагаемый на ответчика по европейским законам, может достигать 10 % его годовой выручки во всём мире. В случае с Apple это десятки миллиардов долларов. Обе «процедуры спецификации» будут завершены в течение шести месяцев.

Apple в июне этого года заявила, что не сможет предложить европейским пользователям функции Apple Intelligence, iPhone Mirroring и SharePlay Screen Sharing именно из-за требований местного законодательства предоставить сторонним разработчикам доступ к ним в рамках новой версии iOS. Представители Еврокомиссии на этой неделе дали понять Apple, что ей надлежит привести свою деловую практику в соответствие с европейскими законами в течение шести месяцев. Конкретные рекомендации были переданы американской компании, и теперь ей предстоит рассмотреть возможность следовать им при ведении бизнеса в Евросоюзе.