Национальное собрание Франции (нижняя палата парламента) приняло законопроект, позволяющий полиции удалённо следить за подозреваемыми, дистанционно активируя камеры, микрофоны и средства геолокации на смартфонах и других устройствах подозреваемых.

Источник изображения: RGY23 / pixabay.com

Все эти действия смогут осуществляться только с санкции судьи, кроме того, закон не позволяет применять эти меры в отношении журналистов, юристов и представителей других «профессий деликатного характера». Подобные меры допускаются лишь в отдельных случаях и вводятся на срок до шести месяцев — слежение за геолокацией применяется только к подозреваемым в преступлениях, за которые предусмотрено наказание в виде лишения свободы на срок не менее пяти лет. Законопроект уже прошёл утверждение в Сенате (верхней палате парламента), но для его вступления в силу он должен был быть утверждён Национальным собранием.

Инициатива крайне встревожила защитников гражданских свобод. Они указывают, что в документе не уточняются перечни преступлений, подозреваемые в которых могут подвергаться преследованиям такого рода, а значит, не исключены злоупотребления. История показывает, что планка применения подобных мер имеет тенденцию к снижению: так, если ранее генетическая регистрация применялась только к лицам, совершившим преступления в интимной сфере, то теперь она практикуется для большинства преступлений, отмечают правозащитники. Кроме того, возможность использования функций слежения зависит от уязвимостей в программных платформах устройств. Возникает риск, что правоохранительные органы будут просто эксплуатировать дыры в безопасности гаджетов вместо того, чтобы указывать производителям на ошибки.

Министр юстиции Франции Эрик Дюпон-Моретти (Éric Dupond-Moretti) уверил, что новые полномочия будут применяться правоохранительными органами только по «десяткам» дел в год — инициатива, по его словам, «далека» от тотальной слежки оруэлловского толка. Политик уверен, что новый закон спасёт людям жизни.

Семь мировых техногигантов признали себя «привратниками» (gatekeepers) согласно новому европейскому Закону о цифровых рынках (Digital Markets Act — DMA). Этот закон призван обеспечить конкуренцию и справедливость на цифровых рынках Европы. Отныне «стражники» должны соблюдать ряд строгих правил.

Источник изображения: Pixabay

«Привратники» или «стражники», в контексте Закона о цифровых рынках (DMA) — это крупные онлайн-платформы, которые являются важными посредниками между бизнес-пользователями и потребителями. Они обладают значительной рыночной властью, что позволяет им выступать в роли частных регуляторов и создавать узкие места в цифровой экономике. Закон DMA направлен на обеспечение конкуренции и справедливости на цифровых рынках. Для решения проблем, связанных с доминированием «стражников», DMA определяет ряд правил, которым они должны следовать.

Семь крупнейших технологических компаний мира официально признали себя «стражниками» в соответствии с европейским Законом о цифровых рынках (DMA). В список вошли Alphabet (Google), Amazon, Apple, ByteDance (TikTok), Meta✴ (Facebook✴, Instagram✴, WhatsApp), Microsoft и Samsung. Эти компании обладают рыночной капитализацией свыше 75 млрд евро и владеют социальной платформой или приложением с не менее чем 45 млн ежемесячных пользователей или 10 000 активных бизнес-пользователей.

В заявлении, опубликованном еврокомиссаром по вопросам внутреннего рынка Тьерри Бретоном (Thierry Breton), говорится, что он «проверит заявки компаний и назначит "привратников" для конкретных платформенных услуг к 6 сентября», после чего у компаний будет шесть месяцев на то, чтобы соответствовать правилам DMA. Ранее, этот же еврокомиссар согласовывал меры госрегулирования технологий ИИ и обсуждал введение полного запрета на участие Huawei в строительстве сетей 5G. Агентство Reuters сообщает, что материнская компания TikTok, ByteDance, оспорила своё включение в список и отмечает, что Booking.com, наоборот, сообщила регуляторам о намерении попасть в список в следующем году.

По словам Бретона, новые правила включают в себя несколько ключевых пунктов, согласно которым техногиганты больше не смогут:

• удерживать пользователей в своей экосистеме;
• решать, какие приложения должны быть предустановлены на устройствах пользователей и каким магазином приложений они должны пользоваться;
• заниматься «самопреференцией»: использовать преимущество роли «стражника» путём более благоприятного отношения к собственным товарам и услугам;
• ограничивать совместимость своих мессенджеров с другими.

Нарушение этих правил может повлечь наказание в виде штрафа в размере до 10 % от общего глобального оборота компании, 20 % для повторных нарушителей. Также повторные нарушения могут привести к тому, что комиссия «инициирует расследование и, при необходимости, наложит поведенческие или структурные санкции».

Компания Apple, которая утверждает, что новый закон создаст ненужные уязвимости конфиденциальности и безопасности для пользователей продукции Apple, по сообщениям, планирует разрешить сторонние магазины приложений в iOS 17, хотя и с возможными ограничениями, например, разрешить их только в Европе или ввести обязательные требования безопасности.

На прошлой неделе компания Meta✴ предложила интересный подход к привлечению пользователей в Европе. Она объявила, что позволит им загружать приложения непосредственно из Facebook✴. Это подчёркивает гибкость компании в подходе к новому законодательству и её готовность искать креативные способы привлечения пользователей.

Похоже, что техногиганты начинают осознавать, что необходимо более активно адаптироваться и принимать изменения для успешной работы в новом регулируемом цифровом пространстве. Период адаптации может быть сложным, но он открывает возможности для нового вида конкуренции, основанной на инновациях и удобстве для пользователей.

«

Европарламентарии и представители стран ЕС пришли к соглашению в отношении нормативов, регулирующих передачу за пределы региона европейских персональных и корпоративных данных техногигантами и другими компаниями, а также гарантий, что власти не входящих в ЕС стран не смогут получить к ним доступ.

Источник изображения: NoName_13 / pixabay.com

В прошлом году Еврокомиссия предложила проект «Закона о данных» (Data Act) — документ описывает принципы регулирования оборота данных, генерируемых умными гаджетами, автомобилями и потребительскими товарами. Закон входит в пакет, направленный на ограничение полномочий технологических гигантов из США. Обеспокоенность ЕС этим вопросом возросла в 2013 году, когда бывший сотрудник американской разведки Эдвард Сноуден (Edward Snowden) рассказал о программе массовой слежки, реализуемой властями США.

Согласно законопроекту, частные лица и компании получают возможность управлять своими данными, которые генерируют умные устройства и машины — копировать их или передавать между платформами. Потребители и компании получают право устанавливать, что разрешено делать с этой информацией. Законопроект упрощает процедуру перехода к другим поставщикам услуг по обработке данных, вводит меры защиты от их незаконной передачи поставщиками и предусматривает разработку стандартов функциональной совместимости для их использования различными субъектами.

Европейские производители также напомнили о необходимости ограничивать передачу данных третьим лицам в рамках программ послепродажного обслуживания оборудования — в компаниях Siemens и SAP выразили опасения, что может возникнуть утечка данных, связанных с коммерческой тайной. Данный аспект прописан в законопроекте: владельцы данных могут отклонять запросы в исключительных обстоятельствах, если их передача может привести к «серьёзным и непоправимым экономическим потерям» и подорвать экономическую жизнеспособность субъектов.

OpenAI, создатель ИИ-чат-бота ChatGPT, лоббировала в Евросоюзе использование более мягких подходов при разработке законодательства, регулирующего применение генеративного ИИ, пишет Time со ссылкой на полученные копии документов Еврокомиссии.

Источник изображения: Pixabay

По данным источника, OpenAI обратилась к европейским законодателям с просьбой внести несколько поправок в проект «Закона об искусственном интеллекте». В частности, она предложила не относить системы ИИ общего назначения (GPAI), такие, как OpenAI ChatGPT и DALL-E, к «высокорисковым», что налагало бы на них самые строгие обязательства по обеспечению безопасности и прозрачности. OpenAI утверждает, что только компании, явно применяющие ИИ в областях и задачах с высоким риском, должны соблюдать правила для этой категории. «Сама по себе GPT-3 не является системой высокого риска, но обладает возможностями, которые потенциально могут быть использованы в случаях использования с высоким риском», — указала OpenAI в официальном документе, направленном должностным лицам Еврокомиссии и Совета ЕС в сентябре 2022 года.

В июне 2022 года состоялась встреча представителей OpenAI и Европейской комиссии с целью уточнения категорий рисков, предложенных в проекте Закона об ИИ. «Они были обеспокоены тем, что системы ИИ общего назначения будут включены в список систем с высоким риском, а также тем, что большее количество систем по умолчанию будет отнесено к категории с высоким риском», — указано в официальном протоколе встречи. По словам источника Time в Еврокомиссии, на этой встрече представители OpenAI выразили обеспокоенность тем, что предполагаемое чрезмерное регулирование может повлиять на инновации в области ИИ.

Похоже, что лоббирование OpenAI было большей частью успешным — GPAI не относится к категории высокорисковых в окончательном проекте закона ЕС об ИИ, одобренном 14 июня. Однако в нём предъявляются более высокие требования к прозрачности «базовых моделей» — мощных систем ИИ, таких как GPT-3, которые можно использовать для разных задач. Это потребует от компаний проводить оценку рисков и раскрывать, использовались ли материалы, защищённые авторским правом, для обучения их моделей ИИ.

Представитель OpenAI сообщил Time, что OpenAI поддерживает включение в закон об ИИ «базовых моделей» в качестве отдельной категории несмотря на то, что компания предпочитает не разглашать источники данных для обучения своих моделей ИИ, опасаясь судебных исков о нарушении авторских прав.

До вступления «Закона ЕС об ИИ» в силу пройдёт ещё немало времени. Как ожидается, он будет одобрен в конце этого года, а на его вступление в силу может уйти до двух лет.

Европейский парламент принял проект «Закона об искусственном интеллекте», который серьёзно ограничит использование программного обеспечения с ИИ для распознавания лиц, а также потребует от создателей систем искусственного интеллекта, таких как чат-бот ChatGPT, раскрывать больше информации о данных, используемых для создания их решений. Ожидается, что окончательный вариант закона будет принят не ранее конца этого года.

Источник изображения: Pexels

Одной из основных областей дебатов по новому закону было использование системы распознавания лиц. Европейский парламент проголосовал за запрет использования распознавания лиц в реальном времени, но пока остаются вопросы о том, следует ли делать исключения для национальной безопасности и других правоохранительных целей.

Другое положение запрещает компаниям собирать биометрические данные из социальных сетей для создания баз данных для ИИ. Эта практика вызвала пристальное внимание после того, как её использовала компания Clearview AI, занимающаяся распознаванием лиц. Европарламентарии также добавили запрет на использование технологий распознавания эмоций правоохранительными органами, пограничными службами, на рабочих местах и в учебных заведениях.

Была расширена классификация систем ИИ высокого риска. В неё попали модели, которые, по мнению парламента, могут нанести существенный вред здоровью, безопасности, основным правам или социальной среде, а также системы ИИ, используемые для влияния на избирателей и исход выборов. Крупные платформы социальных сетей, которые используют алгоритмы для рекомендации контента, также были добавлены евродепутатами в список высокого риска.

Франсин Беннетт (Francine Bennett), исполняющая обязанности директора Института Ады Лавлейс — организации в Лондоне, которая выступала за принятие новых законов об ИИ — сказала, что предложение ЕС является «важной вехой». «Быстро развивающиеся и быстро перепрофилируемые технологии, конечно, трудно регулировать, когда даже компании, создающие технологию, не совсем понимают, как всё будет происходить. Однако для всех нас было бы определённо хуже продолжать работать при полном отсутствии адекватного регулирования» — дополнила она.

Технологические лидеры также пытаются повлиять на ход дебатов. Сэм Альтман (Sam Altman), исполнительный директор OpenAI, в последние месяцы посетил не менее 100 американских законодателей и других глобальных политиков в Южной Америке, Европе, Африке и Азии. Он призвал к регулированию ИИ, после чего дополнил, что предложение Евросоюза может оказаться непомерно сложным для выполнения.

Окончательный вариант закона будет согласован между представителями власти Европейского Союза — Европейского парламента, Европейской комиссии и Совета Европейского Союза. Официальные лица заявили, что они надеются достичь окончательного соглашения к концу года.

Президент России Владимир Путин подписал закон, который предусматривает конфискацию имущества, полученного посредством преступной деятельности в области компьютерной информации.

Источник изображения: Robinraj Premchand / pixabay.com

Законопроект № 238005-8 вносит изменения в статью 104.1 УК РФ «Конфискация имущества», дополняя перечень преступлений, которые допускают применение такой меры. В новой редакции конфискация имущества может производиться при совершении преступлений, связанных с неправомерным доступом к охраняемой законом компьютерной информации, если преступное деяние повлекло «уничтожение, блокирование, модификацию либо копирование компьютерной информации, причинившее крупный ущерб или совершённое из корыстной заинтересованности, совершённое группой лиц по предварительному сговору или организованной группой».

Конфискация также предусматривается, если преступление совершило лицо с использованием служебного положения; если оно повлекло тяжкие последствия или их угрозу; а также если преступник создал, использовал или распространял вредоносное ПО либо производил воздействие на критическую компьютерную инфраструктуру в ведении государства.

Большие изменения ожидают российских разработчиков программного обеспечения, претендующих на включение их продуктов в реестр отечественного ПО. Как сообщают «Ведомости», в скором времени потребуется обеспечить совместимость софта минимум с двумя российскими операционными системами.

Источник изображения: Hack Capital/unsplash.com

Проект соответствующего постановления уже подготовлен Минцифры, и новые правила будут распространяться не только на новые программы, но и на присутствующее в реестре ПО. Известно, что проект обсуждается с представителями заинтересованных сторон, в Минцифры ожидают, что требования введут поэтапно — тем программам, которым уже повезло попасть в реестр, предоставят переходный период на доработку.

По мнению некоторых экспертов, доля ПО реестре, несовместимого с отечественными ОС, сегодня превышает 50 % — всё из-за того, что ранее Минцифры не требовало ни совместимости отечественного ПО с российскими операционными системами и процессорами, ни декларирования такой совместимости. Эксперты же уверены, что отечественному IT-рынку необходима настоящая экосистема, а не отдельные программные продукты — от офисного ПО до программ для работы с базами данных и ПО другого профиля.

Утверждается, что на доработку систем автоматизированного проектирования (САПР) потребуется не менее двух лет. Это же касается и многого другого инженерного, промышленного и банковского ПО, обеспечение совместимости которого с российскими ОС идёт очень медленно.

По словам главы Axiom Романа Карпова, совместимость программного обеспечения из реестра отечественного ПО можно доработать за 2-3 года. Впрочем, некоторые продукты уже сегодня можно использовать с применением эмуляторов. Известно, что многие разработчики и ранее вместо «честной» адаптации под отечественные ОС на базе Linux применяли инструменты вроде Wine. Как считают эксперты, для использования прикладного ПО такие решения не подойдут, поэтому адаптировать программное обеспечение всё равно придётся — если разработчики намерены сохранить позиции в реестре.

Российские власти прорабатывают поправки к законодательству, которые регламентируют принудительное лицензирование иностранной интеллектуальной собственности. Для этого будет создан отдельный список программ, товаров, фильмов, музыки и другой продукции, выяснили «Известия».

Источник изображения: StartupStockPhotos / pixabay.com

Российские компании смогут без согласия правообладателей использовать товары и объекты интеллектуальной собственности, внесённые в специальный список. Механизм сможет применяться лишь в отдельных случаях, причём использование объектов из этого списка не будет безвозмездным — предусмотрены выплаты компенсаций. Об этом идёт речь в письме от 19 мая, которое Министерство цифрового развития направило в «Общественную потребительскую инициативу» (ОПИ) — документ подписан директором департамента развития отрасли информационных технологий Дмитрием Никитиным.

Минцифры при поддержке других ведомств прорабатывает «комплексную модель внесения изменений в действующее законодательство, предусматривающую возможность правительству делегировать федеральным органам исполнительной власти полномочия по формированию перечней товаров и объектов интеллектуальной собственности, в том числе программного обеспечения, которые могут использоваться при определённых условиях без согласия правообладателей с выплатой им соответствующей компенсации», гласит документ. Пока этот механизм коснётся лишь иностранного ПО, добавили в Минцифры: «Задача поправок — дать возможность временного использования иностранного ПО, без которого не может обойтись компания, и поэтапного перехода на отечественные продукты. При этом не поощряя пиратство и направляя средства от использования иностранного ПО на развитие российских продуктов».

Необходимость в принудительном лицензировании прочих объектов интеллектуальной собственности отсутствует, подтвердили опрошенные «Известиями» эксперты: в отрасли и ведомствах сформировался консенсус, что медиаиндустрия работает стабильно, и нет потребности ограничивать исключительные авторские права иностранных субъектов — музыку, кино и книгу новая инициатива не затронет. Зарубежные поставщики ПО нарушили контрактные обязательства, уверены эксперты: на объектах критически важной инфраструктуры заменить иностранное ПО одномоментно не получится, и государство осознаёт связанные с этим риски. Требуются механизмы для продолжения его работы как минимум на время, необходимое для создания отечественных альтернатив.

Большинство стран ЕС отвергло предложение европейских телеком-операторов, предлагавших заставить мировых техногигантов спонсировать развитие в регионе интернет-инфраструктуры, в частности — сетей 5G и кабельной широкополосной связи.

Источник изображения: ALEXANDRE LALLEMAND/unsplash.com

Как сообщает Reuters со ссылкой на осведомлённые источники, главы европейских министерств, связанных с телеком-сферой из 18 стран ЕС, либо полностью отвергли инициативу по введению специального налога, либо подвергли её критике в ходе встречи с еврокомиссаром Тьерри Бретоном (Thierry Breton) в Люксембурге. Такие высказывания соответствуют и позиции телеком-регуляторов ЕС — группы BEREC.

Известно, что Deutsche Telekom, Orange, Telefonica и Telecom Italia хотят, чтобы IT-гиганты компенсировали часть стоимости поддержания и развития интернет-инфраструктуры и нашли понимание Бретона, кстати, в своё время занимавшего пост главы France Telecom. Google, Apple, Meta✴, Netflix, Amazon и Microsoft предсказуемо отвергли идею подобных налогов, заявив, что они и так инвестируют в цифровую экосистему.

Министры стран ЕС подчеркнули, что отсутствуют достоверные аналитические материалы, позволяющие прогнозировать последствия подобного налога, и исследующие прочие факторы. В частности, не исключается, что техногиганты фактически возложат оплату на плечи своих клиентов, повысив цены на услуги. Также министры напомнили о вероятности нарушения правил «сетевого нейтралитета» ЕС, требующих равного обращения со всеми пользователями, отсутствия барьеров для инноваций и борьбы с низким качеством продуктов.

В числе критиков предложенного налога — Австрия, Бельгия, Чехия, Дания, Финляндия, Германия, Ирландия, Литва, Мальта и Нидерланды. Кипр, Франция, Греция, Венгрия и Италия поддержали идею, а Польша, Португалия и Румыния либо заняли нейтральную позицию, либо уклонились от того, чтобы однозначно обозначить её, заявив, что позиция ещё не сформирована.

Ожидается, что Бретон выпустит к концу июня доклад с резюме мнений, полученных от техногигантов, телеком-провайдеров и прочих участников отрасли — это позволит судить о его собственных намерениях в этом направлении. До того, как законодательные инициативы станут законом, они должны быть согласованы с руководством ЕС и, в частности, законодательными органами на уровне отдельных стран.

Материнская компания Facebook✴ предоставила ключевые гарантии антимонопольным регуляторам Великобритании, стремясь снять озабоченность насчёт того, как она использует рекламные данные в интересах своих собственных продуктов. Для этого компания ограничит использование рекламных данных других компаний для своей службы Facebook✴ Marketplace, что, по словам Meta✴, будет сделано путём внедрения «новых технических систем».

Источник изображения: pixabay

Новость появилась в начале недели, когда Meta✴ объявила о продаже GIF-платформы Giphy за 53 миллиона долларов через три года после её покупки за 400 миллионов долларов. Продажа последовала за выдачей предписания Управлением по конкуренции и рынкам (CMA) в октябре прошлого года. В апреле CMA также заблокировал сделку о покупке Activision компанией Microsoft за 68,7 миллиарда долларов, после чего последняя подала в суд на решение британского регулятора.

Facebook✴ Marketplace — это онлайн-сервис объявлений, запущенный в 2016 году, который позволяет пользователям Facebook✴ покупать и продавать практически всё. Учитывая, что Meta✴ может получить информацию об интересах пользователей через их онлайн-рекламу в Facebook✴, CMA утверждает, что это даёт Meta✴ несправедливое преимущество, позволяя отображать более релевантные товары в ленте Marketplace своих пользователей — в ущерб рекламодателям платформы. Европейская комиссия (ЕК) и CMA объявили о совместных усилиях по расследованию этой практики Meta✴ в июне 2021 года, а в августе CMA объявила о начале официального расследования. ЕК последовала этому примеру четыре месяца спустя.

Однако теперь CMA впервые дала понять, что готова прекратить дело после получения конкретных обязательств от Meta✴. Они включают в себя ограничение использования рекламных данных других компаний для своей службы Facebook✴ Marketplace, что, по словам Meta✴, будет сделано путём внедрения «новых технических систем». Кроме того, Meta✴ заявила, что будет обучать сотрудников, чтобы они не использовали данные рекламодателей при разработке новых продуктов для использования на рынке Великобритании, которые могут вступить в прямую конкуренцию с рекламодателями.

CMA заявила, что она намерена принять эти обязательства, которые включают в себя возможность рекламодателей отказаться от использования их данных для улучшения платформы объявлений Facebook✴ Marketplace. После этого заявления начнётся месячный период консультаций, который завершится 26 июня. Если ожидания британского регулятора будут удовлетворены, это фактически завершит расследование.

OpenAI не планирует покидать Европу, заявил генеральный директор компании Сэм Альтман (Sam Altman). Ранее на этой неделе он говорил о том, что компания покинет европейский рынок, если станет слишком сложно соблюдать грядущие законы о регулировании систем на базе искусственного интеллекта.

Источник изображения: pixabay

ЕС работает над проектом первого в мире свода правил для регулирования искусственного интеллекта, и Альтман ранее заявил, что текущий проект закона ЕС об искусственном интеллекте является «чрезмерно регулирующим». Угроза Альтмана покинуть Европу вызвала критику со стороны главы промышленности ЕС Тьерри Бретона (Thierry Breton) и ряда других законодателей. Альтман провёл последнюю неделю в поездке по Европе, встречаясь с ведущими политиками во Франции, Испании, Польше, Германии и Великобритании, чтобы обсудить будущее ИИ и прогресс ChatGPT. Он назвал свою поездку «очень продуктивной неделей разговоров в Европе о том, как лучше регулировать ИИ».

Чат-бот ChatGPT, работающий на базе ИИ и поддерживаемый Microsoft, создал новые возможности вокруг технологии, а опасения по поводу его потенциала вызвали волнение и тревогу, что в итоге привело к конфликту с регулирующими органами. OpenAI впервые столкнулась с регуляторами в марте, когда итальянский регулятор данных Garante запретил приложение на внутреннем рынке, обвинив OpenAI в нарушении европейских правил конфиденциальности. ChatGPT был разблокирован после того, как компания ввела новые меры по обеспечению конфиденциальности для пользователей.

Вчера OpenAI заявила, что выделит 10 грантов из фонда размером в 1 миллион долларов на эксперименты по определению того, как именно должно регулироваться программное обеспечение с ИИ. Альтман назвал эти гранты «демократическим путём решения проблемы о поведении систем ИИ».

Гендиректор OpenAI Сэм Альтман (Sam Altman) предупредил, что компания может отказаться предоставлять услуги на Европейском рынке в ответ на разрабатываемые в регионе меры госрегулирования отрасли искусственного интеллекта.

Источник изображения: Gerd Altmann / pixabay.com

В разговоре с журналистами в Лондоне он отметил, что у него «множество опасений» в отношении европейского «Закона об ИИ», который дорабатывается парламентариями. Сфера действия документа недавно была расширена — в него включили разработчиков так называемых «основополагающих моделей», то есть ИИ-платформ, на которых работают службы вроде ChatGPT и DALL-E от OpenAI. «Важны детали. Мы постараемся выполнять требования, но если не сможем, то прекратим работу», — цитирует Альтмана Financial Times.

Беспокойство у Альтмана вызвала норма, согласно которой системы формата ChatGPT будут отнесены к разряду «высокорисковых», и OpenAI придётся соответствовать требованиям к безопасности и прозрачности. Компании придётся раскрывать информацию о вычислительной мощности, необходимой для ИИ-моделей, а также о материалах, которые используются для их обучения, в том числе о защищённых авторским правом. Ранее OpenAI и сама раскрывала информацию подобного рода, но отказалась от этой практики, поскольку коммерческая ценность её разработок резко подскочила — её соучредитель Илья Суцкевер (Ilya Sutskever) прямо сказал, что компания была неправа.

Раскрытие информации об используемых при обучении ИИ материалах может вызвать череду исков со стороны их правообладателей, а системы генеративного ИИ вроде ChatGPT и DALL-E действительно обучаются на больших объёмах данных из интернета, и значительная их часть защищена авторским правом. Фотобанк Getty Images сейчас пытается засудить компанию Stability AI — разработчика генератора изображений Stable Diffusion.

Господин Альтман и сам недавно выступал в Конгрессе США с предложением ввести жёсткое госрегулирование систем ИИ. Разница в том, что его предложение было направлено на перспективные платформы, а евродепутаты готовят нормы в соответствии с реалиями дня сегодняшнего.

Комитет Госдумы по финрынку разработал новую версию закона о цифровом рубле: в документе уточнили полномочия Банка России, расширили возможности покупки электронной валюты для нерезидентов, регламентировали порядок наложений взысканий и использования фразы «платформа цифрового рубля» в рекламе. Об этом сообщил «Интерфакс».

Источник изображения: cbr.ru

Когда законопроект принимался в первом чтении, одна из норм предполагала, что Банк России сможет учреждать организации для работы платформы цифрового рубля или участвовать в капиталах таких организаций — теперь эта норма удалена, но ведомство сохранило за собой статус оператора платформы. Расширился спектр обязанностей Банка России: он станет отчитываться перед Национальным финансовым советом по результатам работы в рамках антиотмывочного законодательства, а также обеспечивать на платформе цифрового рубля шифрование данных, связанных с сотрудниками ФСБ или другими лицами, подлежащими государственной защите.

Доступ нерезидентов к платформе цифрового рубля будет осуществляться не только через уполномоченные банки, но также через зарубежные кредитные организации и напрямую через Банк России. Операции с цифровыми рублями для иностранцев будут доступны без ограничений.

Предложено ввести норму, предполагающую наложение взысканий на цифровые рубли только в отсутствие или при нехватке средств на счетах в банках — при этом должник в отношении цифровых рублей лишается права на сохранение дохода на сумму прожиточного минимума. Наконец, в рекламе запрещается использовать фразу «платформа цифрового рубля» для лиц, которые не являются оператором этой платформы или его участниками.

В понедельник платформа TikTok обратилась в суд с требованием отменить запрет на её работу в американском штате Монтана. Закон, запрещающий деятельность сервиса, был принят местными властями и подписан местным губернатором буквально на днях — это первый штат, полностью запретивший TikTok на своей территории.

Источник изображения: Pixabay

Запрет должен вступить в силу с 1 января 2024 года, но помимо TikTok его уже опротестовали и местные жители, подавшие коллективный иск в федеральный суд с требованием отменить запрет с отсылкой к Первой поправке к Конституции США, гарантирующей свободу слова.

В TikTok считают, что запрет нарушает не только Первую поправку, но и другие законы США, поскольку, например, вторгается в сферу, регулируемую лишь федеральными органами, а также нарушает законодательство, ограничивающее право штатов на вмешательство в международную торговлю и торговлю между штатами. Принадлежащая китайской ByteDance площадка TikTok используется более 150 млн американцами, из-за чего многие местные законотворцы призывают полностью запретить её деятельность в стране, допуская возможную утечку данных в Поднебесную и опасаясь того, что китайские власти могут оказывать влияние с её помощью на американцев.

В соответствии с принятым в Монтане законом, власти штата могут налагать штраф за каждое нарушение, допущенное TikTok на его территории, а также дополнительные штрафы по $10 тыс. ежедневно, если нарушения не будут устранены. Впрочем, для самих пользователей штрафные санкции не предусмотрены и пока непонятно, как руководство штата намерено претворять запрет в жизнь.

В 2020 году прежний президент США Дональд Трамп (Donald trump) уже пытался запретить TikTok и суперприложение WeChat, но его инициативы не встретили поддержки в американских судах. Впрочем, пользоваться популярной сетью уже запретили сотрудникам государственных органов на служебных устройствах на федеральном уровне. По словам председателя Сенатского комитета по разведке Марка Уорнера (Mark Warner), вероятность того, что федеральные суды отменят закон, принятый в Монтане, только увеличивает необходимость принятия Конгрессом США нормы, дающей президенту страны новые полномочия, в том числе — вводить ограничения в отношении иностранных приложений.

По оценкам социальной сети, сегодня в штате имеются сотни тысяч активных пользователей TikTok из 1,1 млн его жителей. В компании подчёркивают, что не делились и не поделились бы информацией о пользователях с китайскими властями и приняли важные меры для защиты персональных данных. В свою очередь, ранее представители властей Монтаны уже заявляли, что ожидали судебных исков и подготовились к ним для защиты закона, помогающего обезопасить жителей штата.

«Закон об ИИ» с последними поправками, если будет принят, запретит американским компаниям, вроде OpenAI, Amazon, Google и IBM, предоставлять доступ через API к генеративным моделям ИИ. Закон приведёт к санкциям против разработчиков ПО с открытым исходным кодом и дистрибьюторов ПО, таких как GitHub, если генеративные модели ИИ станут доступны в Европе без предварительного прохождения обширного и дорогостоящего лицензирования. Предусмотрены огромные штрафы.

Источник изображения: unsplash.com

Хотя закон предусматривает исключения для традиционных моделей машинного обучения, он прямо запрещает использование генеративных систем с открытым исходным кодом без лицензирования. Если закон будет принят, правоприменение выйдет из-под контроля государств-членов ЕС. В соответствии с «Законом об ИИ», имеющем экстерриториальную юрисдикцию, третьи стороны могут предъявлять иски национальным правительствам для наложения штрафов, а европейское правительство может быть принуждено третьими сторонами к конфликту с американскими разработчиками и бизнесом.

Очень широкая юрисдикция закона включает в том числе «поставщиков систем ИИ, которые созданы или находятся в третьей стране, где закон государства-члена ЕС применяется в силу международного публичного права, либо результат, производимый системой, предназначен для использоваться в ЕС». Разработчики и распространители ПО несут юридическую ответственность. Для ПО с открытым исходным кодом ответственность переходит на компанию, использующую это ПО или выводящую его на рынок.

Разработчики должны регистрировать как свой проект ИИ или базовую модель, так и их предполагаемую функциональность. При превышении заявленной функциональности, лицензия может быть отозвана. Это станет проблемой для многих проектов с открытым исходным кодом. Регистрация также потребует раскрытия используемых источников данных, вычислительных ресурсов, времени на обучение, контрольных показателей производительности и Red Teaming — подготовку системы к отражению кибератак.

Потребуется дорогостоящее тестирование рисков. Список рисков весьма расплывчат и включает потенциальные проблемы для окружающей среды, демократии и верховенства закона. Судя по всему, государства ЕС будут проводить оценку рисков в зависимости от размера компании-заявителя, причём сами тесты ещё только предстоит создать. «Закон об ИИ» также требует послерелизного контроля системы (предположительно со стороны правительства). Если модели продемонстрируют неожиданные способности, потребуется повторная сертификация.

Источник изображения: pexels.com

Использование API, позволяющего реализовывать сервисы на базе ИИ, не запуская её на собственном оборудовании, может быть предельно затруднено в ЕС. В соответствии с новыми правилами, если при использовании API выясняются новые возможности, их потребуется сертифицировать, а поставщик обязан предоставить третьей стороне конфиденциальную техническую информацию, чтобы завершить процесс лицензирования. Это положение даёт возможность преступнику сделать мошенническое ПО доступным в Европе, что приведёт к необходимости его лицензирования и раскрытию информации.

Если американский разработчик ПО с открытым исходным кодом разместит модель или код с использованием API на GitHub и этот код станет доступен в ЕС, разработчик будет нести ответственность за выпуск нелицензированной модели. Кроме того, GitHub будет нести ответственность за размещение такой модели. В настоящее время многие американские облачные провайдеры не ограничивают доступ к моделям API. Любой разработчик может получить доступ к новейшим технологиям по разумной цене. Ограничения нового закона делают использование API настолько сложным и дорогостоящим, что оно станет доступно только корпоративным клиентам.

Проекты с открытым исходным кодом используют для обучения моделей метод LoRA — медленное, постепенное и недорогое добавление новой информации и возможностей, поскольку они не могут позволить себе компьютерную инфраструктуру стоимостью в миллиард долларов. Таким проектам потребуется проходить повторную сертификацию каждый раз после использования метода LoRA для расширения модели.

«Закон об ИИ» также предусматривает лицензирование развёртывания — разработчики, использующие системы ИИ, должны пройти строгую проверку разрешений перед запуском. Малые предприятия ЕС освобождены от этого требования.

Штрафы за несоблюдение «Закона об ИИ» составят от 2 % до 4 % глобального валового дохода компании. Для физических лиц размер штрафа может достичь €20 млн. При этом европейским малым и средним предприятиям такие штрафы не грозят. А при использовании ИИ для исследований и разработки экологически чистых энергетических систем или производства чистой энергии соблюдение нового закона вообще не потребуется.

Новый «Закон об ИИ» противоречит требованиям американского регулятора, а действия, предусмотренные этим законом, вызовут серьёзные антимонопольные проблемы для американских компаний. Высокие затраты на обучение модели ограничивают доступность ИИ для небольших компаний и частных лиц. Федеральная торговая комиссия США хочет не допустить чтобы крупная компания использовала своё положение, чтобы получить большую часть прибыли за счёт более мелких партнёров.

«Закон об ИИ» может создать гораздо больше проблем, чем кажется на первый взгляд. Разработчики ПО, особенно решений с открытым исходным кодом, вряд ли хорошо отреагируют на запреты и требования дорогостоящей сертификации. Трудно представить, что произойдёт, если GitHub и другие подобные платформы решат, что с ЕС слишком сложно иметь дело, и закроют доступ. Это может привести к последствиям, которые не были тщательно продуманы. К счастью, пока закон не принят и в нём могут появиться значительные изменения.