Комиссариат по защите информации в Великобритании выдал ответственной за платформу Snapchat компании Snap предварительное уведомление о принудительном исполнении в отношении работающего в приложении чат-бота на базе искусственного интеллекта. Об этом сообщает Bloomberg.

Источник изображения: Alexander Shatov / unsplash.com

Компания Snap, по версии ведомства, потенциально неспособна должным образом оценить риски для конфиденциальности, связанные с работающим в Snapchat чат-ботом My AI. Если комиссар выпустит окончательную версию документа, платформа может быть вынуждена прекратить обработку данных, связанных с чат-ботом. «Предварительные результаты нашего расследования свидетельствуют о тревожной неспособности Snap адекватно выявить и оценить угрозы конфиденциальности для детей и других пользователей перед запуском My AI», — говорится в заявлении комиссара по защите информации Джона Эдвардса (John Edwards).

В Snap заявили, что подробно изучат решение ведомства. «Мы стремимся защищать конфиденциальность наших пользователей. My AI прошёл тщательную юридическую проверку и проверку конфиденциальности, прежде чем стал общедоступным», — добавил представитель компании. Чат-бот My AI, который позиционируется как «виртуальный друг в Snapchat», помог платформе диверсифицировать поток доходов за счёт платной подписки: в феврале он вышел для премиальных подписчиков в Великобритании, а в апреле стал доступен всем. Чат-бот работает на основе технологии OpenAI ChatGPT.

Власти Великобритании представили 7 принципов регулирования искусственного интеллекта, которыми должны руководствоваться компании, занимающиеся разработкой ИИ-систем. Управление по конкуренции и рынкам (CMA) настаивает на введении ответственности за результаты работы ИИ, обеспечение доступа к ключевым ресурсам, а также на прозрачности рисков и ограничений, связанных с контентом, созданным генеративным ИИ. Инициатива направлена на стимулирование конкуренции и инноваций, предотвращение монополизации рынка и защиту потребителей.

Источник изображения: herbinisaac / Pixabay

Регулятор разработал принципы после первичного обзора текущего состояния отрасли и планирует обсудить их с общественными и потребительскими группами, а также с академическим сообществом:

• Ответственность: разработчики ИИ-моделей несут ответственность за информацию, предоставляемую потребителям;
• Доступность: непрерывный доступ к ключевым ресурсам без необоснованных ограничений;
• Разнообразие: поддержание разнообразия бизнес-моделей, включая как открытые, так и закрытые системы;
• Выбор: предоставление бизнесу выбора для определения способов использования ИИ-моделей;
• Гибкость: возможность переключения между различными ИИ-моделями или одновременного использования нескольких из них в зависимости от потребностей;
• Добросовестность: отсутствие антиконкурентного поведения, навязывания продуктов и услуг;
• Прозрачность: предоставление потребителям и бизнесу информации о рисках и ограничениях контента, созданного с помощью ИИ-моделей, для осуществления осознанного выбора.

Основное внимание СМА уделило так называемым основным ИИ-моделям, которые лежат в основе многих генеративных ИИ-систем, включая продукты компаний OpenAI, Google, Meta✴, Microsoft и других. Среди ключевых аспектов, на которые следует обратить внимание —обеспечение ответственности за выходные данные ИИ и гарантия доступа к ключевым ресурсам, под которыми, вероятно, также подразумеваются чипы и данные для обучения ИИ.

«Влияние основных ИИ-моделей может позволить большему числу компаний успешно конкурировать, возможно, бросив вызов текущим лидерам рынка», — отметило CMA в своём обзоре. Регулятор подчеркнул, что здоровая конкуренция и инновации могут способствовать экономическому росту благодаря росту производительности.

Инициатива CMA по регулированию ИИ возникла в важный момент, когда правительства по всему миру активно ищут способы контроля над развитием генеративного ИИ. Европейский Союз, Китай и США также работают над созданием собственных нормативных документов в этой области.

Следует отметить, что, несмотря на широкий спектр вопросов, связанных с регулированием ИИ, включая вопросы авторских прав и защиты данных, CMA сосредоточило внимание на конкуренции и защите потребителей, стремясь обеспечить благоприятные условия на текущем этапе развития новой технологии.

Учёные из Имперского колледжа Лондона разработали крошечный ракетный двигатель ICE-Cube Thruster (Iridium Catalysed Electrolysis CubeSat Thruster) на катализируемом иридием электролизе. Он настолько мал, что для его изготовления используется метод, который применяется при выпуске полупроводниковых чипов. Двигатель предназначен для компактных спутников — кубсатов (CubeSat).

Источник изображения: Imperial College / ESA

Как пишет портал New Atlas, поскольку до 90 % космических запусков приходятся на вывод на околоземную орбиту кубсатов весом до 10 кг, многие из них имеют размеры не больше обычного смартфона. Для таких космических аппаратов очень сложно создавать компоненты нужного размера. И одной из таких проблем является создание ракетных двигателей с учётом физических ограничений таких спутников. В этом случае двигатели должны быть не только маленькими, но также максимально простыми, не вакуумными, маломощными и в них не должны применяться токсичные материалы.

Длина всего двигателя ICE-Cube Thruster, разработка которого была профинансирована Европейским космическим агентством, составляет примерно 2 сантиметра, а длина его камеры сгорания и сопла составляет всего 1 мм. Для работы ему требуется всего 20 Вт электрического тока. В ходе испытаний двигатель генерировал тягу в 1,25 миллиньютон при удельном импульсе 185 секунд на постоянной основе. Для сравнения, это в полмиллиарда раз меньше тяги двигателей, использовавшихся в космических шаттлах.

Однако уникальность этого микродвигателя не в силе тяги, а в том, что в качестве топлива он использует обычную воду, которая настолько невзрывоопасна и негорюча, насколько это возможно. С помощью электрического тока проходит электролиз, вода расщепляется на водород и кислород, которые подаются в камеру сгорания для воспламенения, создавая тягу для маневрирования спутника.

Использование воды не только очень экологично, но и снижает общую массу аппарата, поскольку для её хранения и подачи не требуется использования сложных систем. Однако изготовление камеры сгорания и сопла для двигателя, по существу, в двух измерениях, потребовало обращения к микроэлектронике и методу микроэлектромеханических систем (MEMS), который обычно используется для обработки кремниевых пластин для производства чипов с точностью меньше микрометра.

С 2019 года притеснениям со стороны США подвергаются не только компании Huawei и SMIC. Производители систем видеонаблюдения Hikvision и Dahua тоже попали в немилость американских властей, поскольку теоретически могут предоставлять доступ к видеозаписям китайским государственным структурам. Теперь идею замены китайской инфраструктуры на более «политически безопасную» поддержали и британские парламентарии.

Источник изображения: Hikvision

Как поясняет Nikkei Asian Review со ссылкой на Reuters, в нижней палате британского парламента был одобрен законопроект, который подразумевает запрет на использование продукции китайских компаний Hikvision и Dahua в системах безопасности правительственных объектов, включая военные базы Соединённого Королевства. Палата общин Великобритании одобрила законопроект, и теперь он будет рассматриваться верхней палатой парламента, после чего обретёт статус действующего закона.

По данным британских властей, примерно одна треть контролируемых полицией Соединённого Королевства камер видеонаблюдения в Англии и Уэльсе выпущена китайской компанией Hikvision. Сами производители камер на момент публикации материала ещё не успели прокомментировать новую британскую законодательную инициативу, но ранее Dahua утверждала, что на протяжении шести лет осуществляет свою деятельность в Великобритании в полном соответствии с местными законами. Новые требования подразумевают, что специальный парламентский комитет будет получать ежегодный отчёт о ходе замены китайских камер на альтернативные в инфраструктуре британских государственных органов.

В 2020 году IBM на волне подъёма движения Black Lives Matter объявила об отказе продавать свою технологию распознавания лиц. Но вопреки своим собственным заявлениям компания заключила с британским правительством контракт на поставку такой системы, оцениваемый в $69,8 млн.

Источник изображения: Carson Masterson / unsplash.com

В июне 2020 года глава IBM Арвинд Кришна (Arvind Krishna) направил в американский Конгресс письмо, в котором, в частности, отметил: «IBM твердо выступает против и не станет одобрять использование каких-либо технологий, в том числе технологий распознавания лиц, предлагаемых другими поставщиками, для массовой слежки, составления профилей на основе расовой принадлежности, нарушения основных прав и свобод человека или любых целей, не соответствующих нашим ценностям и „Принципам доверия и прозрачности”». Впоследствии компания пошла дальше и призвала к введению в США норм экспортного контроля, которые не позволили бы применять системы распознавания лиц «для подавления инакомыслия, ущемления прав меньшинств или стирания основных запросов на конфиденциальность» даже за рубежом.

Тем не менее, в августе 2023 года IBM заключила с британским правительством контракт на сумму £54,7 млн ($69,8 млн) на разработку национальной биометрической платформы с функцией распознавания лиц, которой смогут пользоваться правоохранительные органы и иммиграционная служба, узнали журналисты американского ресурса The Verge и британской организации журналистских расследований Liberty Investigates. На начальных этапах Платформа сопоставления биометрии МВД (Home Office Biometrics Matcher Platform) Великобритании предусматривает функцию сопоставления отпечатков пальцев, а на более поздних уже предусматривает внедрение системы распознавания лиц для иммиграционной службы — в документах она описывается как «средство стратегического сопоставления лиц для правоохранительных органов». На финальных стадиях проекта речь идёт о функции «сопоставления лиц для использования правоохранительными органами».

Иными словами, речь идёт о сопоставлении фотографий людей с изображениями из базы данных — это называется системой сопоставления типа «один ко многим». В сентября 2020 года IBM напрямую указывала, что системы сопоставления «один ко многим» являются «типом технологии распознавания лиц, который, скорее всего, будет использоваться для массовой слежки, создания профилей на основе расовой принадлежности и прочих нарушений прав человека».

Источник изображения: Tumisu / pixabay.com

В IBM противоречия своих действий собственным заявлениям, кажется, не усматривают. Представитель компании Имтиаз Муфти (Imtiaz Mufti), в частности, заявил: «В соответствии с нашими обязательствами от 2020 года IBM более не предлагает [систем] распознавания лиц общего назначения, не поддерживает использования [систем] распознавания лиц для массового наблюдения, создания профилей на основе расовой принадлежности или прочих нарушений прав человека. <..> Платформа сопоставления биометрии МВД и контракт на связанные с ней услуги не используются для массового наблюдения. Она помогает полиции и иммиграционным службам идентифицировать подозреваемых по базе данных отпечатков и по данным фотографий. Она не способна производить захват видео, который обычно необходим для поддержки снятия биометрии у „лиц в толпе”».

Правозащитники раскритиковали позицию IBM, подчеркнув, что системы распознавания лиц типа «один ко многим» несовместимы с законами о правах человека, и компании следует в соответствии со своими заявлениями прекратить их продажи. Применение полицией подобных систем связывают с неправомерными арестами в США, а в Великобритании его правомерность оспаривалась в суде, напомнили The Verge и Liberty Investigates. В августе 2020 года Апелляционный суд Великобритании постановил, что применение полицией Южного Уэльса системы распознавания лиц нарушает право на неприкосновенность частной жизни и законы о равенстве. После вынесения этого решения полиция приостановила использование этой системы, но впоследствии к ней вернулась.

Моратории на продажи систем распознавания лиц полицейским управлениям США вслед за IBM ввели Amazon и Microsoft. В июне 2020 года был введён однолетний мораторий на продажу полиции системы Amazon Rekognition с намерением впоследствии продлить его на «неопределённый срок» — пресс-секретарь Amazon подтвердила, что он всё ещё действует. Тогда же, в июне 2020 года, Microsoft заявила, что также не станет продавать ПО для распознавания лиц полицейским управлениям США до тех пор, пока не выйдет федеральный закон, регулирующий использование этой технологии. В ответ на запрос The Verge и Liberty Investigates представитель Microsoft сослалась на информацию с сайта компании, где явно указано, что применение сервиса Azure AI Face «полицией штата или муниципальной полицией в США или для них запрещено политикой Microsoft». МВД Великобритании на запрос не ответило.

Правительство Великобритании выделит £100 млн ($127 млн) из средств налогоплательщиков на приобретение ИИ-чипов, стремясь сократить отставание от США и Евросоюза в объёме вычислительных ресурсов, необходимых для обучения, тестирования и эксплуатации сложных ИИ-моделей, а также стимулировать развитие британского сектора ИИ, пишет The Telegraph.

Источник изображения: Pixabay

Сообщается, что правительство ведёт переговоры с американскими производителями микрочипов NVIDIA, AMD и Intel о закупке чипов для использования в разработке технологий ИИ. По данным The Telegraph, возглавляющее переговоры Британское агентство по исследованиям и инновациям (UKRI) близко к заключению контракта с NVIDIA на поставку до 5000 GPU, используемых для обучения ИИ-моделей, таких как ChatGPT.

Увеличение финансирования на закупку ИИ-чипов является частью реализации планов премьер-министра Великобритании в области науки и технологий, при этом ИИ является ключевым направлением деятельности правительства Великобритании. Следует отметить, что до этого премьер-министр одобрил выделение £100 млн для рабочей группы по генеративному ИИ, а также утвердил национальную стратегию по развитию полупроводниковой промышленности. На реализацию стратегии будет выделено в течение десяти лет £1 млрд.

В ноябре Великобритания собирается провести глобальный саммит по безопасности ИИ, на котором, как ожидается, будут заключены международные соглашения между правительствами и ведущими компаниями в области искусственного интеллекта о разработке этой технологии.