Комиссия Конгресса США накануне выдвинула инициативу масштаба Манхэттенского проекта — она направлена на финансирование разработки систем так называемого «сильного искусственного интеллекта» (AGI), которые смогут выступать на уровне человека или превосходить его.

Источник изображения: Igor Omilaev / unsplash.com

Комиссия по надзору за вопросами экономики и безопасности в отношениях США и Китая (USCC) в американском Конгрессе отметила, что залогом успеха в разработке сильного искусственного интеллекта являются государственно-частные партнёрства, но пока не представила конкретной инвестиционной стратегии. Схожим образом во время Второй мировой войны был устроен проект «Манхэттен», в основу которого легло крупномасштабное сотрудничество между правительством США и частным сектором — итогом работы проекта стало создание атомной бомбы.

«На протяжении всей истории мы видели, что страны, которые первыми использовали периоды быстрых технологических изменений, часто могли вызывать изменения в глобальном балансе сил. <..> Китай устремился к AGI <..> важно, чтобы мы воспринимали их чрезвычайно серьёзно», — заявил Reuters член USCC Джейкоб Хелберг (Jacob Helberg).

Значительным фактором, сдерживающим обучение крупных моделей ИИ, является энергетическая инфраструктура. Ускорить развитие, по мнению господина Хелберга, может оптимизация процесса выдачи разрешительной документации для центров обработки данных — это будет примером такого государственно-частного партнёрства. USCC была создана Конгрессом в 2000 году — комиссия ежегодно выдвигает рекомендации, касающиеся отношений США и Китая; её задача состоит в том, чтобы задавать законодателям отвечающее реалиям времени направление по вопросам экономической и стратегической конкуренции с Китаем.

Президент Microsoft Брэд Смит (Brad Smith) накануне был вызван в Комитет по внутренней безопасности Палаты представителей для дачи показаний по поводу того, что из-за методов работы компании её государственные клиенты оказались подвержены риску безопасности.

Парламентариев интересовали планы софтверного гиганта по улучшению безопасности своих систем — потребность в этом стала очевидной в минувшем году, когда произошла серия взломов учётных записей электронной почты федеральных чиновников США, поставившая под сомнение профпригодность компании как основного государственного подрядчика. Федеральный совет по надзору за кибербезопасностью установил, что инцидент оказался возможным из-за «каскада предотвратимых ошибок» и корпоративной культуры безопасности, «которая требует пересмотра».

В ходе серии взломов лица, предположительно связанные с Министерством государственной безопасности Китая, с помощью некоего инструмента создали цифровые ключи, позволившие им выдавать себя за любого из существующих клиентов Microsoft. Они выдавали себя за сотрудников 22 организаций, включая Государственный департамент и Министерство торговли США, и читали электронную почту главы Минторга Джины Раймондо (Gina Raimondo), а также других лиц. Инцидент вызвал самую резкую за несколько десятилетий критику в адрес неизменного государственного подрядчика; конкурирующие компании и некоторые органы власти призвали уменьшить зависимость правительства от Microsoft.

Источник изображения: blogs.windows.com

В прошлом месяце двое сенаторов направили в Пентагон письмо с вопросом, почему ведомство намеревается повысить техническую безопасность несекретных систем Министерства обороны, закупив дорогие лицензии Microsoft, а не более дешёвые решения других поставщиков. На слушаниях у Брэда Смита спросили, какими могут быть риски зависимости военных от одного поставщика. Тот ответил, что окружение с несколькими поставщиками не менее рискованно, поскольку хакерам легче проникнуть через «швы», где соединяются две системы. Он также не дал прямого ответа, когда ему задали вопрос об эксперте по безопасности Microsoft, который неоднократно сообщал об уязвимости в системах компании, ранее использовавшейся при взломе систем другого поставщика. Смит ответил, что не читал статью об этом, а уязвимость была связана с отраслевым стандартом, но не конкретным продуктом Microsoft.

Не обошлось без вопросов о Китае, который, по словам господина Смита, приносит Microsoft 1,5 % дохода. Софтверный гигант работает в Китае преимущественно для обслуживания других американских компаний и не подчиняется закону, требующему, чтобы все организации оказывали содействие местным органам госбезопасности и вооружённым силам. Смит рассказал о новой посвящённой вопросам безопасности инициативе в Microsoft — в текущем финансовом году к работе по данному направлению привлекли 1600 профильных инженеров, и ещё 800 должностей добавятся в будущем году. Президент заверил, что безопасность стала приоритетом в компании, и обязался выполнять рекомендации созданного Белым домом наблюдательного совета как для Microsoft, так и для отрасли в целом.

Показания Брэда Смита вызвали недоумение у представителей общественности, которые напомнили, что Microsoft недавно анонсировала функцию Recall для Windows — она делает снимки экрана каждые несколько секунд и сохраняет их, позволяя пользователям восстанавливать свои прошлые действия. В компании заверили, что доступ к истории действий на компьютере будет только у самого пользователя, и данные станут храниться локально. Но любой обладатель прав администратора на компьютере сможет шпионить за всеми, кто за ним работает, а хакеры в случае взлома смогут экспортировать и читать файлы, учётные данные финансовых систем, а также зашифрованные сообщения. Microsoft отказывалась комментировать эти утверждения более недели, после чего пообещала добавить средства безопасности для функции Recall. После выступления господина Смита в Конгрессе компания сообщила, что отложит её развёртывание.

Группа художников обратилась с открытым письмом к Конгрессу США, утверждая, что генеративный ИИ может стать полезным инструментом в сфере искусства. Они настаивают на том, чтобы творческое сообщество было вовлечено в обсуждение регулирования данной технологии. Также художники видят в ИИ инструмент, снижающий барьеры для входа в профессию, но выражают опасения относительно возможного негативного восприятия произведений, созданных при помощи искусственного разума.

Источник изображения: Jackson_Toonz / Pixabay

В последние годы активно обсуждается вопрос влияния ИИ на различные сферы человеческой деятельности, включая искусство. Недавно группа художников написала открытое письмо Конгрессу США, в котором аргументированно защитила применение генеративного ИИ в сфере искусства, подчеркнув, что современные технологические инструменты используются в музыке, искусстве и других медиа уже десятилетиями.

В письме художники акцентировали внимание на том, что ИИ может снизить барьеры для входа в сферу искусства, традиционно доступную лишь обеспеченным людям с правильными социальными связями. Однако они также выразили опасение, что работа ИИ может быть неверно интерпретирована как простое воспроизведение существующих работ или даже как кража данных.

Авторы письма призвали власти включить их в диалог о регулировании генеративного ИИ, чтобы избежать эксплуатации труда художников крупными корпорациями и другими структурами.

Тем не менее, письмо также вызвало критику. Некоторые утверждают, что оно недостаточно освещает серьёзные проблемы, связанные с созданием ИИ-систем через массовое нарушение авторских прав, что позволяет компаниям использовать работы художников для коммерческой выгоды без их согласия и выплаты вознаграждений.

Открытое письмо художников Конгрессу США подчёркивает необходимость баланса между инновациями и защитой прав создателей контента в эпоху цифровизации искусства. Стоит надеяться, что государство прислушается к мнению профессионального сообщества, стремящегося создать более разнообразную и представительную группу консультантов по вопросам ИИ.

Для работников Конгресса США установлен ряд ограничений по использованию ChatGPT. Можно использовать лишь платную версию ChatGPT Plus, так как там применяется более строгие правила конфиденциальности, и только в целях «исследований и оценки». В повседневной работе использовать чат-бот запрещено. Об этом сообщило издание Axios со ссылкой на служебную записку за подписью главы администрации Палаты представителей Кэтрин Шпиндор (Catherine Szpindor). Правила действуют и в отношении других ИИ-ботов.

Источник изображения: David / pixabay.com

Подразделениям Палаты представителей разрешается использовать чат-боты, основанные на алгоритмах искусственного интеллекта, на условии передачи им только общедоступной информации даже при подключении в рамках платной подписки. При этом в настройках учётной записи вручную должны устанавливаться особые настройки конфиденциальности, чтобы ИИ-модель не получала лишней информации. Работа с ChatGPT и другими аналогичными моделями в рамках бесплатных тарифов не допускается.

Ограничения или полный запрет на использование сотрудниками ChatGPT сейчас вводят многие государственные организации и частные компании. Samsung запретила подключаться к таким платформам с любых устройств из корпоративной сети; аналогичные меры вводятся и в учебных заведениях, где опасаются плагиата. Вероятно, аналогичными соображениями руководствуются и в Конгрессе — там не хотят допустить, чтобы ИИ писал законопроекты или речи. И едва ли эта инициатива столкнётся с противодействием со стороны парламентариев или их подчинённых: госрегулирование сферы ИИ сейчас прорабатывается в США и ряде других стран. Идею поддерживают даже разработчики самих ИИ-платформ.

Претензии Федеральной торговой комиссии США (FTC) к Twitter возникли задолго до покупки платформы Илоном Маском (Elon Musk). Теперь же американские власти пролили свет на вопросы, которые возникали у ведомства в последние месяцы: регулятора интересуют возможности платформы по обеспечению безопасности пользовательских данных, разработка подписки Twitter Blue и, конечно, отчёт о действиях нового руководства компании.

Источник изображения: Souvik Banerjee / unsplash.com

Информацию о запросах FTC к Twitter раскрыл (PDF) один из подкомитетов Палаты представителей Конгресса США: как выяснилось, с момента приобретения компании Маском ведомство отправило в Twitter более десятка писем с различными требованиями. Соцсеть взяла на себя дополнительные обязательства перед FTC для урегулирования двух расследований от 2011 и 2022 гг., в частности, пообещав разработать и задокументировать «всестороннюю программу по защите конфиденциальности и информационной безопасности» пользователей.

Но после перехода Twitter в собственность Маска соцсеть перестала проводить выплаты компании Collibra — она разработала ПО, которым пользовались представители ранее пострадавших от действий Twitter пользователей, чтобы следить за тем, как администрация платформы выполняет возложенные на неё обязательства. Когда в компании начались массовые увольнения, штатный юрист предостерёг её работников об опасности «многомиллиардных» штрафов за нарушения договорённостей. В ответ на это Маск обратился к подчиненным с электронным письмом, в котором заявил: «Не могу не подчеркнуть, что Twitter сделает всё возможное, чтобы исполнить требования как буквы, так и духа договорённости с FTC. Всё, что вы читаете об обратном, является неприкрытой ложью. То же касается любых других мер госрегулирования, по которым работает Twitter».

Источник изображения: Brett Jordan / unsplash.com

FTC регулярно запрашивала у руководства соцсети различную информацию: электронные письма, касающиеся Маска и самой компании, журналы переписки в корпоративном мессенджере Slack, информацию о бывшем заместителе главного юрисконсульта Twitter Джиме Бейкере (Jim Baker) и даже подробности о продаже компанией своих компьютеров и офисной техники. Ведомство также запросило имена журналистов и других представителей СМИ, которым соцсеть предоставляла доступ к журналам чатов Slack, внутренним документам и другим ресурсам — опубликовавшим доклад парламентариям эти требования показались чрезмерными.

В ответ на это представитель FTC Дуглас Фаррар (Douglas Farrar) заявил, что запросы были сделаны в рамках договорённостей, возникших ещё до появления Маска в Twitter. В частности, ведомству был предоставлен доступ к любой информации, которой компания делится с любыми третьими сторонами.

Президент США опубликовал статью с призывом к представителям Республиканской и Демократической партий на время забыть о разногласиях и разработать законопроект, который ограничит деятельность технологических гигантов, не назвав ни одной компании напрямую.

Источник изображения: whitehouse.gov

Глава государства обозначил три области, требующие наиболее оперативного вмешательства, и в первую очередь это вопрос конфиденциальности. По его мнению, необходимо ввести жёсткие ограничения в работу технологических компаний с такими типами личной информации как местоположение, история просмотров и сообщений, а также медицинские, биометрические и генетические данные — значительную часть этого компании вообще не должны собирать. Ещё один важный вопрос здесь — целевая реклама в интернете. Президент США считает, что её алгоритмы также должны быть ограничены, а применительно к детям её необходимо полностью запретить.

Далее автор статьи коснулся вопроса контента и рекомендательных алгоритмов в соцсетях. В преддверии выборов 2020 года он пообещал с приходом к власти отменить действие закона, снимающего ответственность с владеющих соцсетями компаний за деятельность пользователей — этого так и не произошло, хотя законодатели несколько раз пытались ограничить эту норму. Глава американского государства также считает, что крупные технологические компании должны повысить прозрачность в отношении рекомендательных алгоритмов: недопустимы любые формы дискриминации или распространения потенциально опасного контента среди детей.

Третья обозначенная президентом США область — конкуренция в технологической отрасли. Он отметил, что по мере роста компании изыскивают способы продвигать свои продукты, ставя конкурентов в невыгодное положение или вообще исключая их, тогда как здоровая экономика предполагает возможность для всех конкурировать на равных с крупнейшими игроками. В частности, он призвал Федеральную комиссию по связи (FCC) восстановить действие принципов сетевого нейтралитета и заявил, что слияния в технологической отрасли будут подвергаться более тщательной проверке. Однако возможности исполнительной власти ограничены, поэтому необходимо активное участие законодателей, и для эффективной работы им необходимо забыть о разногласиях между крупнейшими в стране партиями.