MWC 2018
2018
Computex
IFA 2018
Сотрудники Google и OpenAI опубликовали открытое письмо «Мы не будем разделены», собравшее почти 900 подписей, с призывом к более строгим ограничениям на использование искусственного интеллекта военными. Напряжённость в технологической индустрии возросла в последние несколько дней после того, как Министерство обороны США внесло технологии Anthropic в чёрный список.
Свои подписи под письмом поставили около ста работников OpenAI и около восьмисот сотрудников Google. В письме критикуются действия Министерства обороны США против компании Anthropic, которая отказалась разрешить использование своих технологий для массового наблюдения или создания полностью автономного оружия.
«Они пытаются разделить каждую компанию, надеясь, что другая уступит, — говорится в письме. — Эта стратегия работает только в том случае, если никто из нас не знает, какова позиция другой стороны. Это письмо призвано создать взаимопонимание и солидарность перед лицом этого давления со стороны Министерства обороны».
Напряжённость в технологической отрасли нарастает уже несколько месяцев. Работники отрасли требуют большей прозрачности в отношении работы, которую их работодатели выполняют с правительством, особенно в отношении контрактов на облачные технологии и искусственный интеллект. Для Google последняя волна критики связана с тем, что компания, как сообщается, ведёт переговоры с Пентагоном о внедрении своей модели ИИ Gemini в секретную военную систему.
Источник изображения: unsplash.com
В пятницу группа No Tech For Apartheid, которая давно критикует сделки по облачным технологиям между правительством США и технологическими гигантами, опубликовала совместное заявление под названием «Amazon, Google, Microsoft должны отклонить требования Пентагона». Эти компании, по мнению правозащитников, должны отказаться от условий Министерства обороны, которые позволят осуществлять массовое наблюдение или иное неправомерное использование ИИ.
Группа прямо указала на Google, сославшись на потенциальную сделку с Пентагоном, которая может быть аналогична соглашению, позволяющему Министерству обороны развёртывать Grok от xAI «в секретных средах — насколько нам известно, без каких-либо ограничений». В то время как Anthropic и OpenAI сделали публичные заявления относительно своих переговоров с Министерством обороны, Alphabet, материнская компания Google, хранит молчание.
Сотни сотрудников технологических компаний подписали открытое письмо в поддержку Anthropic, призывающее Министерство обороны отменить присвоение компании статуса «риска для цепочки поставок». В список подписантов вошли десятки сотрудников OpenAI, а также работники таких компаний, как Salesforce, Databricks, IBM и Cursor. В письме содержится призыв к Конгрессу «изучить вопрос о целесообразности использования этих чрезвычайных полномочий против американской технологической компании».
Аналогичные опасения высказывались внутри Google на прошлой неделе, когда более 100 сотрудников, работающих над технологиями искусственного интеллекта, обратились к руководству, выразив опасения по поводу сотрудничества компании с Министерством обороны. Сообщается, что они попросили провести те же «красные линии», что ранее сделала Anthropic.
Источник изображения: Axios
Главный научный сотрудник Google Джефф Дин (Jeff Dean) считает, что «массовое наблюдение нарушает Четвёртую поправку и оказывает сдерживающее воздействие на свободу выражения мнений», а системы слежки «склонны к злоупотреблениям в политических или дискриминационных целях».
Похоже, что далеко не все менеджеры Google согласны с ним. В 2018 году компания пережила настоящий бунт тысяч сотрудников из-за проекта Maven, программы Пентагона, которая использовала ИИ для анализа видеозаписей с дронов. Позже компания разработала свои «Принципы ИИ», определяющие порядок использования этих технологий.
Тем не менее, ситуация продолжает вызывать беспокойство. В 2024 году Google уволила более 50 сотрудников после протестов по поводу проекта Nimbus, совместного контракта с Amazon на сумму $1,2 млрд на работу с правительством Израиля. Хотя руководители утверждали, что контракт не нарушает ни один из «Принципов ИИ», документы и отчёты показывают, что это соглашение позволяло предоставлять Израилю инструменты ИИ, включая категоризацию изображений, отслеживание объектов и положения для государственных производителей оружия.
Сообщается, что в начале прошлого года Google пересмотрела свои принципы в области искусственного интеллекта и удалила формулировки, которые прямо запрещали «создание оружия» или «технологий слежки».
Источник:
