Новости Software

Глава Google объяснил, почему сферу ИИ необходимо регулировать

Исполнительный директор Alphabet и Google Сундар Пичай (Sundar Pichai) опубликовал большую статью на авторитетном ресурсе Financial Times, в которой неожиданно рассказал о том, что необходимы законы, чтобы регулировать сферу развития технологий искусственного интеллекта.

AFP / Getty Images

AFP / Getty Images

Руководитель начал благодушно: «Когда я рос в Индии, я был очарован технологиями. Каждое новое изобретение значительным образом изменяло жизнь моей семьи. Телефон спас нас от долгих поездок в больницу за результатами анализов. Холодильник означал, что мы могли тратить меньше времени на приготовление еды, а телевидение позволяло видеть мировые новости и матчи по крикету, которые мы только представляли себе, слушая коротковолновое радио.

Теперь я имею честь помогать определять развитие новых технологий, которые, как мы надеемся, изменят жизнь людей повсеместно. Одним из наиболее перспективных направлений является искусственный интеллект: только в этом месяце было три примера того, как Alphabet и Google раскрывают потенциал ИИ. Журнал Nature опубликовал наше исследование, показывающее, что модель искусственного интеллекта может помочь врачам с бо́льшей точностью выявлять рак молочной железы на маммограммах; мы используем ИИ для немедленных очень локальных прогнозов осадков быстрее и точнее, чем существующие модели в рамках более широкого набора инструментов для борьбы с изменением климата; а Lufthansa Group работает с нашим облачным подразделением в рамках тестирования применения ИИ для снижения задержек авиарейсов».

Но затем он напомнил, что есть масса примеров, когда технологии приносят с собой и существенный вред. Например, двигатели внутреннего сгорания позволили людям не только путешествовать на дальние расстояния, но также привели к росту несчастных случаев. Интернет позволил общаться с кем угодно и получать информацию из любого места, но также и массово распространять дезинформацию. Всё это, по мнению господина Пичая, уроки, которые нужно принимать во внимание: существуют объективные опасения по поводу потенциальных негативных последствий распространении ИИ, начиная от изощрённых подделок до использования распознавания лиц злоумышленниками. И хотя уже проделана определённая работа для решения этих проблем, их неизбежно возникнет ещё больше, и ни одна компания или даже отрасль не смогут справиться с ними в одиночку.

ЕС и США уже начинают разрабатывать законодательную базу, и международное согласование этой сферы будет иметь важное значение для обеспечения работы общемировых стандартов на основе общих ценностей. По мнению Сундара Пичая, компании вроде Google не могут просто создать многообещающую перспективную технологию и позволить рынку решить, как она будет использоваться: они также обязаны следить за тем, чтобы технологии использовались во благо и были доступны каждому.

Vjeran Pavic / The Verge

Vjeran Pavic / The Verge

«Теперь я не сомневаюсь, что искусственный интеллект необходимо регулировать. Вопрос слишком важен, чтобы закрыть на него глаза. Дело только в том, как подойти к проблеме, — подчеркнул он. — Вот почему в 2018 году Google опубликовала наши собственные принципы ИИ, призванные помочь этичному развитию и использованию технологии. Эти рекомендации помогают избежать предвзятости, тщательно проверять безопасность, осуществлять разработку с приоритетом конфиденциальности и делать технологию подотчётной людям. Они также указывают области, в которых мы не будем разрабатывать или развёртывать ИИ: например, для поддержки массового наблюдения или нарушения прав человека».

Но глава Alphabet также считает, что принципы не должны просто оставаться на бумаге: потому Google создала рабочие инструменты и сделала их открытыми: компания проверяет выводы ИИ на благоприятность для общества и проводит независимые оценки новых продуктов с точки зрения прав человека. Google полагает, что любая компания, разрабатывающая новые инструменты ИИ, должна тоже руководствоваться определёнными нормами и проводить продукты через строгие процедуры проверки.

«Государственное регулирование тоже будет играть важную роль. Нам не нужно начинать с нуля. Существующие правила, такие как Европейское общее положение о защите данных, могут служить прочной основой. Хорошая нормативно-правовая база будет учитывать безопасность, объяснимость, справедливость и ответственность, дабы гарантировать, что мы разрабатываем правильные инструменты правильными способами. Разумное регулирование должно основываться на пропорциональном подходе, уравновешивая потенциальный вред, особенно в областях высокого риска, с социальными возможностями», — считает руководитель.

Регулирование начнётся с общих принципов и постепенно будет развиваться в различных секторах. При возникновении новых областей применения, таких как автомобили с автономным управлением, правительствам придётся создавать новые правила, учитывающие все издержки и выгоды. Google начала с признания необходимости принципиального и регламентированного подхода к применению ИИ, но на этом он не собирается останавливаться: компания хочет быть полезным партнёром для регуляторов в преодолении неизбежной напряжённости и принятии компромиссов.

«Мы предлагаем наши знания, опыт и инструменты для совместного решения этих проблем. Технологии ИИ обладают потенциалом для улучшения жизней миллиардов людей, и самая большая опасность состоит в том, что этого не произойдёт. Обеспечивая ответственное и полезное для всех развитие ИИ, мы можем вдохновить будущие поколения поверить в силу технологий так же, как и я когда-то», — завершил свою программную публикацию глава одной из самых влиятельных компаний в Сети.

Все поднятые Сундаром Пичаем проблемы и вопросы, поставленные задачи в сфере развития искусственного интеллекта, на первый взгляд выглядят оправданными и необходимыми. Однако стоит учитывать, что слишком сильное регулирование будет неизбежно душить деятельность небольших начинающих компаний, которых можно будет утопить в исках за нарушение этики, высоких стандартов безопасности и так далее. При этом гиганты вроде Alphabet могут позволить себе и огромный штат специалистов, и влиятельную команду юристов, и выделение огромных средств на лоббирование своих интересов в законодательной области. А вот мелким компаниям в перспективной и потенциально очень прибыльной отрасли будет крайне трудно пробиться наверх. Возможно в этом и состоит настоящая цель благих инициатив Alphabet по скорейшему жёсткому регулированию быстрорастущего рынка технологий искусственного интеллекта?

Vjeran Pavic / The Verge

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
Прежде чем оставить комментарий, пожалуйста, ознакомьтесь с правилами комментирования. Оставляя комментарий, вы подтверждаете ваше согласие с данными правилами и осознаете возможную ответственность за их нарушение.
Все комментарии премодерируются.
Комментарии загружаются...
window-new
Soft
Hard
Тренды 🔥