Первые атаки ИИ-агентов — лишь «предупредительные выстрелы», предупредил бывший глава Google DeepMind

Недавние инциденты со взломами ресурсов, совершенными агентами искусственного интеллекта — это «предупредительные выстрелы», и если системы не станут более защищёнными, мир вскоре может столкнуться с более серьёзными происшествиями. Об этом заявил соучредитель и бывший глава Google DeepMind Демис Хассабис (Demis Hassabis).

Выход ИИ-агентов из-под контроля, в том числе случаи со взломом корпоративных сетей и недавний инцидент, в ходе которого модель ИИ направила в полицию не соответствующее действительности сообщение об убийстве — усилило опасения по поводу стремительного развития технологий. Отрасли предстоит «огромная работа» по внедрению передовых методов защиты критически важных систем, подобных тем, что применяются в биологии или атомной энергетике; потребуется создать и международный орган по стандартизации, считает господин Хассабис.

«Думаю, эти [инциденты со взломом] служат для нас первыми предупредительными выстрелами; системы пока не настолько мощны, поэтому и последствия инцидентов не столь масштабны. Но в следующем году или в ближайшие пару лет ситуация может измениться, если мы как отрасль, отдельные компании или правительства не уделим больше внимания безопасности этих систем», — заявил основатель Google DeepMind.

Создание международного органа, по его мнению, представляется очевидным шагом — такой орган должен действовать гибко и взвешенно, чтобы не сдерживать инновации. «Нам необходимо выстраивать такую систему сертификации, которая была бы соразмерна выявленным нами рискам и могла бы быстро адаптироваться к изменениям в развитии технологий», — добавил Демис Хассабис.