MWC 2018
2018
Computex
IFA 2018
Ведущие технологические компании стремятся создать сверхразумный ИИ, невзирая на последствия создания чего-то гораздо более умного, чем люди. На фоне этого сотни публичных деятелей из мира технологий, политики, СМИ, образования, религии и даже королевской семьи подписали открытое письмо с призывом запретить разработку сверхразума до тех пор, пока не будут выполнены определённые условия.
Источник изображения: TechSpot
Среди более 1000 подписавших — два «крёстных отца ИИ» — Джеффри Хинтон (Geoffrey Hinton) и Йошуа Бенджио (Yoshua Bengio). В списке также присутствуют соучредитель Apple Стив Возняк (Steve Wozniak) и основатель Virgin Group Ричард Брэнсон (Richard Branson).
Письмо также подписали бывший главный стратег президента США Дональда Трампа (Donald Trump) Стив Бэннон (Steve Bannon), бывший председатель Объединённого комитета начальников штабов Майк Маллен (Mike Mullen), американский консерватор Гленн Бек (Glenn Beck), актёр Джозеф Гордон-Левитт (Joseph Gordon-Levitt) и музыканты Will.I.am и Grimes. Даже принц Гарри и Меган, герцог и герцогиня Сассекские, решительно поддерживают эту тему.
В письме содержится призыв запретить разработку сверхразумного ИИ до тех пор, пока не будет достигнут широкий научный консенсус о том, что это будет безопасно и контролируемо, а также не будет получена мощная общественная поддержка.
В заявлении, подготовленном группой по безопасности ИИ Future of Life Institute (FLI), признаётся, что инструменты ИИ могут обеспечить беспрецедентный прогресс в области здоровья и качества жизни. Однако цель компаний, как утверждают авторы открытого письма, — создать в ближайшее десятилетие сверхразум, способный значительно превзойти всех людей практически по всем когнитивным задачам, что не может не вызывать опасений.
Активисты указывают на то, что ИИ в конечном счёте займёт наши рабочие места, что приведёт к экономическому устареванию человечества, лишению гражданских прав и свобод, достоинства и контроля, а также к рискам для национальной безопасности. Также упоминается возможность полного вымирания человечества.
На прошлой неделе FLI заявила, что OpenAI направила ей и её президенту повестки в суд в ответ на призывы к контролю над ИИ. Сэм Альтман (Sam Altman) недавно дал ещё один прогноз относительно сроков появления сверхразума. По мнению главы OpenAI, технология будет реализована к 2030 году. Он добавил, что до 40 % экономических задач, которыми сегодня занимаются люди, в недалёком будущем будут переданы ИИ.
Компания Meta✴ также стремится к созданию сверхинтеллекта. Её генеральный директор Марк Цукерберг (Mark Zuckerberg) заявил, что проект близок к реализации и «расширит возможности» людей. Как отмечает портал TechSpot, недавно компания реструктурировала своё подразделение Meta✴ Superintelligence Labs, разделив его на четыре небольшие группы, так что внедрение технологии может оказаться более отдалённой перспективой, чем предсказывал Цукерберг.
В конечном счёте маловероятно, что это письмо побудит компании, занимающиеся разработкой ИИ, замедлить работу над сверхинтеллектом. Аналогичное письмо, подписанное главой SpaceX и Tesla Илоном Маском (Elon Musk) в 2023 году, не имело практически никакого эффекта.
Источник:
