Сегодня 02 октября 2023
18+
MWC 2018 2018 Computex IFA 2018
Новости Software

Ведущие разработчики ИИ назвали свои продукты угрозой, сравнимой с пандемией и ядерной войной

Главы компаний OpenAI, Google DeepMind, Anthropic и других лабораторий искусственного интеллекта предупредили, что технологии, над которыми они работают, могут поставить под угрозу существование человечества, поэтому их следует отнести к категории социальных рисков наряду с пандемиями и ядерными войнами.

 Источник изображений: Gerd Altmann / pixabay.com

Источник изображений: Gerd Altmann / pixabay.com

«Снижение риска вымирания из-за ИИ должно быть глобальным приоритетом наравне с другими рисками общественного масштаба, такими как пандемии и ядерные войны», — гласит открытое письмо лидеров отрасли, состоящее всего из одного предложения. Как ожидается, документ будет опубликован некоммерческой организацией Center for AI Safety. Его подписали более 350 руководителей, исследователей и инженеров, работающих в сфере ИИ.

Среди подписантов, в частности, значатся: глава OpenAI Сэм Альтман (Sam Altman); глава подразделения Google DeepMind Демис Хассабис (Demis Hassabis); глава Anthropic Дарио Амодеи (Dario Amodei), а также Джеффри Хинтон (Geoffrey Hinton) и Йошуа Бенджио (Yoshua Bengio) — двое из трёх обладателей Премии Тьюринга, считающиеся «крёстными отцами» современного искусственного интеллекта, тогда как третий, Янн ЛеКун (Yann LeCun), возглавляющий исследования в области ИИ в Meta, на текущий момент подпись ещё не поставил.

В обществе действительно растёт обеспокоенность по поводу дальнейшего развития систем искусственного интеллекта. Есть мнение, что платформы масштаба ChatGPT смогут использовать для распространения дезинформации и пропаганды, кроме того, только в Европе и США из-за ИИ могут лишиться работы 300 млн человек. Эти опасения разделяют и лидеры отрасли, которые тем самым ставят сами себя в необычное положение: они утверждают, что разрабатываемые ими технологии представляют серьёзные риски и должны жёстко регулироваться государством.

Некоторые скептики уверяют, что технологии ИИ пока слишком незрелы, чтобы представлять ощутимую угрозу человечеству, поэтому следует сосредоточиться на вопросах краткосрочной перспективы — предвзятых и некорректных ответах систем ИИ. Другие же считают, что сравнимый с возможностями человека ИИ появится уже в ближайшем будущем. Во избежание возможных негативных последствий лидеры отрасли предлагают создать организацию, направленную на регулирование ИИ — это должен быть своего рода аналог Международного агентства по атомной энергии (МАГАТЭ), которое пытается не допустить распространение и применение ядерного оружия.

В марте более тысячи исследователей и представителей технологической отрасли подписали открытое письмо с призывом на полгода приостановить разработку передовых систем ИИ, объявив их угрозой человечеству. Очередной документ в оригинале содержит всего 22 слова — лаконичная формулировка призвана объединить экспертов, мнения которых могут расходиться по отдельным вопросам. «Думаю, если с этой технологией что-то пойдёт не так, то всё будет совсем не так. И мы хотим заявить об этом. Мы хотим сотрудничать с правительством, чтобы это предотвратить», — заявил глава OpenAI Сэм Альтман в ходе недавних слушаний в Конгрессе США.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

✴ Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

window-new
Soft
Hard
Тренды 🔥
Биткоин вырос до шестинедельного максимума в преддверии суда над основателем скандальной FTX 8 мин.
Сергей Галёнкин ушёл из Epic Games, потому что больше ей не подходит 51 мин.
Менеджер списков Microsoft Lists стал доступен для всех желающих 2 ч.
«И вот этого я ждал три года?»: проблемный шутер Kingpin: Reloaded наконец получил дату выхода, но новый трейлер разочаровал фанатов 3 ч.
«Астра» станет первым российским разработчиком инфраструктурного ПО, который проведёт IPO 4 ч.
BlackBerry продолжает нести убытки 5 ч.
Starfield «намеренно сделана так, чтобы в неё играли долгое время» — новый контент планируется на пять лет вперёд 6 ч.
Google наделит ИИ-чат-бота Bard памятью для более личного общения с пользователями 6 ч.
Российские разработчики и дистрибьюторы предложили правительству идеи по продвижению отечественных игр за рубежом 7 ч.
Вышел новый трейлер Combustion — дизельпанкового ролевого экшена «давно минувших дней 1997 года» 8 ч.
Swissbit выпустила SSD серии N5200 в форматах U.2 и E1.S вместимостью до 7,68 Тбайт 4 мин.
Google представила Chromebook Plus — переосмысленные хромбуки с ИИ и повышенной производительностью по цене от $399 42 мин.
Настольная GeForce RTX 3060 наконец стала самой популярной видеокартой в Steam 47 мин.
Производство электромобилей Tesla упало на 10 % в прошлом квартале, но так и было задумано 3 ч.
Обещания Маска снова не сбылись: Tesla не начала поставки Cybertruck до конца третьего квартала 4 ч.
Google, Netflix и других IT-гигантов захотели заставить оплачивать развитие сетей связи в Европе 5 ч.
AMD представила ускоритель Alveo UL3524 для брокерских и биржевых приложений 5 ч.
LiquidStack представила модульные иммерсионные СЖО-платформы для edge-приложений 6 ч.
У российского антишпионского смартфона «Р-ФОН» нашёлся брат-близнец из Бангладеш 6 ч.
TSMC упростила создание чипов со сложной 3D-компоновкой с помощью нового инструментария 3Dblox 2.0 7 ч.