Сегодня 10 октября 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Ведущие разработчики ИИ назвали свои продукты угрозой, сравнимой с пандемией и ядерной войной

Главы компаний OpenAI, Google DeepMind, Anthropic и других лабораторий искусственного интеллекта предупредили, что технологии, над которыми они работают, могут поставить под угрозу существование человечества, поэтому их следует отнести к категории социальных рисков наряду с пандемиями и ядерными войнами.

 Источник изображений: Gerd Altmann / pixabay.com

Источник изображений: Gerd Altmann / pixabay.com

«Снижение риска вымирания из-за ИИ должно быть глобальным приоритетом наравне с другими рисками общественного масштаба, такими как пандемии и ядерные войны», — гласит открытое письмо лидеров отрасли, состоящее всего из одного предложения. Как ожидается, документ будет опубликован некоммерческой организацией Center for AI Safety. Его подписали более 350 руководителей, исследователей и инженеров, работающих в сфере ИИ.

Среди подписантов, в частности, значатся: глава OpenAI Сэм Альтман (Sam Altman); глава подразделения Google DeepMind Демис Хассабис (Demis Hassabis); глава Anthropic Дарио Амодеи (Dario Amodei), а также Джеффри Хинтон (Geoffrey Hinton) и Йошуа Бенджио (Yoshua Bengio) — двое из трёх обладателей Премии Тьюринга, считающиеся «крёстными отцами» современного искусственного интеллекта, тогда как третий, Янн ЛеКун (Yann LeCun), возглавляющий исследования в области ИИ в Meta, на текущий момент подпись ещё не поставил.

В обществе действительно растёт обеспокоенность по поводу дальнейшего развития систем искусственного интеллекта. Есть мнение, что платформы масштаба ChatGPT смогут использовать для распространения дезинформации и пропаганды, кроме того, только в Европе и США из-за ИИ могут лишиться работы 300 млн человек. Эти опасения разделяют и лидеры отрасли, которые тем самым ставят сами себя в необычное положение: они утверждают, что разрабатываемые ими технологии представляют серьёзные риски и должны жёстко регулироваться государством.

Некоторые скептики уверяют, что технологии ИИ пока слишком незрелы, чтобы представлять ощутимую угрозу человечеству, поэтому следует сосредоточиться на вопросах краткосрочной перспективы — предвзятых и некорректных ответах систем ИИ. Другие же считают, что сравнимый с возможностями человека ИИ появится уже в ближайшем будущем. Во избежание возможных негативных последствий лидеры отрасли предлагают создать организацию, направленную на регулирование ИИ — это должен быть своего рода аналог Международного агентства по атомной энергии (МАГАТЭ), которое пытается не допустить распространение и применение ядерного оружия.

В марте более тысячи исследователей и представителей технологической отрасли подписали открытое письмо с призывом на полгода приостановить разработку передовых систем ИИ, объявив их угрозой человечеству. Очередной документ в оригинале содержит всего 22 слова — лаконичная формулировка призвана объединить экспертов, мнения которых могут расходиться по отдельным вопросам. «Думаю, если с этой технологией что-то пойдёт не так, то всё будет совсем не так. И мы хотим заявить об этом. Мы хотим сотрудничать с правительством, чтобы это предотвратить», — заявил глава OpenAI Сэм Альтман в ходе недавних слушаний в Конгрессе США.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Оригинальную версию стратегии Age of Empires III сняли с продажи в Steam, доступ к мультиплееру закроется 30 октября 46 мин.
Данные более 5 млн клиентов Burger King слили в открытый доступ 2 ч.
Selectel запустил бета-тестирование собственной инференс-платформы для ускорения запуска ИИ-моделей 2 ч.
«Яндекс» выпустил самостоятельное приложение для «Алисы», научил её рисовать и пообещал много новых функций с ИИ 3 ч.
Discord снова заработал у некоторых пользователей в России 4 ч.
Надёжный инсайдер: Overwatch взяла курс на мобильные устройства 4 ч.
Главный сценарист Starfield ответил на критику дополнения Shattered Space 5 ч.
Российскую мобильную ОС «Аврора» адаптируют для автомобилей, роутеров и других устройств 6 ч.
Продвинутый ИИ-художник Imagen 3 стал доступен всем пользователям Google Gemini 6 ч.
Над сообществом Steam опять нависла угроза блокировки в России, но, похоже, обошлось 6 ч.
Blue Owl купит за $1 млрд IPI Partners, владеющую 82 ЦОД 2 ч.
Micron представила новый логотип, вдохновлённый кремниевыми пластинами 3 ч.
MARA запустит микро-ЦОД с питанием от генераторов на попутном газе с нефтяных скважин США 3 ч.
Nvidia GeForce RTX 4090 подорожала на $200 и стала дефицитным товаром в преддверии выхода RTX 5090 4 ч.
iPhone 16 Pro по уровню спроса оказались на уровне предшественников, а вот iPhone 16 покупают хуже 5 ч.
Nvidia готовится к новым рекордам капитализации — акции выросли на 25 % в ожидании отчётов IT-гигантов 6 ч.
OpenAI не хватает мощностей ЦОД Microsoft, компания готова арендовать у Oracle 2-ГВт кампус 6 ч.
В Москве в районе Царицыно появится дата-центр площадью 35 тыс. кв м 6 ч.
Индустриальный мини-компьютер GigaIPC QBiX-ADNAN97-A1 оснащён чипом Intel Alder Lake-N 6 ч.
Samsung запустит производство 2-нм чипов небольшими партиями в начале 2025 года — 1,4-нм техпроцесс тоже не за горами 7 ч.