Сегодня 25 июня 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Угроза всему человечеству»: Маск, Возняк и более 1000 экспертов призвали остановить обучение нейросетей, превосходящих GPT-4

Илон Маск (Elon Musk), Стив Возняк (Steve Wozniak), а также более 1000 других экспертов в области искусственного интеллекта и представителей IT-индустрии призвали ввести полугодовой мораторий на обучение ИИ-систем, более производительных, чем недавно представленная модель GPT-4 компании OpenAI. В открытом письме они предупредили о потенциальных рисках для общества.

 Источник изображения: D koi/unsplash.com

Источник изображения: D koi/unsplash.com

Письмо опубликовано некоммерческим институтом Future of Life и подписано многими известными в IT-индустрии людьми. Все они призвали «поставить на паузу» разработку ИИ до того, как для отрасли будут разработаны общие протоколы и стандарты безопасности, применение которых будет проверяться независимыми аудиторами.

В письме подчёркивается, что мощные ИИ-системы должны разрабатываться только после того, как человечество будет уверено в позитивных последствиях такого развития и в том, что связанные с ними риски будут управляемыми. Также в письме упоминается о потенциальных угрозах для общества и цивилизации со стороны способных конкурировать с людьми ИИ-систем, что может привести к экономическим или политическим потрясениям. Разработчиков призывают тесно сотрудничать с регуляторами.

«Обширные исследования показали, что подобные системы с искусственным интеллектом, которые конкурируют с человеком, могут представлять серьезную опасность для всего человечества» — говорится в письме.

Письмо опубликовано после того, как к группе обеспокоенных развитием ИИ присоединился Европол, предупредивший о возможности злоупотребления злоумышленниками системами вроде ChatGPT — их можно использовать для фишинга, дезинформации и совершения киберпреступлений. Маск, чья компания Tesla довольно давно использует элементы искусственного интеллекта в своих системах автопилота, открыто и неоднократно выражал обеспокоенность опасностью ИИ-систем.

С момента релиза в прошлом году чат-бот ChatGPT компании OpenAI, поддерживаемой Microsoft, продемонстрировал такие качества, которые вынудили конкурентов срочно активизировать разработку собственных больших языковых моделей. В результате компании начали спешно интегрировать генеративный ИИ в свои продукты. Глава OpenAI Сэм Альтман (Sam Altman), по данным представителя Future of Life, письмо не подписывал, а в самой компании отказались от комментариев.

По словам одного из экспертов, необходимо замедлить соответствующие работы, пока человечество не начнёт лучше понимать последствия, поскольку ИИ-системы способны нанести серьёзный ущерб. Особенно с учётом того, что крупные игроки хранят в тайне информацию о том, над чем они работают — поэтому обществу будет трудно защититься в случае, если опасения оправдаются.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Спустя три года фанаты дождались анонса Farming Simulator 25 — дата выхода, первый трейлер и предзаказ в российском Steam 12 мин.
Apple включила RCS на iPhone с выпуском второй беты iOS 18, но работает функция пока не у всех 53 мин.
Роскомнадзор потребовал от Google и Opera заблокировать браузерное расширение для обхода блокировок 2 ч.
Сборник S.T.A.L.K.E.R. Legends of the Zone Trilogy на PlayStation и Xbox получил официальную поддержку модов 2 ч.
ЕС предъявил Microsoft обвинения в незаконной привязке Teams к Office — компании грозит многомиллионный штраф 2 ч.
Анонсирована новая игра в легендарной серии «Ил-2» — первый тизер и скриншоты «Корея. Серия Ил-2» 3 ч.
OpenAI отключит API ChatGPT для китайских компаний — местные аналоги ждут наплыва пользователей 4 ч.
Разработчики стильного боевика Stellar Blade впервые раскрыли продажи игры на PS5 и объяснили молчание о ПК-версии 4 ч.
Российские подростки по-прежнему предпочитают TikTok другим соцсетям 5 ч.
Запрет TikTok в США больно ударит по прибыли американской Oracle 6 ч.
Представлена обновлённая портативная колонка Beats Pill с автономностью на 24 часа, защитой IP67 и портом USB-C 2 ч.
Tesla отозвала более 11 000 пикапов Cybertruck из-за проблем с обшивкой кузова и стеклоочистителем 2 ч.
В России запустили самый точный отечественный квантовый процессор 2 ч.
В России значительно выросли продажи ноутбуков отечественных марок 3 ч.
Philips выпустила 31,5-дюймовый игровой монитор Evnia 32M2N8800 с разрешением 4K и частотой 240 Гц 3 ч.
Учёные научились отслеживать объекты с помощью одного пикселя — это упростит системы автопилота 4 ч.
Второй в Европе экзафлопсный суперкомпьютер Alice Recoque разместится во Франции, а его создание обойдётся в €544 млн 4 ч.
Скоро выйдут GeForce RTX 4070 Ti Super на флагманском графическом процессоре AD102 5 ч.
Загадочный заказчик запросил сразу 1,3 ГВт для своих ЦОД в Калифорнии 5 ч.
Sony позволила журналистам поиграть внутри прототипа электромобиля Afeela 6 ч.