Сегодня 14 июля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Угроза всему человечеству»: Маск, Возняк и более 1000 экспертов призвали остановить обучение нейросетей, превосходящих GPT-4

Илон Маск (Elon Musk), Стив Возняк (Steve Wozniak), а также более 1000 других экспертов в области искусственного интеллекта и представителей IT-индустрии призвали ввести полугодовой мораторий на обучение ИИ-систем, более производительных, чем недавно представленная модель GPT-4 компании OpenAI. В открытом письме они предупредили о потенциальных рисках для общества.

 Источник изображения: D koi/unsplash.com

Источник изображения: D koi/unsplash.com

Письмо опубликовано некоммерческим институтом Future of Life и подписано многими известными в IT-индустрии людьми. Все они призвали «поставить на паузу» разработку ИИ до того, как для отрасли будут разработаны общие протоколы и стандарты безопасности, применение которых будет проверяться независимыми аудиторами.

В письме подчёркивается, что мощные ИИ-системы должны разрабатываться только после того, как человечество будет уверено в позитивных последствиях такого развития и в том, что связанные с ними риски будут управляемыми. Также в письме упоминается о потенциальных угрозах для общества и цивилизации со стороны способных конкурировать с людьми ИИ-систем, что может привести к экономическим или политическим потрясениям. Разработчиков призывают тесно сотрудничать с регуляторами.

«Обширные исследования показали, что подобные системы с искусственным интеллектом, которые конкурируют с человеком, могут представлять серьезную опасность для всего человечества» — говорится в письме.

Письмо опубликовано после того, как к группе обеспокоенных развитием ИИ присоединился Европол, предупредивший о возможности злоупотребления злоумышленниками системами вроде ChatGPT — их можно использовать для фишинга, дезинформации и совершения киберпреступлений. Маск, чья компания Tesla довольно давно использует элементы искусственного интеллекта в своих системах автопилота, открыто и неоднократно выражал обеспокоенность опасностью ИИ-систем.

С момента релиза в прошлом году чат-бот ChatGPT компании OpenAI, поддерживаемой Microsoft, продемонстрировал такие качества, которые вынудили конкурентов срочно активизировать разработку собственных больших языковых моделей. В результате компании начали спешно интегрировать генеративный ИИ в свои продукты. Глава OpenAI Сэм Альтман (Sam Altman), по данным представителя Future of Life, письмо не подписывал, а в самой компании отказались от комментариев.

По словам одного из экспертов, необходимо замедлить соответствующие работы, пока человечество не начнёт лучше понимать последствия, поскольку ИИ-системы способны нанести серьёзный ущерб. Особенно с учётом того, что крупные игроки хранят в тайне информацию о том, над чем они работают — поэтому обществу будет трудно защититься в случае, если опасения оправдаются.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
Прежде чем оставить комментарий, пожалуйста, ознакомьтесь с правилами комментирования. Оставляя комментарий, вы подтверждаете ваше согласие с данными правилами и осознаете возможную ответственность за их нарушение.
Все комментарии премодерируются.
Комментарии загружаются...

window-new
Soft
Hard
Тренды 🔥
Сотрудники OpenAI обвинили компанию в препятствовании огласке о рисках ИИ 15 ч.
Новая статья: Anger Foot — где мои кроссовки? Рецензия 21 ч.
Новая статья: Gamesblender № 682: закрытие авторов «Готики», подорожание Game Pass и маркировка игр в России 22 ч.
MWS увеличила выручку от облака в I квартале на 32 % 23 ч.
Razer добавила киберспортивным мышам динамическую чувствительность и поддержку движения под углом 13-07 17:58
ИИ повышает индивидуальную креативность, но ухудшает качество материалов в целом 13-07 17:11
«Это не игра, это набор бессвязных механик»: аудитория The First Descendant превысила 10 млн игроков, но проблем у шутера пока хватает 13-07 16:15
У OpenAI почти готов революционный ИИ Strawberry — он умеет планировать и рассуждать 13-07 12:59
OpenAI так и не разрешила некоторые вопросы безопасности ИИ 13-07 11:42
ЕС утвердил Закон об ИИ: в числе запретов извлечение изображений лиц из интернета 13-07 05:20
Huawei открыла исследовательский центр в Шанхае — в нём будут работать 35 тыс. учёных и инженеров 2 ч.
Сразу несколько стартапов готовятся поднимать туристов к границе земной атмосферы на воздушных шарах 13 ч.
Google провела кадровые перестановки для возрождения AR-устройств, но уже на основе ИИ 14 ч.
Тайваньские производители в июне хорошо заработали на буме ИИ 14 ч.
BlackRock: ИИ — это новая промышленная революция, которая подстегнёт быстрое развитие ЦОД 23 ч.
Американские производители оборудования для выпуска чипов нарастили поставки в Китай, несмотря на санкции 13-07 19:37
Asus представила третью версию GeForce RTX 4060 Dual с уменьшенными вентиляторами 13-07 18:31
Методы современной биологии помогли увеличить дальность полёта электрических самолётов в четыре раза 13-07 16:19
Суд в США отклонил иск к Apple по поводу закрытой экосистемы и завышенных цен на iPhone 13-07 14:10
В Сан-Франциско начинает курсировать первый в мире пассажирский паром на водородном топливе 13-07 13:44