Сегодня 21 января 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Угроза всему человечеству»: Маск, Возняк и более 1000 экспертов призвали остановить обучение нейросетей, превосходящих GPT-4

Илон Маск (Elon Musk), Стив Возняк (Steve Wozniak), а также более 1000 других экспертов в области искусственного интеллекта и представителей IT-индустрии призвали ввести полугодовой мораторий на обучение ИИ-систем, более производительных, чем недавно представленная модель GPT-4 компании OpenAI. В открытом письме они предупредили о потенциальных рисках для общества.

 Источник изображения: D koi/unsplash.com

Источник изображения: D koi/unsplash.com

Письмо опубликовано некоммерческим институтом Future of Life и подписано многими известными в IT-индустрии людьми. Все они призвали «поставить на паузу» разработку ИИ до того, как для отрасли будут разработаны общие протоколы и стандарты безопасности, применение которых будет проверяться независимыми аудиторами.

В письме подчёркивается, что мощные ИИ-системы должны разрабатываться только после того, как человечество будет уверено в позитивных последствиях такого развития и в том, что связанные с ними риски будут управляемыми. Также в письме упоминается о потенциальных угрозах для общества и цивилизации со стороны способных конкурировать с людьми ИИ-систем, что может привести к экономическим или политическим потрясениям. Разработчиков призывают тесно сотрудничать с регуляторами.

«Обширные исследования показали, что подобные системы с искусственным интеллектом, которые конкурируют с человеком, могут представлять серьезную опасность для всего человечества» — говорится в письме.

Письмо опубликовано после того, как к группе обеспокоенных развитием ИИ присоединился Европол, предупредивший о возможности злоупотребления злоумышленниками системами вроде ChatGPT — их можно использовать для фишинга, дезинформации и совершения киберпреступлений. Маск, чья компания Tesla довольно давно использует элементы искусственного интеллекта в своих системах автопилота, открыто и неоднократно выражал обеспокоенность опасностью ИИ-систем.

С момента релиза в прошлом году чат-бот ChatGPT компании OpenAI, поддерживаемой Microsoft, продемонстрировал такие качества, которые вынудили конкурентов срочно активизировать разработку собственных больших языковых моделей. В результате компании начали спешно интегрировать генеративный ИИ в свои продукты. Глава OpenAI Сэм Альтман (Sam Altman), по данным представителя Future of Life, письмо не подписывал, а в самой компании отказались от комментариев.

По словам одного из экспертов, необходимо замедлить соответствующие работы, пока человечество не начнёт лучше понимать последствия, поскольку ИИ-системы способны нанести серьёзный ущерб. Особенно с учётом того, что крупные игроки хранят в тайне информацию о том, над чем они работают — поэтому обществу будет трудно защититься в случае, если опасения оправдаются.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Google стала на шаг ближе к ИИ, который думает как человек — представлена архитектура Titans 11 мин.
У «Ростелекома» произошла утечка данных — клиентам рекомендовано сменить пароли 13 мин.
Разработчики Kingdom Come: Deliverance 2 подтвердили релиз в GOG — игра выйдет без DRM-защиты, но с задержкой 3 ч.
Трамп обвалил рынок криптовалют, забыв о них на инаугурации и в первых указах 3 ч.
У Nvidia закончились игровые видеокарты в облаке 4 ч.
Российское ПО не удовлетворяет 63 % айтишников по части совместимости с другим софтом 4 ч.
Олдскульная стратегия Tempest Rising в духе Command & Conquer стала доступна для предзаказа в российском Steam и обзавелась временной демоверсией 4 ч.
Золотой век наступил раньше времени: разработка Sid Meier’s Civilization VII официально завершена 5 ч.
«Мечты сбываются»: амбициозный мод GTA: Vice City Nextgen Edition на движке от GTA IV наконец получил точную дату выхода 5 ч.
RuStore стал вторым самым популярным магазином Android-приложений в России 5 ч.
Microsoft ввязалась в выпуск чужих квантовых компьютеров — это будут лучшие системы на рынке 33 мин.
Цена бренда Tesla рухнула на $15 млрд в прошлом году — виноват Илон Маск и устаревший модельный ряд 2 ч.
Amazon снова стала крупнейшим в мире корпоративным покупателем возобновляемой энергии в 2024 году 4 ч.
Учёные отказали частицам тёмной материи в возможности быть сверхтяжёлыми 4 ч.
Спецслужбы США и ЕС: причиной обрывов кабелей в Балтийском море стали не диверсии, а низкая квалификация экипажей 4 ч.
Seagate начала поставки HAMR-дисков Exos M вместимостью 36 Тбайт 4 ч.
Трамп отменил принудительный перевод США на электромобили 4 ч.
AAEON выпустила плату Boxer-8654AI-Kit на базе NVIDIA Jetson Orin NX 4 ч.
Huawei стала помогать клиентам внедрять ИИ-ускорители Ascend, чтобы отвоевать рынок у Nvidia 4 ч.
Huawei показала взрывной рост и стала вторым брендом смартфонов в Китае — Apple быстрее всех теряет рынок 5 ч.