Сегодня 28 мая 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Крёстный отец ИИ» ушёл из Google из-за этических проблем, связанных с ИИ

Учёный в области информатики Джеффри Хинтон (Geoffrey Hinton, на фото ниже), которого называют «крёстным отцом ИИ», в апреле покинул пост вице-президента Google. Он сделал это, чтобы открыто предупредить общественность о рисках, связанных с использованием ИИ, а также в связи с тем, что отказ Google от своих прежних ограничений в отношении публичных выпусков ИИ из-за конкуренции с ChatGPT, Bing Chat и т.д. влечёт за собой множество этических проблем.

 Источник изображения: CBS

Источник изображения: CBS

В интервью ресурсу The New York Times Хинтон выразил обеспокоенность тем, что генеративный ИИ может привести к волне дезинформации. Возможно, вы «больше не сможете знать, что является правдой», говорит учёный. Он также утверждает, что ИИ не только позволит устранить «монотонную работу», но и полностью заменит некоторые рабочие места.

Также у учёного вызывает тревогу возможность создания полностью автономного оружия на базе ИИ, и тенденция ИИ-моделей учиться «странному поведению» на основе обучающих данных. Хотя некоторые из поднятых им вопросов носят чисто теоретический характер, Хинтон опасается эскалации, связанной с развёртыванием ИИ, которую будет невозможно остановить без эффективных средств контроля или жёстких ограничений.

Хинтон заявил, что его позиция по отношению к ИИ начала меняться в прошлом году, когда Google, OpenAI и другие компании начали создавать системы ИИ, порой превосходящие человеческий интеллект. В течение последних пяти лет ИИ получил стремительное развитие, и то, что может произойти в следующие пять лет, вызывает у учёного тревогу.

Комментируя утверждения Хинтона, главный научный сотрудник Google Джефф Дин (Jeff Dean) сообщил ресурсу Engadget, что поисковый гигант по-прежнему придерживается «ответственного подхода» и следит за «возникающими рисками».

Google приобрела стартап DNNresearch Джеффри Хинтона в 2013 году, и его наработки способствовали созданию генеративных технологии ИИ. В частности, Хинтон является одним из авторов метода обратного распространения ошибки для тренировки многослойной нейронной сети.

Опасения Хинтона разделяет целый ряд влиятельных учёных и руководителей технологических фирм. Недавно Илон Маск (Elon Musk), Стив Возняк (Steve Wozniak), а также более 1000 других экспертов в области искусственного интеллекта и представителей IT-индустрии призвали в открытом письме ввести полугодовой мораторий на обучение ИИ-систем в связи с необходимостью решения этических проблем и вопросов обеспечения безопасности.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Telegram начнёт маркировать фейковые публикации 5 ч.
The Rogue Prince of Persia от соавторов Dead Cells вышла в раннем доступе Steam, причём без привязки к Ubisoft Connect 8 ч.
Календарь релизов 27 мая – 2 июня: Selaco, Nine Sols и обновленный MultiVersus 10 ч.
Моддер добавил «больше тонкостей и свободу действий» в один из лучших квестов The Elder Scrolls III: Morrowind 10 ч.
Издатель Syberia анонсировал первую игру про легендарного вора-джентльмена Арсена Люпена — трейлер и детали Arsene Lupin: Once a Thief 11 ч.
Инсайдер назвал слухи о ремейке первой Resident Evil «полной чушью» и прояснил, когда выйдет Resident Evil 9 12 ч.
Разработчики стратегии Songs of Conquest в духе «Героев Меча и Магии» анонсировали четыре сюжетных дополнения и первый аддон 13 ч.
Волки, овцы и Саддам Хусейн: новый тизер Call of Duty: Black Ops 6 и дата премьеры первого трейлера 14 ч.
Indika не разочаровала польского издателя продажами, в отличие от The Invincible и The Thaumaturge 17 ч.
Игроков заинтриговал геймплейный трейлер олдскульного хоррора Nightmare Operator с элементами Ghostwire: Tokyo и Dead Space 18 ч.
Запущен первый в мире биопроцессор из 16 органоидов мозга с удалённым доступом — он обладает высочайшей энергоэффективностью 7 ч.
Новая статья: Обзор ноутбука HUAWEI Matebook X Pro 2024: когда знаешь, что будет только лучше 8 ч.
Тридцать на одного: Liqid UltraStack 30 позволяет подключить десятки GPU к одному серверу 10 ч.
США выделили $75 млн на разработку инновационных стеклянных подложек для чипов 11 ч.
Представлены компактные SSD для ноутбуков и консолей IRDM M.2 2230 Pro Nano со скоростью до 7300 Мбайт/с 11 ч.
Amazon инвестирует €15,7 млрд в расширение облака AWS в Испании 11 ч.
Intel ставит крест на Xeon Phi — поддержка Knights Mill и Knights Landing удалена из LLVM 12 ч.
Оператора норвежского ЦОД TikTok оштрафовали на $188 тыс. за самовольное строительство электроподстанции 12 ч.
Tesla увеличила выбросы парниковых газов на 20 % в прошлом году 12 ч.
Sapphire выпустила видеокарту Radeon RX 6750 GRE 10GB PURE Starry Sky 13 ч.