Сегодня 26 июня 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Крёстный отец ИИ» ушёл из Google из-за этических проблем, связанных с ИИ

Учёный в области информатики Джеффри Хинтон (Geoffrey Hinton, на фото ниже), которого называют «крёстным отцом ИИ», в апреле покинул пост вице-президента Google. Он сделал это, чтобы открыто предупредить общественность о рисках, связанных с использованием ИИ, а также в связи с тем, что отказ Google от своих прежних ограничений в отношении публичных выпусков ИИ из-за конкуренции с ChatGPT, Bing Chat и т.д. влечёт за собой множество этических проблем.

 Источник изображения: CBS

Источник изображения: CBS

В интервью ресурсу The New York Times Хинтон выразил обеспокоенность тем, что генеративный ИИ может привести к волне дезинформации. Возможно, вы «больше не сможете знать, что является правдой», говорит учёный. Он также утверждает, что ИИ не только позволит устранить «монотонную работу», но и полностью заменит некоторые рабочие места.

Также у учёного вызывает тревогу возможность создания полностью автономного оружия на базе ИИ, и тенденция ИИ-моделей учиться «странному поведению» на основе обучающих данных. Хотя некоторые из поднятых им вопросов носят чисто теоретический характер, Хинтон опасается эскалации, связанной с развёртыванием ИИ, которую будет невозможно остановить без эффективных средств контроля или жёстких ограничений.

Хинтон заявил, что его позиция по отношению к ИИ начала меняться в прошлом году, когда Google, OpenAI и другие компании начали создавать системы ИИ, порой превосходящие человеческий интеллект. В течение последних пяти лет ИИ получил стремительное развитие, и то, что может произойти в следующие пять лет, вызывает у учёного тревогу.

Комментируя утверждения Хинтона, главный научный сотрудник Google Джефф Дин (Jeff Dean) сообщил ресурсу Engadget, что поисковый гигант по-прежнему придерживается «ответственного подхода» и следит за «возникающими рисками».

Google приобрела стартап DNNresearch Джеффри Хинтона в 2013 году, и его наработки способствовали созданию генеративных технологии ИИ. В частности, Хинтон является одним из авторов метода обратного распространения ошибки для тренировки многослойной нейронной сети.

Опасения Хинтона разделяет целый ряд влиятельных учёных и руководителей технологических фирм. Недавно Илон Маск (Elon Musk), Стив Возняк (Steve Wozniak), а также более 1000 других экспертов в области искусственного интеллекта и представителей IT-индустрии призвали в открытом письме ввести полугодовой мораторий на обучение ИИ-систем в связи с необходимостью решения этических проблем и вопросов обеспечения безопасности.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Политические дипфейки оказались самой популярным направлением в злоупотреблениях ИИ 59 мин.
Forza Horizon 4 скоро снимут с продажи и удалят из Game Pass — подробности и причины 2 ч.
Игровая студия стримера Dr Disrespect разорвала с ним отношения — выяснилась причина его вечного бана на Twitch 3 ч.
Еженедельный чарт Steam: Elden Ring, новый кооперативный хит Chained Together и MMORPG от создателя EVE Online 4 ч.
Спустя три года фанаты дождались анонса Farming Simulator 25 — дата выхода, первый трейлер и предзаказ в российском Steam 5 ч.
Apple включила RCS на iPhone с выпуском второй беты iOS 18, но работает функция пока не у всех 6 ч.
Сборник S.T.A.L.K.E.R. Legends of the Zone Trilogy на PlayStation и Xbox получил официальную поддержку модов 7 ч.
ЕС предъявил Microsoft обвинения в незаконной привязке Teams к Office — компании грозит многомиллионный штраф 7 ч.
Анонсирована новая игра в легендарной серии «Ил-2» — первый тизер и скриншоты «Корея. Серия Ил-2» 7 ч.
OpenAI отключит API ChatGPT для китайских компаний — местные аналоги ждут наплыва пользователей 8 ч.
Etched Sohu — самый быстрый в мире ИИ-ускоритель, но только для трансформеров 25 мин.
Новая статья: Обзор ноутбука OSiO FocusLine F160a: уверенные первые шаги 2 ч.
Самолёты можно питать с помощью микроволнового излучения прямо в полёте, но сделать это крайне трудно 3 ч.
Huawei показала лучший рост продаж смартфонов во время недавних распродаж в Китае, несмотря на самые скромные скидки 4 ч.
Китайский стартап Yusur наладил массовое производство DPU третьего поколения K2-Pro 4 ч.
Представлена обновлённая портативная колонка Beats Pill с автономностью на 24 часа, защитой IP67 и портом USB-C 7 ч.
Tesla отозвала более 11 000 пикапов Cybertruck из-за проблем с обшивкой кузова и стеклоочистителем 7 ч.
В России запустили самый точный отечественный квантовый процессор 7 ч.
Etched представила ИИ-чип для нейросетей-трансформеров — он в разы быстрее и дешевле ускорителей Nvidia 7 ч.
В России значительно выросли продажи ноутбуков отечественных марок 7 ч.