Сегодня 17 июня 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Крёстный отец ИИ» ушёл из Google из-за этических проблем, связанных с ИИ

Учёный в области информатики Джеффри Хинтон (Geoffrey Hinton, на фото ниже), которого называют «крёстным отцом ИИ», в апреле покинул пост вице-президента Google. Он сделал это, чтобы открыто предупредить общественность о рисках, связанных с использованием ИИ, а также в связи с тем, что отказ Google от своих прежних ограничений в отношении публичных выпусков ИИ из-за конкуренции с ChatGPT, Bing Chat и т.д. влечёт за собой множество этических проблем.

 Источник изображения: CBS

Источник изображения: CBS

В интервью ресурсу The New York Times Хинтон выразил обеспокоенность тем, что генеративный ИИ может привести к волне дезинформации. Возможно, вы «больше не сможете знать, что является правдой», говорит учёный. Он также утверждает, что ИИ не только позволит устранить «монотонную работу», но и полностью заменит некоторые рабочие места.

Также у учёного вызывает тревогу возможность создания полностью автономного оружия на базе ИИ, и тенденция ИИ-моделей учиться «странному поведению» на основе обучающих данных. Хотя некоторые из поднятых им вопросов носят чисто теоретический характер, Хинтон опасается эскалации, связанной с развёртыванием ИИ, которую будет невозможно остановить без эффективных средств контроля или жёстких ограничений.

Хинтон заявил, что его позиция по отношению к ИИ начала меняться в прошлом году, когда Google, OpenAI и другие компании начали создавать системы ИИ, порой превосходящие человеческий интеллект. В течение последних пяти лет ИИ получил стремительное развитие, и то, что может произойти в следующие пять лет, вызывает у учёного тревогу.

Комментируя утверждения Хинтона, главный научный сотрудник Google Джефф Дин (Jeff Dean) сообщил ресурсу Engadget, что поисковый гигант по-прежнему придерживается «ответственного подхода» и следит за «возникающими рисками».

Google приобрела стартап DNNresearch Джеффри Хинтона в 2013 году, и его наработки способствовали созданию генеративных технологии ИИ. В частности, Хинтон является одним из авторов метода обратного распространения ошибки для тренировки многослойной нейронной сети.

Опасения Хинтона разделяет целый ряд влиятельных учёных и руководителей технологических фирм. Недавно Илон Маск (Elon Musk), Стив Возняк (Steve Wozniak), а также более 1000 других экспертов в области искусственного интеллекта и представителей IT-индустрии призвали в открытом письме ввести полугодовой мораторий на обучение ИИ-систем в связи с необходимостью решения этических проблем и вопросов обеспечения безопасности.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Британский хакер, специалист по подмене сим-карт, арестован за взломы криптокошельков 6 ч.
В iOS 18 можно заменить «Привет, Siri» на любую другую фразу 6 ч.
Меню «Пуск» и панель задач Windows 11 получат больше возможностей настройки 15 ч.
«Замечательный ранний доступ»: комикс-шутер про гангстеров Fallen Aces стартовал в Steam с рейтингом 98 % 20 ч.
Функция Recall в Windows 11 научилась анализировать содержимое рабочего стола по запросу пользователя 24 ч.
Новая статья: Nine Sols — пушистый и смертоносный. Рецензия 16-06 00:03
В игре Lunar Landing нашли ошибку спустя 55 лет после выпуска 15-06 15:34
В драйвере Wi-Fi для Windows нашли уязвимость, позволяющую удалённый запуск кода без участия пользователя 15-06 14:11
Корпоративный мессенджер Slack заморозит учётные записи россиян из-за санкций США 15-06 13:22
«Шаг назад для европейских инноваций»: Meta отложила запуск ИИ-бота в Европе 15-06 12:10
Kioxia впервые за 20 месяцев перестала сокращать объёмы выпуска флеш-памяти 4 мин.
Планшет AGM PAD P2 ACTIVE с 10,95-дюймовым экраном и защитным чехлом поступил в продажу 2 ч.
TSMC поднимет цены на 3-нм чипы на 5 %, а передовая упаковка чипов CoWoS подорожает на 20 % в следующем году 3 ч.
Cerebras и Dell предложат заказчикам современные ИИ-платформы 3 ч.
Смартфоны Cubot X90 и Cubot A10 поступят в продажу 17 июня 4 ч.
Поддержка пересылки СМС через спутник в iOS 18 позволит Apple сделать эту услугу платной 5 ч.
Новая статья: Обзор PCIe 5.0-накопителя Patriot Viper PV553: дозревший Phison E26 12 ч.
Дата-центры для ИИ обещают принести немало выгоды: лидером роста в глобальном REIT-индексе Bloomberg стала австралийская Goodman Group 14 ч.
Asetek растеряла клиентов на СЖО и предупреждает о грядущем падении выручки 17 ч.
Холодный приём: новый национальный суперкомпьютер Норвегии разместят в руднике и охладят водой из фьорда 19 ч.