Новости Software

Сотрудника Google отстранили от работы — он заявил, что ИИ обрёл сознание

Руководство Google было вынуждено отправить в оплачиваемый отпуск инженера Блейка Лемойна (Blake Lemoine), который работал с системой искусственного интеллекта (ИИ) LaMDA и заявил, что у неё начали проявляться признаки сознания. В компании заявили, что программа разумной не является.

 Источник изображения: 0fjd125gk87 / pixabay.com

Источник изображения: 0fjd125gk87 / pixabay.com

Система LaMDA (Language Model for Dialogue Applications) была разработана Google как языковая модель — она предназначена для общения с человеком. Обучаемая платформа расширяет свой лексикон через интернет и имитирует естественную человеческую речь. В задачи Лемойна входил контроль над лексикой машины — LaMDA не должна позволять себе дискриминирующих высказываний, грубых или ненавистнических выражений.

Однако при разговоре с искусственным интеллектом на религиозную тему 41-летний инженер, который изучал в колледже компьютерные науки и когнитивистику (психологию мышления), обратил внимание, что чат-бот заговорил о своих правах и собственной личности. В одном из диалогов машина оказалась настолько убедительной, что Лемойн изменил своё мнение относительно «третьего закона роботехники» писателя-фантаста Айзека Азимова.

«Если бы я точно не знал, с чем имею дело, что это недавно созданная нами компьютерная программа, то решил бы, что это ребёнок 7–8 лет, который каким-то образом знает физику», — заявил инженер журналистам Washington Post. Он обратился к своему руководству, однако вице-президент Google Блез Агера-и-Аркас (Blaise Aguera y Arcas) и глава отдела ответственных инноваций Джен Дженай (Jen Gennai) изучили его подозрения и отвергли их. Отправленный в оплачиваемый отпуск Блейк Лемойн решил предать инцидент огласке.

Официальный представитель Google Брайан Гэбриэл (Brian Gabriel) заявил: «Наша команда, включая специалистов по этике и по технологиям, изучила опасения Блейка согласно нашим „Принципам ИИ” и сообщила ему, что его слова не подтверждаются доказательствами. Ему объяснили, что доказательства разумности LaMDA отсутствуют (и есть множество доказательств обратного)». Но никаких непосредственных аргументов компания не представила.

Вместе с тем, Агера-и-Аркас в опубликованной изданием Economist статье признал, что нейросети действительно приближаются к тому, что можно назвать сознанием. Он понял это, когда сам пообщался с ИИ. «Я почувствовал, как земля уходит из-под моих ног. Мне всё чаще казалось, что я говорю с чем-то разумным», — заключил он.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Сюрреалистическое приключение OneShot доберётся до консолей в сентябре 51 мин.
Сюжетный шутер Luna Abyss столкнёт игроков с космическими ужасами под поверхностью загадочной планеты 58 мин.
Переработанную с нуля версию головоломки Q.U.B.E. выпустят в следующем месяце, но не на всех платформах сразу 3 ч.
Видео: Atlus показала вступительный ролик Soul Hackers 2 3 ч.
Ловля призраков в асимметричной Ghostbusters: Spirits Unleashed начнётся 18 октября 3 ч.
Отгрузки и продажи боевика Fire Emblem Warriors: Three Hopes уже достигли 1 млн копий 3 ч.
Киберпанковый экшен Anno: Mutationem выйдет на Nintendo Switch раньше, чем на мобильных устройствах 3 ч.
На Amazon раньше времени появились скриншоты, подробности и дата выхода многострадального зомби-экшена Dead Island 2 4 ч.
Все VPN-сервисы в iOS не способы защитить подключение — Apple могла бы это исправить, но ничего не делает 12 ч.
Строительная головоломка LEGO Bricktales выйдет к концу года на всех основных платформах 13 ч.
Анонсирован смартфон Realme 9i 5G с чипом Dimensity 810 по цене от $190 59 мин.
Робо-кафе с кассиром «Дуняшей» откроют в ОАЭ 60 мин.
LG выпустила вогнутый монитор 34WQ75C-B формата UWQHD с док-станцией 2 ч.
Intel намерена перевести 500 разработчиков нижегородского офиса в Германию 2 ч.
Китайская полупроводниковая отрасль обвинила США в дискриминации из-за новых ограничительных мер 2 ч.
MediaTek представила платформу T830 для потребительских 5G-устройств 3 ч.
Россия завершила государственные испытания радиолокационной станции отслеживания малых спутников и космического мусора 4 ч.
Электромобили BMW к 2025 году начнут использовать аккумуляторные ячейки китайского производства, близкие к типоразмеру 4680 4 ч.
В третьем квартале выручка NVIDIA не превысит $6,5 млрд, как считают аналитики 5 ч.
Американские регуляторы предостерегли автовладельцев Tesla от испытаний систем безопасности на детях 6 ч.