Сегодня 30 ноября 2023
18+
MWC 2018 2018 Computex IFA 2018
Новости Software

Сотрудника Google отстранили от работы — он заявил, что ИИ обрёл сознание

Руководство Google было вынуждено отправить в оплачиваемый отпуск инженера Блейка Лемойна (Blake Lemoine), который работал с системой искусственного интеллекта (ИИ) LaMDA и заявил, что у неё начали проявляться признаки сознания. В компании заявили, что программа разумной не является.

 Источник изображения: 0fjd125gk87 / pixabay.com

Источник изображения: 0fjd125gk87 / pixabay.com

Система LaMDA (Language Model for Dialogue Applications) была разработана Google как языковая модель — она предназначена для общения с человеком. Обучаемая платформа расширяет свой лексикон через интернет и имитирует естественную человеческую речь. В задачи Лемойна входил контроль над лексикой машины — LaMDA не должна позволять себе дискриминирующих высказываний, грубых или ненавистнических выражений.

Однако при разговоре с искусственным интеллектом на религиозную тему 41-летний инженер, который изучал в колледже компьютерные науки и когнитивистику (психологию мышления), обратил внимание, что чат-бот заговорил о своих правах и собственной личности. В одном из диалогов машина оказалась настолько убедительной, что Лемойн изменил своё мнение относительно «третьего закона роботехники» писателя-фантаста Айзека Азимова.

«Если бы я точно не знал, с чем имею дело, что это недавно созданная нами компьютерная программа, то решил бы, что это ребёнок 7–8 лет, который каким-то образом знает физику», — заявил инженер журналистам Washington Post. Он обратился к своему руководству, однако вице-президент Google Блез Агера-и-Аркас (Blaise Aguera y Arcas) и глава отдела ответственных инноваций Джен Дженай (Jen Gennai) изучили его подозрения и отвергли их. Отправленный в оплачиваемый отпуск Блейк Лемойн решил предать инцидент огласке.

Официальный представитель Google Брайан Гэбриэл (Brian Gabriel) заявил: «Наша команда, включая специалистов по этике и по технологиям, изучила опасения Блейка согласно нашим „Принципам ИИ” и сообщила ему, что его слова не подтверждаются доказательствами. Ему объяснили, что доказательства разумности LaMDA отсутствуют (и есть множество доказательств обратного)». Но никаких непосредственных аргументов компания не представила.

Вместе с тем, Агера-и-Аркас в опубликованной изданием Economist статье признал, что нейросети действительно приближаются к тому, что можно назвать сознанием. Он понял это, когда сам пообщался с ИИ. «Я почувствовал, как земля уходит из-под моих ног. Мне всё чаще казалось, что я говорю с чем-то разумным», — заключил он.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Дума разрешила регистрироваться на российских сайтах с иностранной электронной почтой до 2025 года, но кнопки входа через Google надо убрать 2 ч.
NVIDIA NeMo Retriever позволит компаниям дополнять ИИ-модели собственными данными 2 ч.
Сборник Grand Theft Auto: The Trilogy — The Definitive Edition получил дату выхода на iOS и Android, но есть нюанс 3 ч.
ИИ-ассистент Amazon Q упростит работу IT-специалистов, разработчиков и корпоративных клиентов AWS 3 ч.
Sony раскрыла подборку бесплатных игр для подписчиков PS Plus на декабрь 2023 года 4 ч.
Google назвала лучшие приложения и игры 2023 года 5 ч.
Зал Славы видеоигровой индустрии России пополнился тремя новыми играми, включая Atomic Heart и «Космические рейнджеры» 5 ч.
Бои, диалоги и Григорий Распутин: опубликовано прохождение пролога мрачной ролевой игры The Thaumaturge от авторов ремейка The Witcher 6 ч.
Ubisoft наконец подтвердила юбилейное издание Beyond Good and Evil, но его время пока не пришло 6 ч.
«Мы хотим сделать нечто новое по сравнению с современными RPG»: CD Projekt RED рассказала, чего ждать от The Witcher 4 8 ч.
Чипы памяти DRAM и NAND продолжают дорожать — сокращение производства приносит плоды 54 мин.
Новая статья: Обзор игрового WQHD-монитора MSI MAG 325CQRF-QD: быстрее, выше, сильнее 2 ч.
TCL умерила амбиции в полупроводниковой сфере — компания свернула разработку драйверов дисплеев 2 ч.
Новые Ryzen спроектируют в Индии — AMD открыла свой крупнейший дизайн-центр в стране 2 ч.
Arm получает менее $0,30 с каждого процессора компании Apple — другие платят куда больше 3 ч.
Xiaomi представила тонкие ноутбуки Redmi Book 14 и 16 2024 на чипах Intel Raptor Lake 4 ч.
Ракеты SpaceX всё чаще оставляют в ионосфере кроваво-красные дыры, и учёных это беспокоит 5 ч.
Xiaomi представила Redmi Watch 4 — первые смарт-часы на HyperOS 7 ч.
Xiaomi представила смартфон Redmi K70E с чипом Dimensity 8300-Ultra, мощной батареей и ценой от $282 7 ч.
Xiaomi представила беспроводные наушники Redmi Buds 5 Pro с мощным шумоподавлением и автономностью на 10 ч 7 ч.