Новости Software

Академики РАН усомнились в том, что искусственному интеллекту можно доверять

На президиуме Российской академии наук был поднят ряд важных вопросов, связанных с технологиями искусственного интеллекта. Академики попытались понять: может ли человек доверять искусственному интеллекту, и где должна проходить граница этого доверия?

 Источник изображения: Gerd Altmann / Pixabay

Источник изображения: Gerd Altmann / Pixabay

«Дело в том, что ИИ это сегодня «чёрный ящик», но самое главное, что никто, даже сами авторы программ не знают, как он работает. Можно ли в такой ситуации довериться его выводам? Ведь он будет, по сути, брать на себя функции оракула по самым разным вопросам. И надо признать, что многие задачи эта умная машина уже сейчас делает быстрее и лучше человека. И кто знает, а может у кого-то вообще возникнуть соблазн: так давайте вообще откажемся от науки. Всё передоверим нейросетям, на них любые расчёты смогут провести обычные операторы даже без высшего образования <…> Но мало кто задумался, что в итоге такого доверия можно получить совершенно искажённую картину, которая обойдётся в многие миллионы долларов», — приводит источник слова президента РАН Александра Сергеева.

Несмотря на то, что человек доверяет компьютерам и другой технике, в случае с искусственным интеллектом ситуация иная. Люди до сих пор не до конца понимают, как работает мозг человека. Точно также нет полного понимания того, что происходит внутри нейросети, построенной по аналогии с мозгом. Основой нейросетей является достаточно простое уравнение одного нейрона. Однако в случае, когда задействовано 500 млрд таких компонентов, никто точно не может сказать, какие связи устанавливаются внутри нейросети.

Также отмечается, что по мере развития нейросетей выявляется всё больше недостатков таких технологий. На начальном этапе нейросеть обучается на сотнях тысяч или миллионах примеров чего-либо. Однако зачастую даже небольшое отклонение от полученных в процессе обучения знаний приводит к тому, что система выдаёт неверный результат. Одним из ярких примеров этого является многомиллионная нейросеть IBM, которая разрабатывалась для медицины, но оказалось, что алгоритм ставит диагнозы на уровне среднего врача-человека. На основе этого учёные пришли к выводу о том, что ИИ-технологии позволяют строить очень умные системы, но и они далеко не безгрешны.

«Сегодня мировой тренд — создание так называемого доверенного искусственного интеллекта. То есть разработать такие требования, которые в принципе не позволят выпустить в мир нейросеть, которая способна совершать ошибки. И тестировать эту технику перед началом эксплуатации. Если пройдёт испытание успешно, то можно доверять. Для разработки таких аналогов ГОСТов в институте создан первый в России Центр доверенного искусственного интеллекта», — сказал во время выступления академик РАН Арутюн Аветисян.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Технология NVIDIA Reflex пришла в Warstride Challenges, а скоро доберётся до My Time at Sandrock и Icarus 15 мин.
Калифорния намерена усилить ответственность социальных медиа за формирование зависимостей у детей 31 мин.
К своей первой годовщине снайперский шутер Sniper Ghost Warrior Contracts 2 достиг 1 млн проданных копий 2 ч.
Поддержка технологии NVIDIA DLSS заявлена для ещё 12 игр 2 ч.
Минцифры РФ летом подготовит план замены зарубежного ПО 3 ч.
Сила мемов: с прошлого апреля число активных игроков в экшене Metal Gear Rising: Revengeance выросло в десять раз 3 ч.
AMD выпустила драйвер Adrenalin Edition 22.5.2 с поддержкой новых игр, оптимизациями и исправлениями старых ошибок 3 ч.
Нейросеть написала музыку на основе больших данных о городах России 4 ч.
«Думаю, никто не рассчитывал на такой крупный старт»: создатели V Rising прокомментировали первые успехи игры 5 ч.
Приключение Paper Ghost Stories: Third Eye Open отправит игроков в малайзийско-китайский бумажный театр 5 ч.
MSI подтвердила поддержку профилей AMD EXPO для разгона памяти DDR5 в системах с Ryzen 7000 2 мин.
Samsung инвестирует $356 млрд в производство чипов и другие приоритетные направления до 2026 года 28 мин.
SpaceX стала предлагать подключение к Starlink для домов на колёсах, но за дополнительные $25 в месяц 2 ч.
MSI опубликовала видеоинструкцию по установке процессора в Socket AM5 и показала образец 16-ядерного Ryzen 7000 2 ч.
Selectel приступила к строительству в Москве нового дата-центра на 2 тысячи стоек 2 ч.
Philips выпустит OLED-телевизоры с поддержкой NVIDIA GeForce NOW и G-Sync 2 ч.
Наушники AirPods Pro 2 выйдут во второй половине 2022 года и получат порт Lightning для зарядки 2 ч.
NVIDIA и ASUS представили ROG Swift 500Hz — первый в мире игровой монитор с частотой обновления 500 Гц 3 ч.
Китай намерен создать телескоп для поиска инопланетной жизни на расстоянии до 32 световых лет от Земли 3 ч.
Глава Intel: технологическая отрасль продолжит консолидироваться — крупные компании будут поглощать мелкие 3 ч.