Новости Software

Академики РАН усомнились в том, что искусственному интеллекту можно доверять

На президиуме Российской академии наук был поднят ряд важных вопросов, связанных с технологиями искусственного интеллекта. Академики попытались понять: может ли человек доверять искусственному интеллекту, и где должна проходить граница этого доверия?

 Источник изображения: Gerd Altmann / Pixabay

Источник изображения: Gerd Altmann / Pixabay

«Дело в том, что ИИ это сегодня «чёрный ящик», но самое главное, что никто, даже сами авторы программ не знают, как он работает. Можно ли в такой ситуации довериться его выводам? Ведь он будет, по сути, брать на себя функции оракула по самым разным вопросам. И надо признать, что многие задачи эта умная машина уже сейчас делает быстрее и лучше человека. И кто знает, а может у кого-то вообще возникнуть соблазн: так давайте вообще откажемся от науки. Всё передоверим нейросетям, на них любые расчёты смогут провести обычные операторы даже без высшего образования <…> Но мало кто задумался, что в итоге такого доверия можно получить совершенно искажённую картину, которая обойдётся в многие миллионы долларов», — приводит источник слова президента РАН Александра Сергеева.

Несмотря на то, что человек доверяет компьютерам и другой технике, в случае с искусственным интеллектом ситуация иная. Люди до сих пор не до конца понимают, как работает мозг человека. Точно также нет полного понимания того, что происходит внутри нейросети, построенной по аналогии с мозгом. Основой нейросетей является достаточно простое уравнение одного нейрона. Однако в случае, когда задействовано 500 млрд таких компонентов, никто точно не может сказать, какие связи устанавливаются внутри нейросети.

Также отмечается, что по мере развития нейросетей выявляется всё больше недостатков таких технологий. На начальном этапе нейросеть обучается на сотнях тысяч или миллионах примеров чего-либо. Однако зачастую даже небольшое отклонение от полученных в процессе обучения знаний приводит к тому, что система выдаёт неверный результат. Одним из ярких примеров этого является многомиллионная нейросеть IBM, которая разрабатывалась для медицины, но оказалось, что алгоритм ставит диагнозы на уровне среднего врача-человека. На основе этого учёные пришли к выводу о том, что ИИ-технологии позволяют строить очень умные системы, но и они далеко не безгрешны.

«Сегодня мировой тренд — создание так называемого доверенного искусственного интеллекта. То есть разработать такие требования, которые в принципе не позволят выпустить в мир нейросеть, которая способна совершать ошибки. И тестировать эту технику перед началом эксплуатации. Если пройдёт испытание успешно, то можно доверять. Для разработки таких аналогов ГОСТов в институте создан первый в России Центр доверенного искусственного интеллекта», — сказал во время выступления академик РАН Арутюн Аветисян.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Тестирование платформы цифрового рубля с реальными деньгами и клиентами начнётся раньше запланированного 2 ч.
Microsoft выпустила новую тестовую сборку Windows 11 с улучшениями учётных записей и исправлениями проблем 8 ч.
Российские пользователи стали намного меньше тратить денег в мобильных играх, но не по своей воле 8 ч.
ФАС прекратила антимонопольное дело о «колдунщиках» — «Яндекс» выполнила все требования 9 ч.
Гиперзвуковой самолёт и тематические миссии: к Microsoft Flight Simulator вышло бесплатное дополнение по мотивам «Топ Ган: Мэверик» 9 ч.
Журналисты Game Informer поделились новыми подробностями и скриншотами хоррора The Callisto Protocol 10 ч.
Совместные группы для представителей Орды и Альянса появятся в World of Warcraft через неделю 11 ч.
Инсайдер показал, как будет выглядеть карта новой Call of Duty: Warzone 11 ч.
Следующее крупное обновление добавит в Dune: Spice Wars мультиплеер и другие планы разработчиков по развитию игры 12 ч.
Первое платное дополнение к OlliOlli World получило геймплейный трейлер и дату выхода 13 ч.
Sony нарастит производство PlayStation 5 и расширит портфолио за счёт игр для ПК и смартфонов 29 мин.
NVIDIA пообещала представить преемника Ampere в игровом сегменте во втором полугодии 31 мин.
Квартальная выручка NVIDIA выросла на 46 % до рекордных $8,29 млрд, лидировал серверный сегмент 2 ч.
ASUS показала роутер RT-AXE7800 с шестью антеннами, Wi-Fi 6E и скоростью до 7800 Мбит/с 8 ч.
Новая статья: Обзор смартфона OnePlus 10 Pro: потеря идентичности 8 ч.
TCL спрогнозировала выход улучшенных PS5 Pro и Xbox Series в ближайшие два года 8 ч.
MSI анонсировала 34-дюймовый изогнутый QD-OLED-монитор с частотой обновления 175 Гц 9 ч.
Stellantis выплатит $300 млн штрафа по делу о подделке данных о выбросах дизельных автомобилей 9 ч.
Lexar представила внешние накопители SL660 BLAZE Gaming Portable SSD со скоростью чтения до 2000 Мбайт/с 11 ч.
Lucid отзовёт все вышедшие в 2022 году электромобили Air из-за проблем с проводкой 12 ч.