Новости Software

Академики РАН усомнились в том, что искусственному интеллекту можно доверять

На президиуме Российской академии наук был поднят ряд важных вопросов, связанных с технологиями искусственного интеллекта. Академики попытались понять: может ли человек доверять искусственному интеллекту, и где должна проходить граница этого доверия?

 Источник изображения: Gerd Altmann / Pixabay

Источник изображения: Gerd Altmann / Pixabay

«Дело в том, что ИИ это сегодня «чёрный ящик», но самое главное, что никто, даже сами авторы программ не знают, как он работает. Можно ли в такой ситуации довериться его выводам? Ведь он будет, по сути, брать на себя функции оракула по самым разным вопросам. И надо признать, что многие задачи эта умная машина уже сейчас делает быстрее и лучше человека. И кто знает, а может у кого-то вообще возникнуть соблазн: так давайте вообще откажемся от науки. Всё передоверим нейросетям, на них любые расчёты смогут провести обычные операторы даже без высшего образования <…> Но мало кто задумался, что в итоге такого доверия можно получить совершенно искажённую картину, которая обойдётся в многие миллионы долларов», — приводит источник слова президента РАН Александра Сергеева.

Несмотря на то, что человек доверяет компьютерам и другой технике, в случае с искусственным интеллектом ситуация иная. Люди до сих пор не до конца понимают, как работает мозг человека. Точно также нет полного понимания того, что происходит внутри нейросети, построенной по аналогии с мозгом. Основой нейросетей является достаточно простое уравнение одного нейрона. Однако в случае, когда задействовано 500 млрд таких компонентов, никто точно не может сказать, какие связи устанавливаются внутри нейросети.

Также отмечается, что по мере развития нейросетей выявляется всё больше недостатков таких технологий. На начальном этапе нейросеть обучается на сотнях тысяч или миллионах примеров чего-либо. Однако зачастую даже небольшое отклонение от полученных в процессе обучения знаний приводит к тому, что система выдаёт неверный результат. Одним из ярких примеров этого является многомиллионная нейросеть IBM, которая разрабатывалась для медицины, но оказалось, что алгоритм ставит диагнозы на уровне среднего врача-человека. На основе этого учёные пришли к выводу о том, что ИИ-технологии позволяют строить очень умные системы, но и они далеко не безгрешны.

«Сегодня мировой тренд — создание так называемого доверенного искусственного интеллекта. То есть разработать такие требования, которые в принципе не позволят выпустить в мир нейросеть, которая способна совершать ошибки. И тестировать эту технику перед началом эксплуатации. Если пройдёт испытание успешно, то можно доверять. Для разработки таких аналогов ГОСТов в институте создан первый в России Центр доверенного искусственного интеллекта», — сказал во время выступления академик РАН Арутюн Аветисян.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Phison показала, как работает PCIe 5.0-накопитель со скоростью чтения выше 12 Гбайт/с 11 мин.
Starlink получил разрешения на работу в Нигерии и Мозамбике 6 ч.
Отток айтишников из России в первом полугодии оценили в 40 тыс., но половина вернётся обратно 7 ч.
В Китае представили пятиместный электромобиль за $5900 с дальностью пробега до 300 км 10 ч.
Китайский завод BMW Group освоит замкнутый цикл переработки аккумуляторов электромобилей 11 ч.
Вьетнамское предприятие Intel научилось самостоятельно готовить процессорные подложки 12 ч.
По мере снятия пандемийных ограничений в Китае отмечается падение спроса на смартфоны 13 ч.
NASA наметило вторую репетицию запуска лунной ракеты Artemis I на 19 июня 13 ч.
В игровом сегменте выручка NVIDIA зависела от российского рынка на 4 % 18 ч.
Тираж смартфонов Apple серии iPhone 14 уступит объёмам выпуска предшественников в прошлом году 18 ч.