Сегодня 30 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Злоупотребление ИИ делает человека глупее, установили учёные

«При неправильном использовании технологии могут приводить и приводят к ухудшению когнитивных способностей, которые следует сохранять», — таковы результаты исследования, проведённого учёными Университета Карнеги-Меллона (США) и Microsoft. Они попытались выяснить, как использование генеративного искусственного интеллекта влияет на навыки критического мышления у человека.

 Источник изображения: Stefan Cosma / unsplash.com

Источник изображения: Stefan Cosma / unsplash.com

Полагаясь в работе на генеративный ИИ, человек переключает свои усилия на оценку качества ответов системы — насколько они подходят для применения в рабочих целях. При этом он в меньше степени задействует навыки критического мышления более высокого порядка, необходимые для создания, оценки и анализа информации. Если человек вмешивается только тогда, когда ответов ИИ недостаточно, он тем самым лишает себя «повседневной возможности практиковать свои суждения и укреплять свою когнитивную „мускулатуру“, оставляя её атрофированной и неподготовленной, когда возникают исключения». Другими словами, когда человек слишком сильно полагается на ИИ, позволяет ему «думать» за себя, он начинает хуже решать проблемы самостоятельно, если ИИ терпит неудачу.

Добровольцами в исследовании выступили 319 человек, которые признали, что хотя бы раз в неделю используют ИИ в работе. Их попросили привести примеры применения генеративного ИИ в работе, исходя из трёх основных сценариев: создание материалов, например, написание электронного письма коллеге; подготовка сводок информации, например, исследование темы или перечисление тезисов длинной статьи; обращение за советом или создание диаграммы на основе существующих данных. Далее добровольцев спросили, применяют ли они навыки критического мышления при выполнении задания, и заставляет ли работа с генеративным ИИ прилагать больше или меньше усилий для критического мышления. По каждой упомянутой задаче добровольцев попросили оценить, насколько они уверены в себе, в генеративном ИИ и в своей способности оценивать ответы ИИ.

 Источник изображения: Onur Binay / unsplash.com

Источник изображения: Onur Binay / unsplash.com

Около 36 % респондентов сообщили, что использовали навыки критического мышления, чтобы смягчить возможные отрицательные последствия работы с ИИ. Одна участница сообщила, что обращалась к ChatGPT при аттестации, но дважды проверяла ответы ИИ, опасаясь, что даст неверный ответ, и её отстранят. Другой доброволец рассказал, что ему приходилось редактировать подготовленные ИИ черновики электронных писем, адресованных его начальнику, потому что для того разница в положении и возрасте имела большое значение. Многие признались, что проверяли ответы ИИ, используя привычные ресурсы, в том числе YouTube и «Википедию», хотя это, возможно, сводит на нет сам смысл обращаться к ИИ.

Чтобы компенсировать имеющиеся у генеративного ИИ недостатки, работникам следует понимать, как эти недостатки возникают, но не все знают, каковы ограничения современного ИИ. Как показало исследование, уверенные в правильности ответов ИИ участники меньше применяли критическое мышление, чем те, кто сообщил об уверенности в собственных способностях. Учёные пока не утверждают, что инструменты ИИ как таковые делают человека глупее, но чрезмерная зависимость от них может ослабить нашу способность решать проблемы самостоятельно, гласят результаты исследования.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Создатели виртуальной актрисы Тилли Норвуд утверждают, что её популярность стремительно растёт 15 мин.
OpenAI начала продвигать функцию онлайн-покупок непосредственно из чат-бота 43 мин.
Геймер собрал внутри Minecraft рабочий ChatGPT — на это ушло 439 млн блоков 9 ч.
Градиентная «G» станет единым символом Google — старый логотип уйдёт в прошлое 10 ч.
В Steam стартовала грандиозная осенняя распродажа — скидку получили более 30 тысяч игр 11 ч.
Браузер Brave обновил фирменный ИИ-поиск: теперь он даёт развёрнутые ответы 12 ч.
Календарь релизов — 29 сентября – 5 октября: Ghost of Yotei, Train Sim World 6 и ремейк FF Tactics 13 ч.
Слухи: Embracer взялась за амбициозный боевик по «Властелину колец», который бросит вызов Hogwarts Legacy 14 ч.
В ChatGPT появился полный родительский контроль после трагической гибели подростка из США 14 ч.
Capcom оставит Monster Hunter Wilds, Rise и World на Windows 10 без поддержки, причём очень скоро 15 ч.
Президент OpenAI убеждён, что в будущем за каждым человеком будет закреплён ускоритель ИИ 2 ч.
США упростили процесс выявления подставных компаний, позволяющих обходить санкции на поставки чипов и оборудования 4 ч.
В трекерах Tile выявили изъян, который позволяет вести слежку за их владельцами 4 ч.
MSI показала GeForce RTX 5070 Ti Ventus 3X со скрытым разъёмом питания 4 ч.
Раздувшаяся батарея Galaxy Ring сдавила палец и довела владельца до госпитализации 5 ч.
Новая статья: Обзор материнской платы Maxsun MS-eSport B850M WiFi Ice: «ледяная» скромность 7 ч.
Новая статья: Обзор блока питания Zalman TeraMax II SE 1000W (ZM1000-TMX2SE) 9 ч.
SanDisk выпустила WD_Black SN7100X — сертифицированный SSD для приставок ROG Xbox Ally и Ally X, а также карты памяти microSD 11 ч.
Куо предрёк Xiaomi 17 провал — поставки урезаны, а спасти положение могут только скидки 14 ч.
Euclyd разрабатывает ИИ-ускоритель Craftwerk с фирменной памятью UBM: 1 Тбайт и 8 Пбайт/с 15 ч.