Сегодня 08 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Злоупотребление ИИ делает человека глупее, установили учёные

«При неправильном использовании технологии могут приводить и приводят к ухудшению когнитивных способностей, которые следует сохранять», — таковы результаты исследования, проведённого учёными Университета Карнеги-Меллона (США) и Microsoft. Они попытались выяснить, как использование генеративного искусственного интеллекта влияет на навыки критического мышления у человека.

 Источник изображения: Stefan Cosma / unsplash.com

Источник изображения: Stefan Cosma / unsplash.com

Полагаясь в работе на генеративный ИИ, человек переключает свои усилия на оценку качества ответов системы — насколько они подходят для применения в рабочих целях. При этом он в меньше степени задействует навыки критического мышления более высокого порядка, необходимые для создания, оценки и анализа информации. Если человек вмешивается только тогда, когда ответов ИИ недостаточно, он тем самым лишает себя «повседневной возможности практиковать свои суждения и укреплять свою когнитивную „мускулатуру“, оставляя её атрофированной и неподготовленной, когда возникают исключения». Другими словами, когда человек слишком сильно полагается на ИИ, позволяет ему «думать» за себя, он начинает хуже решать проблемы самостоятельно, если ИИ терпит неудачу.

Добровольцами в исследовании выступили 319 человек, которые признали, что хотя бы раз в неделю используют ИИ в работе. Их попросили привести примеры применения генеративного ИИ в работе, исходя из трёх основных сценариев: создание материалов, например, написание электронного письма коллеге; подготовка сводок информации, например, исследование темы или перечисление тезисов длинной статьи; обращение за советом или создание диаграммы на основе существующих данных. Далее добровольцев спросили, применяют ли они навыки критического мышления при выполнении задания, и заставляет ли работа с генеративным ИИ прилагать больше или меньше усилий для критического мышления. По каждой упомянутой задаче добровольцев попросили оценить, насколько они уверены в себе, в генеративном ИИ и в своей способности оценивать ответы ИИ.

 Источник изображения: Onur Binay / unsplash.com

Источник изображения: Onur Binay / unsplash.com

Около 36 % респондентов сообщили, что использовали навыки критического мышления, чтобы смягчить возможные отрицательные последствия работы с ИИ. Одна участница сообщила, что обращалась к ChatGPT при аттестации, но дважды проверяла ответы ИИ, опасаясь, что даст неверный ответ, и её отстранят. Другой доброволец рассказал, что ему приходилось редактировать подготовленные ИИ черновики электронных писем, адресованных его начальнику, потому что для того разница в положении и возрасте имела большое значение. Многие признались, что проверяли ответы ИИ, используя привычные ресурсы, в том числе YouTube и «Википедию», хотя это, возможно, сводит на нет сам смысл обращаться к ИИ.

Чтобы компенсировать имеющиеся у генеративного ИИ недостатки, работникам следует понимать, как эти недостатки возникают, но не все знают, каковы ограничения современного ИИ. Как показало исследование, уверенные в правильности ответов ИИ участники меньше применяли критическое мышление, чем те, кто сообщил об уверенности в собственных способностях. Учёные пока не утверждают, что инструменты ИИ как таковые делают человека глупее, но чрезмерная зависимость от них может ослабить нашу способность решать проблемы самостоятельно, гласят результаты исследования.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
МТС взялась за разработку собственных видеоигр 32 мин.
Huawei обвинили в копировании ИИ конкурентов — компания всё отрицает 34 мин.
Google открыла Gemini доступ ко всем приложениям на Android и толком не объяснила, как от этого отказаться 36 мин.
«Яндекс» наконец перешёл в прямое управление к участникам «Консорциум.Первый» 41 мин.
«ЗН Цифра» внедрила решения импортонезависимой экосистемы «Базиса» 48 мин.
OpenAI усилила режим секретности, опасаясь утечки передовых ИИ-разработок 54 мин.
Упор на сюжет, жуткие анимации и физическое ощущение ужаса: новые подробности гротескного хоррора Ill 2 ч.
«Romero Games не закрылась»: студия соавтора Doom Джона Ромеро жива, несмотря на отмену нового шутера 4 ч.
Британские СМИ восстали против ИИ-сводок в поиске Google и требуют отключить опцию 5 ч.
Чат-бот Илона Маска Grok стал ещё более «политически некорректным» после обновления 5 ч.
Изменения климата грозят дефицитом чипов — через 10 лет мир столкнётся с нехваткой меди для полупроводников 42 мин.
Intel запустила новую волну сокращений — работы лишатся тысячи специалистов 2 ч.
Gateway расправила плечи — гигантскую солнечную батарею для лунной станции впервые развернули во всю длину 2 ч.
Администрация Трампа опять надавила на Apple за промедление в переносе производства электроники в США 3 ч.
В гонке за лидерство в сфере ИИ поможет инфраструктура, а не хайп 3 ч.
Прибыль Samsung должна упасть впервые с 2023 года, причём сразу на 56 % 4 ч.
Jsaux представила кулер с клипсой для Nintendo Switch 2 5 ч.
Meta заполучила ещё одного крупного специалиста по ИИ — теперь из Apple 8 ч.
Суд не удовлетворил очередную жалобу Apple на запрет продажи в США часов Watch с датчиком содержания кислорода в крови 8 ч.
CoreWeave всё-таки купила оператора ЦОД Core Scientific, но в девять раз дороже, чем когда-то планировала 12 ч.