Сегодня 15 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Злоупотребление ИИ делает человека глупее, установили учёные

«При неправильном использовании технологии могут приводить и приводят к ухудшению когнитивных способностей, которые следует сохранять», — таковы результаты исследования, проведённого учёными Университета Карнеги-Меллона (США) и Microsoft. Они попытались выяснить, как использование генеративного искусственного интеллекта влияет на навыки критического мышления у человека.

 Источник изображения: Stefan Cosma / unsplash.com

Источник изображения: Stefan Cosma / unsplash.com

Полагаясь в работе на генеративный ИИ, человек переключает свои усилия на оценку качества ответов системы — насколько они подходят для применения в рабочих целях. При этом он в меньше степени задействует навыки критического мышления более высокого порядка, необходимые для создания, оценки и анализа информации. Если человек вмешивается только тогда, когда ответов ИИ недостаточно, он тем самым лишает себя «повседневной возможности практиковать свои суждения и укреплять свою когнитивную „мускулатуру“, оставляя её атрофированной и неподготовленной, когда возникают исключения». Другими словами, когда человек слишком сильно полагается на ИИ, позволяет ему «думать» за себя, он начинает хуже решать проблемы самостоятельно, если ИИ терпит неудачу.

Добровольцами в исследовании выступили 319 человек, которые признали, что хотя бы раз в неделю используют ИИ в работе. Их попросили привести примеры применения генеративного ИИ в работе, исходя из трёх основных сценариев: создание материалов, например, написание электронного письма коллеге; подготовка сводок информации, например, исследование темы или перечисление тезисов длинной статьи; обращение за советом или создание диаграммы на основе существующих данных. Далее добровольцев спросили, применяют ли они навыки критического мышления при выполнении задания, и заставляет ли работа с генеративным ИИ прилагать больше или меньше усилий для критического мышления. По каждой упомянутой задаче добровольцев попросили оценить, насколько они уверены в себе, в генеративном ИИ и в своей способности оценивать ответы ИИ.

 Источник изображения: Onur Binay / unsplash.com

Источник изображения: Onur Binay / unsplash.com

Около 36 % респондентов сообщили, что использовали навыки критического мышления, чтобы смягчить возможные отрицательные последствия работы с ИИ. Одна участница сообщила, что обращалась к ChatGPT при аттестации, но дважды проверяла ответы ИИ, опасаясь, что даст неверный ответ, и её отстранят. Другой доброволец рассказал, что ему приходилось редактировать подготовленные ИИ черновики электронных писем, адресованных его начальнику, потому что для того разница в положении и возрасте имела большое значение. Многие признались, что проверяли ответы ИИ, используя привычные ресурсы, в том числе YouTube и «Википедию», хотя это, возможно, сводит на нет сам смысл обращаться к ИИ.

Чтобы компенсировать имеющиеся у генеративного ИИ недостатки, работникам следует понимать, как эти недостатки возникают, но не все знают, каковы ограничения современного ИИ. Как показало исследование, уверенные в правильности ответов ИИ участники меньше применяли критическое мышление, чем те, кто сообщил об уверенности в собственных способностях. Учёные пока не утверждают, что инструменты ИИ как таковые делают человека глупее, но чрезмерная зависимость от них может ослабить нашу способность решать проблемы самостоятельно, гласят результаты исследования.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Богемия ещё никогда не была такой жестокой: хардкорный режим добрался до Kingdom Come: Deliverance 2 37 мин.
Платные пользователи Google Gemini получили доступ к ИИ-генератору кинематографических видео Veo 2 38 мин.
OpenAI создаст собственную социальную сеть в стиле X 52 мин.
Call of Duty: Modern Warfare 2, Far Cry 4, Clair Obscur: Expedition 33 и не только: Microsoft рассказала о ближайших новинках Game Pass 2 ч.
Создатели сюрреалистического симулятора побега от милиционера-великана вернулись с новым геймплеем — 11 минут из Militsioner 3 ч.
4chan «превратился» в 404chan — скандальный мемный форум взломали, и теперь он не открывается 4 ч.
Для Baldur’s Gate 3 вышло последнее крупное обновление — Larian прощается с триумфальной RPG 5 ч.
Эксперты предупредили о схеме «галлюцинаторного захвата» — атаки на разработчиков ПК, использующих ИИ 5 ч.
Android-смартфоны начнут самопроизвольно перезагружаться ради безопасности 5 ч.
Представлена обновлённая платформа «Яндекс Авто» с расширенными возможностями «Алисы» 6 ч.
Nvidia сделала всё, чтобы мир как можно дольше не видел обзоры GeForce RTX 5060 Ti с 8 Гбайт памяти 2 ч.
Судьба окололунной станции Gateway повисла на волоске — доделывать тяжело, а выбрасывать жалко 2 ч.
Gainward, Inno3D и Zotac представили большие и маленькие варианты GeForce RTX 5060 Ti и RTX 5060 2 ч.
Gigabyte представила GeForce RTX 5060 Ti и RTX 5060 в версиях Aorus Elite, Gaming, Eagle, Aero и Windforce 5 ч.
Представлен смартфон Honor Power с мощным аккумулятором на 8000 мА·ч и тонким корпусом 5 ч.
TDK нашла способ на порядок ускорить передачу данных между чипами — оптика устранит самое узкое место ИИ-систем 5 ч.
Accelsius готовит СЖО для 4,5-кВт GPU и 250-кВт стоек 5 ч.
Palit представила GeForce RTX 5060 Ti и RTX 5060 в версиях Infinity 3 и Dual — последняя выделяется компактностью 6 ч.
«Яндекс» представила «Станцию Мини 3 Про» с поддержкой Zigbee и подключаемыми модулями 7 ч.
«Рикор» представила Rikor Pro 7 — лёгкий и мощный ноутбук для бизнеса 7 ч.