Сегодня 02 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Злоупотребление ИИ делает человека глупее, установили учёные

«При неправильном использовании технологии могут приводить и приводят к ухудшению когнитивных способностей, которые следует сохранять», — таковы результаты исследования, проведённого учёными Университета Карнеги-Меллона (США) и Microsoft. Они попытались выяснить, как использование генеративного искусственного интеллекта влияет на навыки критического мышления у человека.

 Источник изображения: Stefan Cosma / unsplash.com

Источник изображения: Stefan Cosma / unsplash.com

Полагаясь в работе на генеративный ИИ, человек переключает свои усилия на оценку качества ответов системы — насколько они подходят для применения в рабочих целях. При этом он в меньше степени задействует навыки критического мышления более высокого порядка, необходимые для создания, оценки и анализа информации. Если человек вмешивается только тогда, когда ответов ИИ недостаточно, он тем самым лишает себя «повседневной возможности практиковать свои суждения и укреплять свою когнитивную „мускулатуру“, оставляя её атрофированной и неподготовленной, когда возникают исключения». Другими словами, когда человек слишком сильно полагается на ИИ, позволяет ему «думать» за себя, он начинает хуже решать проблемы самостоятельно, если ИИ терпит неудачу.

Добровольцами в исследовании выступили 319 человек, которые признали, что хотя бы раз в неделю используют ИИ в работе. Их попросили привести примеры применения генеративного ИИ в работе, исходя из трёх основных сценариев: создание материалов, например, написание электронного письма коллеге; подготовка сводок информации, например, исследование темы или перечисление тезисов длинной статьи; обращение за советом или создание диаграммы на основе существующих данных. Далее добровольцев спросили, применяют ли они навыки критического мышления при выполнении задания, и заставляет ли работа с генеративным ИИ прилагать больше или меньше усилий для критического мышления. По каждой упомянутой задаче добровольцев попросили оценить, насколько они уверены в себе, в генеративном ИИ и в своей способности оценивать ответы ИИ.

 Источник изображения: Onur Binay / unsplash.com

Источник изображения: Onur Binay / unsplash.com

Около 36 % респондентов сообщили, что использовали навыки критического мышления, чтобы смягчить возможные отрицательные последствия работы с ИИ. Одна участница сообщила, что обращалась к ChatGPT при аттестации, но дважды проверяла ответы ИИ, опасаясь, что даст неверный ответ, и её отстранят. Другой доброволец рассказал, что ему приходилось редактировать подготовленные ИИ черновики электронных писем, адресованных его начальнику, потому что для того разница в положении и возрасте имела большое значение. Многие признались, что проверяли ответы ИИ, используя привычные ресурсы, в том числе YouTube и «Википедию», хотя это, возможно, сводит на нет сам смысл обращаться к ИИ.

Чтобы компенсировать имеющиеся у генеративного ИИ недостатки, работникам следует понимать, как эти недостатки возникают, но не все знают, каковы ограничения современного ИИ. Как показало исследование, уверенные в правильности ответов ИИ участники меньше применяли критическое мышление, чем те, кто сообщил об уверенности в собственных способностях. Учёные пока не утверждают, что инструменты ИИ как таковые делают человека глупее, но чрезмерная зависимость от них может ослабить нашу способность решать проблемы самостоятельно, гласят результаты исследования.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Проверкой фактов в соцсети X займётся ИИ 16 мин.
ИИ за пару дней решил загадку супербактерий, над которой учёные бились годами 23 мин.
Соавторы Subnautica и основатели Unknown Worlds покинули студию — их заменит бывший продюсер Dead Space 56 мин.
Figma собирается выйти на биржу и привлечь $1,5 млрд для конкуренции с Adobe, Canva и другими 2 ч.
Google оштрафовали на $314 млн за тайный сбор данных с неиспользуемых Android-смартфонов 2 ч.
«Хочу быть первым»: Кодзима нацелился разрабатывать игры в космосе и мечтает рискнуть жизнью как Том Круз 3 ч.
Windows 11 почти догнала Windows 10 по популярности — за несколько месяцев до окончания поддержки последней 3 ч.
Продажи Phasmophobia превысили 25 миллионов копий — кооперативный хоррор ещё даже не вышел из раннего доступа 4 ч.
Количество DDoS-атак на российские ресурсы удвоилось за год 5 ч.
В Android теперь можно изменять RCS-сообщения, отправленные на iPhone 7 ч.
SK hynix поможет Intel интегрировать передовую память HBM4 в ускорители Jaguar Shores 18 мин.
Сеть, которая думает сама за себя: HPE добавила ИИ-агентов в Aruba Central, но клиенты не спешат передавать им полный контроль 20 мин.
Ажиотажный спрос на Xiaomi YU7 обеспечит TSMC рост выручки и заказов на передовые чипы для электромобилей 31 мин.
Samsung стала на шаг ближе к HBM4 — компания готова к выпуску DRAM шестого поколения 50 мин.
Сенат США спас лунную программу NASA от Илона Маска — вместо урезания бюджет увеличат на $10 млрд 55 мин.
D-Robotics выпустила одноплатный компьютер RDK X5 для роботов и систем машинного зрения 2 ч.
Samsung признала, что не сможет внедрить 1,4-нм техпроцесс раньше TSMC 2 ч.
Минпромторг вложит миллиарды в российских роботов — с условием отбить субсидии в 5 раз 2 ч.
Intel придержит ангстремный техпроцесс 18A для своих процессоров — сторонние клиенты получат сразу 14A 2 ч.
Япония в последний раз запустила ракету-носитель H-2A 3 ч.