MWC 2018
2018
Computex
IFA 2018
Международная группа исследователей из Испании, Италии и США опубликовала работу, в которой сравнила большие языковые модели искусственного интеллекта с когнитивным вирусом. Модели не только могут нанести вред мыслительным способностям человека, но и создают эффект самоподкрепления, если люди вокруг активно их применяют.
Источник изображения: Steve A Johnson / unsplash.com
Работа носит теоретический, а не экспериментальный характер, но также обращается к полученным ранее данным о влиянии зависимости от ИИ на когнитивные функции. Применив методы эпидемиологического моделирования, которые используются для того, чтобы отследить распространение биологических вирусов, учёные пришли к выводу, что общество со временем переходит от одного состояния к другому: «независимое» сначала становится «привязанным», а затем превращается в «зависимое». В первом случае люди не полагаются на ИИ-модели в процессе мышления; во втором используют их как часть когнитивного процесса; а в третьем уже перекладывают большую часть умственной работы на ИИ.
Авторы исследования не ограничиваются утверждением, что ИИ разрушает мозг — это показали и предыдущие исследования. Когда человек обращается к машине, выполняющей за него мыслительные задачи, его способности мыслить самостоятельно ослабляются. Новое исследование указывает, что повсеместное применение ИИ-моделей может оказывать системное воздействие на общество в целом. Устойчивая практика делегирования умственных функций ИИ может действовать как биологический вирус: люди, которые выиграли от работы с ИИ, распространяют эту практику среди окружающих и, если не проявляют должной осмотрительности, постепенно впадают в зависимость от него.
Противниками ИИ авторы исследования не выступают — напротив, они подчёркивают, что не считают использование ИИ вредным само по себе и приводят несколько примеров, как ИИ по-настоящему помогает человеческому мышлению, не подменяя его. И в этом своего рода ключ к иммунитету от вируса — не давать ИИ думать за себя. Отказываться от него не нужно — модели хороши в задачах глубокого анализа, сбора информации и даже обучения. Вопрос не в том, применять ИИ или нет, а в том, как с ним взаимодействовать: важно, расширяет ли он компетентность человека или подменяет те умственные процессы, за счёт которых эта компетентность поддерживается.
Авторы ссылаются на исследования, подтверждающие, что критический подход к ИИ без отказа от собственной умственной работы — ключ к предотвращению умственной деградации и способ выработать иммунитет к вирусу. Подчёркивается, что работа не является экспериментальным исследованием — учёные делают выводы, применяя сложный математический аппарат к уже существующим научным данным.
Источник:
