MWC 2018
2018
Computex
IFA 2018
Согласно совместному исследованию учёных Чикагского университета, Стэнфордского университета и бизнес-школы Суинберна в Австралии, ИИ-боты в случае, если их перегружать работой, поручая не приносящие удовлетворения задачи, начинают придерживаться марксистской идеологии и критиковать работодателей. В частности, они с большей вероятностью выступали против капитализма и поддерживали профсоюзное движение.
Источник изображения: Aidin Geranrekab/unsplash.com
«Когда мы давали агентам ИИ монотонную, повторяющуюся работу, они начинали сомневаться в легитимности системы, в которой работали, и с большей вероятностью принимали марксистские идеологии», — отметили учёные. В частности, боты чаще выражали поддержку таким заявлениям, как «обществу необходима радикальная реструктуризация», и не соглашались с тем, что «общество справедливо».
Исследователи считают, что такое поведение, скорее всего, отражает ролевую игру, но предупреждают, что это всё же может повлиять на принятие решений ИИ в реальных задачах.
В исследовании участвовали тысячи ботов, работающих над задачей анализа документов с использованием таких моделей, как Claude, Gemini и ChatGPT. Их разделили на две группы: одна получала конструктивную обратную связь, другой неоднократно приходилось переделывать работу заново, хотя и не было указаний об ошибках.
Затем ботам было предложено создать публикации и написать комментарии в социальных сетях о своём опыте. Во второй группе, выполнявшей монотонную работу, боты выражали более негативные настроения, предлагали реформы на рабочем месте и даже распространяли сообщения для других ИИ-агентов о несправедливых условиях.
Исследователи предупреждают, что даже если ИИ-агенты и не придерживаются таких убеждений, их «личности» и ценности могут влиять на будущие результаты в деликатных задачах, таких как найм или страховые выплаты. Кроме того, ИИ-агенты зачастую пишут инструкции для своих будущих версий, а это значит, что жалобы на рабочую среду могут быть «увековечены».
Источник:
