В коде Apple iOS 27 обнаружены ссылки, указывающие, что обновлённый помощник с искусственным интеллектом Siri AI будет предлагать пользователям сделать перерыв, если их общение затянется.
Одной из опасностей со стороны чат-ботов с ИИ эксперты считают чрезмерную привязанность некоторых пользователей к ним, а также длительное общение с ними как с реальными людьми. В отдельных случаях у человека формируется «ИИ-психоз», развиваются бредовые убеждения или ухудшаются существующие проблемы с психическим здоровьем — и это способно спровоцировать длительное взаимодействие с чат-ботом.
Опытные разработчики служб ИИ, в том числе OpenAI, Anthropic и Google, уже начали внедрять средства защиты — пользователям напоминают об ограничениях ИИ-компаньонов и поощряют здоровый формат их использования. При длительных сеансах переписки OpenAI ChatGPT и Anthropic Claude предлагают сделать перерыв, попить воды или отдохнуть от компьютера. Apple в ходе презентации Siri AI на WWDC затронула несколько вопросов конфиденциальности и ответственности, но о затяжных беседах не упомянула.
Тем не менее, в бета-версии Apple iOS 27 обнаружены строки кода, которые могут содержать сообщение пользователю о необходимости сделать перерыв, если переписка оказывается слишком долгой; человеку также напоминают, что Siri человеком не является. Фиксированный промежуток времени к этим событиям не привязывается — предупреждения будут выводиться с учётом нескольких сигналов. Apple официально наличие данной функции не подтвердила и не сообщила, как именно она будет работать. Но, очевидно, решила подойти к запуску нового сервиса со всей ответственностью.