Глава OpenAI Сэм Альтман (Sam Altman) в подкасте MD MEETS с генеральным директором Axel Springer Матиасом Дёпфнером (Mathias Döpfner) озвучил тревожный сценарий развития технологий: человечество может утратить контроль над искусственным интеллектом (ИИ) не из-за злого умысла или техногенной катастрофы, а совершенно случайно.
Источник изображений: sama/x.com
По его словам, опасность кроется не в том, что ИИ «восстанет», а в том, что люди сами постепенно передадут ему бразды правления — добровольно и почти незаметно. С каждым днём пользователи всё больше полагаются на советы искусственного интеллекта. Но модели становятся умнее и Альтман рисует такую картину: сначала ИИ даёт рекомендации, которым люди охотно следуют, потом — советы, которые могут быть даже не до конца понятны, но они неизменно оказываются правильными. Далее, в какой-то момент, перед пользователями встанет выбор — послушаться ИИ или проиграть конкурентам, которые выполняют его советы и рекомендации.
В итоге, по мнению Альтмана, большинство людей начнут безоговорочно следовать рекомендациям ИИ-ассистентов. «Представьте, что происходит с ChatGPT уже сегодня? Сотни миллионов людей ежедневно общаются с ним, вскоре их станет миллиард. И всё чаще мы доверяем ему важнейшие решения в карьере, личной жизни и бизнесе», — говорит он. Особенно Альтмана беспокоит формирующаяся «петля обратной связи», то есть, чем чаще пользователи полагаются на советы искусственного интеллекта, тем больше данных он собирает, тем умнее становится и тем сильнее влияет на решения людей.
Глава OpenAI задался вопросом, кто же в такой ситуации действительно контролирует происходящее, и пришёл к выводу, что человечество может незаметно начать исполнять волю искусственного интеллекта. По его убеждению, этот сценарий серьёзно недооценивается, хотя именно он представляет собой наиболее реальную угрозу.
