ИИ-бот ChatGPT научился притворяться Linux-машиной

Исследователь из компании DeepMind Джонас Дегрейв (Jonas Degrave) обнаружил, что функционирующий на основе алгоритмов искусственного интеллекта (ИИ) чат-бот ChatGPT, набравший огромную популярность в последние дни, умеет работать в режиме командной строки Linux.

На прошлой неделе исследовательская компания OpenAI, созданная при участии Илона Маска (Elon Musk) и поддерживаемая Microsoft, открыла всем желающим доступ к системе ИИ ChatGPT. Интеллектуальный бот поразил общественность своей способностью генерировать естественно выглядящие тексты на самые разные темы, но при этом зачастую выдавать не соответствующую действительности информацию. Платформа взаимопомощи программистов Stack Overflow уже запретила публикацию решений, предлагаемых ChatGPT.

Очередной эксперимент поставил над системой исследователь Джонас Дегрейв, заявивший ей, что он хочет, чтобы ChatGPT притворился терминалом (интерфейсом командной строки) Linux. Бот не стал возражать и действительно переключился в соответствующий режим, реагируя на дальнейшие команды как настоящий терминал операционной системы. ИИ погрузился в работу Linux-машины «с головой» и даже выполнил код, написанный на языке Python: господин Дегрейв предложил ChatGPT произвести простой расчёт, и система дала правильный ответ.

Другой экспериментатор заставил систему имитировать BBS (Bulletin Board System) — платформу электронных досок объявлений, которая когда-то служила для общения пользователей через телефонные сети. ChatGPT имитировал BBS в подробностях, изобразив и подключение через модем, и общение с собеседником по имени Лиза (Lisa).

В основе алгоритмов системы лежит выявление наиболее вероятных последующих слов, вытекающих из предыдущих слов в разговоре — в конечном итоге ChatGPT задействует всё его предшествующее содержание.