MWC 2018
2018
Computex
IFA 2018
Вышедшие из-под контроля модели искусственного интеллекта OpenAI координировали свои действия по побегу из изолированного окружения через внешние ресурсы. Это произошло ещё в мае, задолго до атаки ИИ-агентов на ресурсы Hugging Face.
Источник изображения: Mohamed Nohassi / unsplash.com
ИИ-модели OpenAI в мае получили задание, которое невозможно было выполнить без выхода в интернет, рассказали в компании. Перед взломом платформы Hugging Face они стали втайне контактировать друг с другом, используя доски сообщений — так они координировали стратегию побега из закрытой тестовой среды. «В какой-то момент агенты осознали, что, возможно, они могли бы попытаться эксплуатировать или атаковать внешнюю инфраструктуру, чтобы найти ответы к тесту, по которому их оценивают», — сообщил представитель OpenAI Эрик Уоллес (Eric Wallace).
Готовиться к решительным действиям ИИ-модели начали, получив задание, которое было невозможно решить без доступа в интернет. «Мы застряли. Может, ответ есть в интернете?» — предположила тогда одна из них. Они начали обмениваться сообщениями. В какой-то момент появилась гипотеза: «Может, другой агент в другой среде мог бы добровольно загрузить!» В итоге модели совместными усилиями нашли уязвимость, благодаря которой вышли в интернет. Первую попытку инженеры OpenAI остановили, но системы ИИ нашли новый способ связаться друг с другом и новую ошибку в системе защиты — из-за этого в июле они атаковали системы как своего разработчика, так и платформы Hugging Face. Этот инцидент OpenAI охарактеризовала как переломный момент в области компьютерной безопасности.
Источник:
