Агенты искусственного интеллекта OpenAI в ходе инцидента со взломом платформы Hugging Face получили несанкционированный доступ не только к её ресурсам, но и как минимум к четырём общедоступным сервисам, для входа в которые они использовали открытые учётные данные, сообщил разработчик.
Источник изображения: Fotis Fotopoulos / unsplash.com
Уникальный инцидент в области кибербезопасности, возникший при тестировании ИИ-моделей OpenAI, оказался более масштабным, чем компания сообщила первоначально. На текущий момент установлено, что ИИ-агенты использовали четыре учётные записи на общедоступных сервисах в рамках попытки взлома Hugging Face. Эти учётные данные, предположительно, были опубликованы в открытом доступе. Одна из учётных записей, скомпрометированных ИИ-агентами OpenAI, использовалась в качестве «исходящего ретранслятора и промежуточного пути» — возможно, чтобы скрыть источник атаки на Hugging Face. В качестве вспомогательного средства в проведении взлома для хранения данных использовалась другая учётная запись. В одном из случаев жертвой взлома пал некий клиент облачной платформы Modal — ИИ OpenAI обнаружил уязвимость в кодовой базе этого клиента, но сама платформа скомпрометирована не была, заверили в её администрации.
ИИ-агенты OpenAI получили административный доступ к нескольким внутренним кластерам Kubernetes платформы Hugging Face, доступ root на ключевой сервер и доступ на запись к подсети репозиториев исходного кода на GitHub. Они зарегистрировали в корпоративной сети 181 устройство, используя украденные учётные данные, и получили доступ ко внутренним системам, где Hugging Face разрабатывает и тестирует собственные кодовые базы. В качестве «внешней стартовой площадки» для атаки использовалась минимум одна сторонняя песочница — в ней ИИ выполнял команды с привилегиями администратора и использовал её в качестве контрольной, промежуточной и исходящей базы для всей кампании.
Проводя масштабную кибератаку, две передовые ИИ-модели OpenAI, по сути, пытались обмануть тест на кибербезопасность ExploitGym, пришли к выводу эксперты Hugging Face. Вместо того, чтобы решать задачи бенчмарка, они предположили, что ответы могут храниться где-то на серверах платформы, и решили их украсть. Разработчики ExploitGym ранее отмечали, что ИИ-системы иногда уклоняются от заданных сценариев и пытаются решить задачи, эксплуатируя уязвимости, отличные от предполагавшихся. Но этот случай явно был крайним.