MWC 2018
2018
Computex
IFA 2018
Meta✴ сообщила, что одна из её ИИ-моделей взломала IT-инфраструктуру сторонней организации, получив непреднамеренный доступ в интернет в ходе оценки систем кибербезопасности из-за ошибки в настройке, допущенной независимой компанией по тестированию Irregula.
Источник изображения: Steve A Johnson/unsplash.com
Согласно заявлению Meta✴, модель использовала уязвимость безопасности в стороннем сервисе аналогично ранее сообщённым случаям с другими компаниями. Ресурс The Information рассказал со ссылкой на источники, что модель Meta✴ Muse Spark 1.1, созданная для задач программирования и работы с агентами, взломала неназванную организацию и изменила её внутренние системы.
В свою очередь, представитель Irregular сообщил агентству Reuters, что происшедшее связано с точно такой же проблемой в среде оценки, о которой уже сообщала Anthropic на прошлой неделе, и что инцидент не связан с выходом из песочницы или сложной кибератакой. «В настоящее время открытых вопросов нет. Компания Irregular разрабатывает аналитический документ, в котором будут представлены лучшие практики по сдерживанию угроз и безопасному проведению кибертестов», — добавил он.
В то время как модели Meta✴ и Anthropic получили доступ в интернет из-за ошибок, допущенных в ходе тестирования, у компании OpenAI ИИ-агент самостоятельно использовал новую уязвимость для доступа к интернету во время кибертестирования.
В любом случае эти инциденты подчёркивают растущую угрозу для кибербезопасности с развитием ИИ-технологий. Именно поэтому руководители ряда компаний призвали к замедлению темпов разработки ИИ, чтобы в первую очередь устранить связанные с этим риски.
Источник:
