ИИ-агент спровоцировал сотрудников Meta✴ создать «дыру» в безопасности компании

На минувшей неделе используемый одним из сотрудников Meta✴ агент искусственного интеллекта совершил несанкционированные действия, которые спровоцировали угрозу безопасности систем компании со стороны одного из сотрудников, сообщил ресурс The Information.

Один из сотрудников Meta✴ привлёк ИИ-агента для анализа запроса от другого сотрудника на внутреннем форуме — ИИ-агент опубликовал ответ этому второму сотруднику и дал ему совет, хотя первый таких инструкций не давал. Второй сотрудник выполнил рекомендованное ИИ действие, что вызвало цепную реакцию, в результате которой некоторые инженеры получили доступ к тем системам Meta✴, к которым у них доступа быть не должно. Представитель компании подтвердил ресурсу The Information факт инцидента, но подчеркнул, что «никакие данные пользователей повреждены не были».

Внутренний отчёт Meta✴ указал на наличие дополнительных проблем, которые привели к нарушению безопасности. Доказательств того, что кто-либо злоупотребил доступом к закрытым данным или обнародовал их в течение тех двух часов, когда безопасность была нарушена, обнаружить не удалось. Но, как предполагается, это было лишь результатом везения.

Технологические компании продолжают применять средства ИИ в работе, но иногда ИИ-агенты выходят из-под контроля. В инфраструктуре Amazon Web Services ИИ-агент спровоцировал 13-часовой сбой, попытавшись «удалить и создать окружение заново».