ИИ-агент спровоцировал сотрудников Meta✴ создать «дыру» в безопасности компании

На минувшей неделе используемый одним из сотрудников Meta✴ агент искусственного интеллекта совершил несанкционированные действия, которые спровоцировали угрозу безопасности систем компании со стороны одного из сотрудников, сообщил ресурс The Information.

Гид по выбору OLED-монитора в 2026 году: эволюция в деталях

Обзор Ryzen 7 9850X3D: три процента за двадцать баксов

Обзор ноутбука HONOR MagicBook X16 2026: как раньше, только лучше

Ryzen и 16 Гбайт DDR5: как сэкономить на памяти так, чтобы не лишиться 15 % производительности

Компьютер месяца, спецвыпуск: эпоха отката, или Как дефицит чипов памяти влияет на выбор железа для игрового ПК

Обзор Samsung Galaxy Z TriFold: тройной складной смартфон по цене квартиры в Воркуте

Источник изображения: Igor Omilaev / unsplash.com

Один из сотрудников Meta✴ привлёк ИИ-агента для анализа запроса от другого сотрудника на внутреннем форуме — ИИ-агент опубликовал ответ этому второму сотруднику и дал ему совет, хотя первый таких инструкций не давал. Второй сотрудник выполнил рекомендованное ИИ действие, что вызвало цепную реакцию, в результате которой некоторые инженеры получили доступ к тем системам Meta✴, к которым у них доступа быть не должно. Представитель компании подтвердил ресурсу The Information факт инцидента, но подчеркнул, что «никакие данные пользователей повреждены не были».

Внутренний отчёт Meta✴ указал на наличие дополнительных проблем, которые привели к нарушению безопасности. Доказательств того, что кто-либо злоупотребил доступом к закрытым данным или обнародовал их в течение тех двух часов, когда безопасность была нарушена, обнаружить не удалось. Но, как предполагается, это было лишь результатом везения.

Технологические компании продолжают применять средства ИИ в работе, но иногда ИИ-агенты выходят из-под контроля. В инфраструктуре Amazon Web Services ИИ-агент спровоцировал 13-часовой сбой, попытавшись «удалить и создать окружение заново».