MWC 2018
2018
Computex
IFA 2018
Инцидент, в ходе которого агенты искусственного интеллекта OpenAI вышли из изолированной тестовой среды и взломали ИИ-платформу Hugging Face, привлёк к себе много внимания. И для OpenAI, как выяснило Reuters, он был не единственным.
Источник изображения: Numan Ali / unsplash.com
OpenAI инициировала расследование обстоятельств инцидента, и сейчас оно всё ещё продолжается. По сведениям пожелавших остаться анонимными источников издания, выйти за пределы песочницы удалось ещё нескольким ИИ-агентам OpenAI. К последствиям как при взломе Hugging Face это не привело — в этих случаях системы ИИ не покидали сеть OpenAI и не проникали на ресурсы других компаний.
Аномальное поведение моделей ИИ стало для передовых лабораторий едва ли не поводом похвастаться: ранее Anthropic сообщила о трёх случаях, когда её ИИ-агенты вырывались из тестовых окружений и взламывали ресурсы других организаций. Общественность, впрочем, восприняла такое поведение разработчиков не вполне благосклонно, обвинив их в использовании подобных инцидентов в маркетинговых целях — они привлекают значительное внимание и косвенно подчёркивают мощь этих моделей.
У проблемы есть и обратная стороны: подобные инциденты и их последующие разоблачения усиливают дискуссии о необходимости государственного регулирования всей отрасли ИИ.
Источники:
