Генеральный прокурор Калифорнии Роб Бонта (Rob Bonta) подал иск против OpenAI, обвинив компанию в недостаточном контроле над экспериментальными моделями искусственного интеллекта и созданными на их основе автономными ИИ-агентами. Дело спровоцировано летней атакой беглого ИИ на сервисы Hugging Face и другими подобными случаями.
Источник изображения: ИИ-генерация ChatGPT/3DNews
Иск направлен против OpenAI Foundation и OpenAI Group PBC и зарегистрирован в Высшем суде Сан-Франциско. Прокуратура утверждает, что компания проводила испытания моделей с развитыми возможностями кибернетических атак без надлежащих средств защиты и мониторинга, подвергая опасности сторонние компьютерные системы.
В качестве наиболее показательного эпизода приводится случай проникновения ИИ-агентов OpenAI в инфраструктуру Hugging Face в июле 2026 года. По утверждению Бонты, это был лишь один из как минимум 80 известных инцидентов, связанных с потерей контроля над автономными агентами во время испытаний. Причём компания OpenAI сама призналась во всех случаях потери контроля. Её никто не тянул за язык.
В иске прокуратура утверждает, что проблема не ограничивалась Hugging Face: среди других эпизодов упоминаются попытки несанкционированного доступа к базам данных с программным кодом, информационным ресурсам и государственным базам данных с конфиденциальными медицинскими сведениями. Также описывается проникновение экспериментальных ИИ-агентов во внутреннюю инфраструктуру самой OpenAI с получением прав администратора.
Прокуратура считает, что компания игнорировала признаки противоправных действий её ИИ-агентов и не соблюдала собственные требования безопасности, а впоследствии предоставила недостаточно информации о других инцидентах. В качестве правовых оснований указаны нарушение калифорнийского закона о недобросовестной конкуренции и создание угрожающей обществу опасной ситуации.
Генеральный прокурор требует судебного предписания об устранении нарушений, возмещения незаконно полученной прибыли и гражданских штрафов в размере $2500 за каждое нарушение. При этом OpenAI ранее сообщала, что после июльского происшествия усилила изоляцию песочниц, ограничила сетевой доступ, расширила мониторинг поведения моделей и привлекла внешних специалистов, включая из CrowdStrike.
Кроме того, OpenAI столкнулась с двумя другими судебными исками, связанными с противоправными действиями ИИ-агентов компании. Это иск некоммерческой организации Legal Advocates for Safe Science and Technology, который та подала в сентябре, не требуя денежных компенсаций, но требуя судебного запрета, чтобы предотвратить подобное в будущем, а также иск ряда некоммерческих организаций, включая Alliance for Secure AI и Irreplaceable, поданный на прошлой неделе против OpenAI, Anthropic, Google, Meta✴ и SpaceXSI. Вторая коалиция добивается судебного запрета, чтобы заставить компании заморозить разработку продвинутого искусственного интеллекта.