OpenAI добавила ChatGPT режим блокировки для защиты от промпт-инъекций

Компания OpenAI представила новую функцию ИИ-чат-бота ChatGPT — режим блокировки (Lockdown Mode), который обеспечит дополнительную защиту от атак с использованием промпт-инъекций (Prompt Injection), когда на веб-страницах и в других источниках контента содержатся скрытые вредоносные инструкции, обманным путём заставляющие ИИ выполнять несанкционированные действия.

Режим блокировки предназначен для снижения риска утечки данных в результате атак с использованием промпт-инъекций путём ограничения исходящих сетевых запросов за счёт отключения или ограничения некоторых функций. В частности, в режиме блокировки отключаются просмотр веб-страниц в реальном времени (доступ будет только к кешированному контенту), получение и отображение изображений из сети, углублённый поиск и режим агента.

Компания предупредила, что, хотя режим блокировки разработан для существенного снижения риска утечки данных в результате атак с использованием промпт-инъекций в ChatGPT и поддерживаемых продуктах OpenAI, он не гарантирует полной защиты от компрометации данных. Риск может сохраняться из-за включённых приложений. Кроме того, промпт-инъекции могут появляться в кешированном веб-контенте или в загруженных файлах и по-прежнему влиять на поведение модели или точность ответов.

OpenAI также уточнила, что режим блокировки предназначен не для всех: «Он разработан для людей и организаций, которые работают с конфиденциальными данными и хотят более строгой защиты от рисков утечки данных, связанных с внедрением запросов».

В настоящее время режим блокировки добавлен для учётных записей ChatGPT Business с самообслуживанием, а также для соответствующих личных аккаунтов, включая Free, Go, Plus и Pro.