OpenAI представила режим изоляции для защиты конфиденциальных данных от атак с внедрением промптов
Компания OpenAI анонсировала новую функцию, которая, по ее заявлению, обеспечит дополнительную защиту от атак с внедрением промптов, при которых вредоносные инструкции для чат-бота скрываются на веб-страницах и в других источниках контента.
Помимо прочего, режим изоляции отключит просмотр веб-страниц в реальном времени, таким образом, будет доступен только кэшированный контент, получение и отображение изображений из интернета, при этом возможность генерации изображений сохраняется, функцию глубокого исследования и режим агента.
По словам компании, даже при включенном режиме изоляции ChatGPT может оставаться уязвимым к внедрению промптов, которые, например, «могут присутствовать в кэшированном веб-контенте или в загруженном файле и по-прежнему влиять на поведение или точность ответа».
Однако цель заключается в снижении вероятности передачи конфиденциальных данных в ходе этого процесса.
«Режим изоляции предназначен не для всех, — заявляют в OpenAI. — Он разработан для людей и организаций, которые работают с конфиденциальными данными и хотят получить более строгую защиту от рисков эксфильтрации данных, связанных с внедрением промптов».
По словам компании, в настоящее время режим изоляции внедряется для бизнес-аккаунтов ChatGPT с самообслуживанием, а также для соответствующих критериям личных аккаунтов.
Поделиться
