У ChatGPT з’явилася нова функція безпеки під назвою Lockdown Mode, яка має на меті запобігти витоку даних під час роботи з платформою.
Про це розповідає Finway
Механізми захисту від prompt injection та ризикованих функцій
OpenAI презентувала одразу два нових інструменти для підвищення безпеки користувачів ChatGPT – Lockdown Mode та маркування функцій із підвищеним ризиком, які отримали позначку Elevated Risk. Головна мета цих оновлень – протидія атакам типу prompt injection, коли зловмисники намагаються змусити штучний інтелект виконувати небезпечні інструкції чи відкривати конфіденційну інформацію.
Особливості та доступність режиму Lockdown Mode
Режим Lockdown Mode є додатковим і опціональним рівнем захисту, орієнтованим на користувачів із підвищеними вимогами до безпеки, таких як керівники компаній або команди кібербезпеки. У цьому режимі ChatGPT суттєво обмежує взаємодію зі сторонніми системами, що мінімізує ймовірність витоку інформації через атаки prompt injection. Зокрема, перегляд сайтів дозволяється виключно за допомогою кешованих сторінок без підключення до зовнішніх ресурсів, а окремі інструменти можуть бути повністю відключені.
“Lockdown Mode – це додатковий, опціональний режим безпеки для користувачів із підвищеними вимогами до захисту, зокрема керівників компаній та команд кібербезпеки. У цьому режимі ChatGPT жорстко обмежує взаємодію із зовнішніми системами, щоб мінімізувати ризик витоку даних через prompt injection”.
Lockdown Mode наразі доступний для користувачів тарифних планів Enterprise, Edu, Healthcare та Teachers. Адміністратори можуть активувати захист в налаштуваннях робочого простору, створюючи специфічну роль із додатковими обмеженнями та визначаючи, які дії та застосунки дозволені для користувачів. Відстеження та контроль за дотриманням політик здійснюється через Compliance API Logs Platform. У майбутньому OpenAI планує надати можливість використання Lockdown Mode й звичайним користувачам.
Окрім того, компанія запроваджує єдину позначку Elevated Risk для функцій і можливостей, що можуть бути потенційно небезпечними або містять додаткові ризики, зокрема пов’язані з доступом до мережі. Ця позначка відображатиметься у ChatGPT, ChatGPT Atlas і Codex разом із поясненням можливих загроз.