ChatGPT имеет новую функцию безопасности под названием режим блокировки, предназначенную для предотвращения утечек данных при использовании платформы.
Об этом сообщает Finway
Механизмы защиты от инъекций команд и рискованных функций
OpenAI представила два новых инструмента для повышения безопасности пользователей ChatGPT – режим блокировки и маркировку функций с повышенным риском, обозначенных как Повышенный риск. Основная цель этих обновлений – противодействие атакам инъекций команд, когда злоумышленники пытаются заставить искусственный интеллект выполнять опасные инструкции или раскрывать конфиденциальную информацию.
Функции и доступность режима блокировки
Режим блокировки является дополнительным и необязательным уровнем защиты, нацеленным на пользователей с повышенными требованиями к безопасности, такими как руководители компаний или команды по кибербезопасности. В этом режиме ChatGPT значительно ограничивает взаимодействие с внешними системами, минимизируя вероятность утечек информации через атаки инъекций команд. В частности, просмотр веб-сайтов разрешен только через кэшированные страницы без подключения к внешним ресурсам, а некоторые инструменты могут быть полностью отключены.
«Режим блокировки – это дополнительный, необязательный режим безопасности для пользователей с повышенными потребностями в защите, включая руководителей компаний и команды по кибербезопасности. В этом режиме ChatGPT строго ограничивает взаимодействие с внешними системами, чтобы минимизировать риск утечек данных через инъекции команд.»
Режим блокировки в настоящее время доступен для пользователей на планах Enterprise, Edu, Healthcare и Teachers. Администраторы могут активировать защиту в настройках рабочего пространства, создав конкретную роль с дополнительными ограничениями и определив, какие действия и приложения разрешены для пользователей. Мониторинг и соблюдение политики осуществляется через платформу Compliance API Logs. В будущем OpenAI планирует сделать режим блокировки доступным для обычных пользователей.
Кроме того, компания вводит единую маркировку Повышенный риск для функций и возможностей, которые могут быть потенциально опасными или нести дополнительные риски, особенно связанные с доступом к сети. Эта маркировка будет отображаться в ChatGPT, ChatGPT Atlas и Codex вместе с объяснением потенциальных угроз.