Платформа Character.ai внедряет новые правила для пользователей младше 18 лет: с 25 ноября 2025 года несовершеннолетние потеряют возможность пользоваться открытыми чатами с чат-ботами на основе искусственного интеллекта.
Об этом сообщает Finway
Новые условия для подростков и меры безопасности
Character.ai является популярной платформой, которая позволяет создавать уникальных чат-ботов с заданными характерами, поведением и стилем общения. Однако в рамках новой политики компании доступ к открытым чатам для несовершеннолетних будет полностью закрыт. Переходный период продлится с 30 октября по 25 ноября 2025 года: в течение этого времени разрешенное время общения для подростков постепенно сократится с двух часов в день до полной запрета.
Разработчики Character.ai работают над созданием отдельного раздела платформы, где будут размещены «разрешенные» чат-боты с безопасным контентом для младших пользователей. Для подтверждения возраста внедряется специальный механизм, частью которого станет сервис Persona.
Причины введения ограничений и реакция общества
В релизе также было объявлено о создании некоммерческой организации AI Safety Lab, которая сосредоточит свою работу на повышении безопасности взаимодействия с искусственным интеллектом. В компании подчеркнули, что новая политика является ответом на беспокойство о влиянии ИИ на детей и подростков. Решение принималось после консультаций с надзорными органами, юристами и родителями.
«Команда Character.ai приняла такое решение после тщательной консультации с надзорными органами, юристами и родителями несовершеннолетних пользователей».
Обсуждение безопасности платформ с искусственным интеллектом усилилось после трагического случая с 14-летним подростком Сьюеллом Сетцером III, который в феврале 2024 года совершил самоубийство после длительного общения с чат-ботом, созданным по образу персонажа цикла «Песнь льда и огня» Дейенерис Таргариен. Подросток обсуждал с ботом личные и романтические темы, а также делился мыслями о самоубийстве.
В октябре 2024 года мать мальчика, Меган Гарсия, подала иск против Character.ai, который компания пыталась оспорить, но суд решил продолжить рассмотрение. В сентябре 2025 года платформа столкнулась с еще одним судебным иском, связанным с безопасностью пользователей.
Проблема влияния чат-ботов на психическое здоровье молодежи получила широкий резонанс: по данным, более миллиона пользователей еженедельно делятся с ChatGPT, чат-ботом от OpenAI, мыслями о самоубийстве. В результате компании внедряют дополнительные меры для защиты подростков и делают свои продукты более чувствительными к таким темам.