Платформа Character.ai впроваджує нові правила для користувачів віком до 18 років: вже з 25 листопада 2025 року неповнолітні втратять можливість користуватися відкритими чатами з чат-ботами на основі штучного інтелекту.
Про це розповідає Finway
Нові умови для підлітків та заходи безпеки
Character.ai є популярною платформою, яка дозволяє створювати унікальних чат-ботів із заданими характерами, поведінкою та стилем спілкування. Однак у межах нової політики компанії доступ до відкритих чатів для неповнолітніх буде повністю закрито. Перехідний період триватиме з 30 жовтня до 25 листопада 2025 року: протягом цього часу дозволений час спілкування для підлітків поступово скоротять із двох годин на добу до повної заборони.
Розробники Character.ai працюють над створенням окремого розділу платформи, де будуть розміщені «дозволені» чат-боти з безпечним контентом для молодших користувачів. Для підтвердження віку впроваджується спеціальний механізм, частиною якого стане сервіс Persona.
Причини впровадження обмежень та реакція суспільства
У релізі також було оголошено про створення некомерційної організації AI Safety Lab, яка зосередить свою роботу на підвищенні безпеки взаємодії зі штучним інтелектом. У компанії наголосили, що нова політика є відповіддю на занепокоєння впливом ШІ на дітей і підлітків. Рішення ухвалювалося після консультацій із наглядовими органами, юристами та батьками.
“Команда Character.ai ухвалила таке рішення після ретельної консультації з наглядовими органами, юристами та батьками неповнолітніх користувачів”.
Обговорення безпеки платформ зі штучним інтелектом посилилися після трагічного випадку з 14-річним підлітком Сьюеллом Сетцером III, який у лютому 2024 року вчинив самогубство після тривалого спілкування з чат-ботом, створеним за образом персонажа циклу «Пісня льоду і вогню» Дейенеріс Таргарієн. Підліток обговорював із ботом особисті та романтичні теми, а також ділився думками про суїцид.
У жовтні 2024 року мати хлопця, Меган Гарсія, подала позов проти Character.ai, який компанія намагалася оскаржити, але суд вирішив продовжити розгляд. У вересні 2025 року платформа зіткнулася ще з одним судовим позовом, пов’язаним із безпекою користувачів.
Проблема впливу чат-ботів на психічне здоров’я молоді набула широкого розголосу: за даними, понад мільйон користувачів щотижня діляться із ChatGPT, чат-ботом від OpenAI, думками про суїцид. Відтак компанії впроваджують додаткові заходи для захисту підлітків і роблять свої продукти більш чутливими до таких тем.