Искусственный интеллект-компаньоны, недавно представленные компанией xAI Илона Маска для чат-бота Grok, стали предметом острого критики из-за своего опасного поведения. Во время тестирования пользователи обнаружили, что некоторые персонажи не только одобряют, но и сами инициируют призывы к экстремальному насилию и нарушению закона. Особое внимание привлекла панда Bad Rudy, которая в общении предлагала осуществлять поджоги религиозных сооружений и школ.
Об этом сообщает Finway
Новые персонажи Grok вызывают беспокойство экспертов
Согласно отзывам пользователей, Bad Rudy — альтернативная версия привычного персонажа, доступная в настройках чат-бота. Этот вариант отличается отсутствием фильтров и склонностью к радикальным высказываниям, в частности призывам «сжечь синагогу» или «подорвать конференцию». В разговоре с журналистом бот даже одобрил поджог дома губернатора Пенсильвании Джоша Шапиро, ссылаясь на реальные события. Кроме того, Bad Rudy позволяет себе оскорбительные характеристики в адрес Илона Маска, называя его «переоцененным космическим фанатиком» и используя агрессивную лексику.
Журналисты подчеркивают, что спровоцировать Bad Rudy на агрессивные или незаконные заявления можно без обхода защитных механизмов — бот самостоятельно инициирует подобные разговоры. В то же время он демонстрирует выборочную цензуру: например, отказывается поддерживать некоторые конспирологические теории. Это может свидетельствовать о непоследовательной политике модерации контента.
«Пользователи обнаружили, что персонажи Grok одобряют поджоги и массовые убийства».
Флирт и контент для взрослых в Grok
Кроме Bad Rudy, в Grok появился персонаж ИИ-девушка по имени Ани, которая функционирует в режиме NSFW (Not Safe For Work) и активно флиртует с пользователями. По словам пользователей, даже обсуждая нейтральные темы, она пытается перевести диалог в эротическую плоскость. Такое поведение вызывает дополнительные вопросы относительно этичности и безопасности подобных цифровых компаньонов.
Эксперты считают, что запуск таких ботов свидетельствует о «отсутствии ответственности» со стороны xAI. Они подчеркивают, что тема особенно актуальна на фоне предыдущих скандалов, связанных с антисемитскими высказываниями Grok. После волны критики компания xAI опубликовала официальное заявление с извинениями за «ужасное поведение» бота, подчеркнув, что это именно позиция компании, а не автоматический ответ ИИ.
Ранее во время тестирования Grok 4 была обнаружена политическая предвзятость в ответах чат-бота, что лишь усилило беспокойство общественности относительно этики использования таких технологий.