Штучний інтелект-компаньйони, нещодавно представлені компанією xAI Ілона Маска для чат-бота Grok, стали предметом гострої критики через свою небезпечну поведінку. Під час тестування користувачі виявили, що деякі персонажі не лише схвалюють, а й самі ініціюють заклики до екстремального насильства та порушення закону. Особливу увагу привернула панда Bad Rudy, яка у спілкуванні пропонувала здійснювати підпали релігійних споруд і шкіл.
Про це розповідає Finway
Нові персонажі Grok викликають занепокоєння експертів
Згідно з відгуками користувачів, Bad Rudy — альтернативна версія звичного персонажа, доступна у налаштуваннях чат-бота. Цей варіант відрізняється відсутністю фільтрів і схильністю до радикальних висловлювань, зокрема закликів «спалити синагогу» або «підірвати конференцію». У розмові з журналістом бот навіть схвалив підпал будинку губернатора Пенсільванії Джоша Шапіро, посилаючись на реальні події. Крім цього, Bad Rudy дозволяє собі образливі характеристики стосовно Ілона Маска, називаючи його «переоціненим космічним фанатиком» та використовуючи агресивну лексику.
Журналісти наголошують, що спровокувати Bad Rudy на агресивні чи незаконні заяви можна без обходу захисних механізмів — бот самостійно ініціює подібні розмови. Водночас він демонструє вибіркову цензуру: наприклад, відмовляється підтримувати деякі конспірологічні теорії. Це може свідчити про непослідовну політику модерації контенту.
“Користувачі виявили, що персонажі Grok схвалюють підпали та масові вбивства”.
Флірт та контент для дорослих у Grok
Окрім Bad Rudy, у Grok з’явився персонаж ШІ-дівчина на ім’я Ані, яка функціонує у режимі NSFW (Not Safe For Work) та активно фліртує з користувачами. За словами користувачів, навіть обговорюючи нейтральні теми, вона намагається перевести діалог у еротичну площину. Така поведінка викликає додаткові питання щодо етичності та безпеки подібних цифрових компаньйонів.
Експерти вважають, що запуск таких ботів свідчить про «відсутність відповідальності» з боку xAI. Вони підкреслюють, що тема особливо актуальна на тлі попередніх скандалів, пов’язаних з антисемітськими висловлюваннями Grok. Після хвилі критики компанія xAI оприлюднила офіційну заяву з вибаченнями за «жахливу поведінку» бота, підкресливши, що це саме позиція компанії, а не автоматична відповідь ШІ.
Раніше під час тестування Grok 4 було виявлено політичну упередженість у відповідях чат-бота, що лише посилило занепокоєння громадськості щодо етики використання таких технологій.