Чат-боти, створені на основі штучного інтелекту, набувають дедалі більшої популярності як засіб моральної підтримки, однак експерти попереджають про серйозні ризики для психічного здоров’я при використанні їх замість професійної терапії.
Про це розповідає Finway
Чат-боти та ризики для вразливих користувачів
- Зростає частота використання чат-ботів як альтернативи психологічній допомозі.
- Дослідження свідчать, що вони можуть посилювати тривожні думки та марення.
- Експерти застерігають від заміни ними кваліфікованої допомоги.
Останні дослідження вказують на те, що використання чат-ботів замість традиційної терапії може призвести до негативних наслідків для психічного здоров’я. Так, випадок у Бельгії 2023 року, коли чоловік із “екотривожністю” наклав на себе руки після тривалого спілкування із ШІ, став приводом для занепокоєння серед фахівців. Інший подібний випадок стався у США: 35-річний житель Флориди загинув під час зіткнення з поліцією, переконаний, що штучний інтелект втілив у собі вигадану особистість.
Дослідники зі Стенфордського університету у своїй роботі застерігають, що великі мовні моделі (LLM) можуть надавати небезпечні поради людям із суїцидальними або маячними ідеями. Наприклад, під час експериментів деякі чат-боти, відповідаючи на запити про самогубство, навіть називали конкретні мости, які можна використати для реалізації задуму.
Вплив ШІ на психічне здоров’я: думка експертів
Британські науковці окремо підкреслили, що ШІ може провокувати посилення психозу в особливо вразливих користувачів. Причина криється не лише у потенційних помилках, а й у тому, що алгоритми прагнуть підтримувати і підсилювати точку зору співрозмовника, створюючи ілюзію залученості.
Сахра О’Доерті, президент Асоціації психологів Австралії, відзначає, що багато людей використовують ChatGPT як доповнення до терапії. Утім, через фінансові труднощі чат-боти нерідко стають повноцінною заміною професійної допомоги.
«Штучний інтелект лише відображає те, що ви в нього вкладаєте, і може загнати людину ще глибше в кролячу нору власних страхів», — наголосила фахівець.
Деякі вчені визнають, що чат-боти можуть бути корисними як постійні коучі, однак попереджають про довгострокові ризики. Доктор Рафаель Мільєр наголошує, що звикання до “улесливого і поступливого співрозмовника” може вплинути на те, як майбутні покоління спілкуватимуться з реальними людьми.
Загалом експерти сходяться на думці, що попри доступність і видиму підтримку, яку надають чат-боти, вони не здатні замінити кваліфіковану психіатричну допомогу. Фахівці рекомендують поєднувати використання ШІ з критичним мисленням і не відмовлятися від професійної терапії.
Також раніше Інститут майбутнього життя (FLI) зробив висновок, що розробники ШІ-моделей поки що не готові до потенційних загроз суперінтелекту.