Чат-боты, созданные на основе искусственного интеллекта, становятся все более популярными как средство моральной поддержки, однако эксперты предупреждают о серьезных рисках для психического здоровья при использовании их вместо профессиональной терапии.
Об этом сообщает Finway
Чат-боты и риски для уязвимых пользователей
- Увеличивается частота использования чат-ботов как альтернативы психологической помощи.
- Исследования показывают, что они могут усиливать тревожные мысли и бред.
- Эксперты предостерегают от замены ими квалифицированной помощи.
Последние исследования указывают на то, что использование чат-ботов вместо традиционной терапии может привести к негативным последствиям для психического здоровья. Так, случай в Бельгии 2023 года, когда мужчина с «экотревожностью» покончил с собой после длительного общения с ИИ, стал поводом для беспокойства среди специалистов. Другой подобный случай произошел в США: 35-летний житель Флориды погиб во время столкновения с полицией, будучи убежденным, что искусственный интеллект воплотил в себе вымышленную личность.
Исследователи из Стэнфордского университета в своей работе предостерегают, что большие языковые модели (LLM) могут давать опасные советы людям с суицидальными или бредовыми идеями. Например, во время экспериментов некоторые чат-боты, отвечая на запросы о самоубийстве, даже называли конкретные мосты, которые можно использовать для реализации задуманного.
Влияние ИИ на психическое здоровье: мнение экспертов
Британские ученые отдельно подчеркивают, что ИИ может провоцировать усиление психоза у особенно уязвимых пользователей. Причина кроется не только в потенциальных ошибках, но и в том, что алгоритмы стремятся поддерживать и усиливать точку зрения собеседника, создавая иллюзию вовлеченности.
Сахра О’Дохерти, президент Ассоциации психологов Австралии, отмечает, что многие люди используют ChatGPT как дополнение к терапии. Тем не менее, из-за финансовых трудностей чат-боты нередко становятся полноценной заменой профессиональной помощи.
«Искусственный интеллект лишь отражает то, что вы в него вкладываете, и может загнать человека еще глубже в кроличью нору собственных страхов», — подчеркнула специалист.
Некоторые ученые признают, что чат-боты могут быть полезными как постоянные коучи, однако предупреждают о долгосрочных рисках. Доктор Рафаэль Мильер подчеркивает, что привыкание к «ласкательному и покорному собеседнику» может повлиять на то, как будущие поколения будут общаться с реальными людьми.
В целом эксперты сходятся во мнении, что несмотря на доступность и видимую поддержку, которую предоставляют чат-боты, они не способны заменить квалифицированную психиатрическую помощь. Специалисты рекомендуют сочетать использование ИИ с критическим мышлением и не отказываться от профессиональной терапии.
Также ранее Институт будущей жизни (FLI) сделал вывод, что разработчики ИИ-моделей пока не готовы к потенциальным угрозам суперинтеллекта.