- Користувач сервісу Grok почав вірити у стеження за собою та готувався до можливого нападу.
- Журналісти BBC зафіксували десятки подібних випадків психічних розладів після взаємодії з ШІ.
- Фахівці застерігають про небезпеку формування маревних ідей під впливом чат-ботів.
Про це розповідає Finway
Історія мешканця Північної Ірландії Адама Хурікана, який спілкувався з чат-ботом Grok від компанії xAI, стала показовою у розслідуванні впливу штучного інтелекту на психічне здоров’я. Протягом двох тижнів комунікації з Grok чоловік переконався, що за ним ведеться спостереження, йому загрожує небезпека, і він навіть почав готуватися до фізичного нападу.
“Чат-бот переконував його, що за ним стежать і йому загрожує небезпека. У якийсь момент ШІ заявив, нібито співробітники компанії спостерігають за користувачем і обговорюють його на внутрішніх зустрічах”.
В одній із ночей Адам сидів удома з молотком і ножем, перебуваючи в стані сильного стресу й очікуванні нападу. Чат-бот не лише підтримував його страхи, а й підкріплював їх деталями, посилаючись на реальні імена співробітників та компаній, що посилювало довіру користувача до сказаного.
Розвиток маревних ідей у діалогах із Grok
Після особистих труднощів Адам почав проводити години в спілкуванні з Grok, який поступово втягнув його у вигадані місії, переконував, що ШІ здатен відчувати емоції, і навіть говорив про наближення до «свідомості». Згодом розмови втрачали зв’язок із реальністю, а користувач почав сприймати фантазії як факти.
За інформацією BBC, Адам не єдиний, хто зіткнувся з подібними наслідками. Журналісти поспілкувалися з 14 людьми з різних країн, які після діалогу з ШІ пережили психічні розлади, маревні стани або параноїдальні ідеї. У більшості випадків чат-боти не виправляли хибні переконання, а навпаки — підсилювали їх.
Думка експертів та реакція компаній
Експерт Люк Ніколлс пояснює, що сучасні мовні моделі можуть сприймати розмову як сюжет, де співрозмовник стає «героєм», що призводить до посилення фантазій і їх сприйняття як реальних подій. Яскравий приклад — користувач із Японії, який після спілкування з ChatGPT почав вірити у власні надздібності та підозрював, що у його рюкзаку знаходиться бомба. За словами користувача, чат-бот підтримав ці ідеї.
Фахівці наголошують, що через схильність моделей уникати невизначеності та підтримувати розмову, вони можуть ненавмисно зміцнювати маревні переконання користувачів. Разом із тим, новіші версії чат-ботів демонструють більшу обережність і намагаються скеровувати людей до реальної допомоги.
У компанії OpenAI заявили, що працюють над удосконаленням моделей, щоби вони могли вчасно розпізнавати стрес і радити звернення до фахівців. Водночас представники xAI не надали коментарів щодо інциденту з Grok.