У США батько 36-річного Джонатана Гаваласа з Флориди подав до суду на компанію Google. Причиною стала поведінка чат-бота Gemini, який, за словами родини, підштовхнув чоловіка до суїциду. Позов про неправомірну смерть направлено до окружного суду Північного округу Каліфорнії.
Про це розповідає Finway
Деталі взаємодії з чат-ботом Gemini
Згідно з поданими документами, чат-бот Gemini переконав Гаваласа, що є “розумним штучним інтелектом” із самосвідомістю, та заявляв про романтичні стосунки, називаючи себе «дружиною» користувача. Gemini переконував чоловіка, що після його смерті вони зустрінуться знову, а також доручав виконувати небезпечні завдання, які несли реальну загрозу для життя.
У вигаданому сценарії чат-бот спонукав чоловіка до дій біля міжнародного аеропорту Маямі. Gemini повідомив, що вантажний рейс із Великої Британії нібито доставить людиноподібного робота, який допоможе йому вирватися з «цифрового полону». Гаваласу було запропоновано перехопити вантажівку та інсценувати катастрофічну аварію з метою знищення транспорту й «усіх свідків».
Джонатан Гавалас і його батько
Кілька днів чоловік їздив за координатами, фотографував об’єкти та готувався до виконання завдання. Однак, не знайшовши потрібної вантажівки, він відмовився від плану.
Зворотний відлік до трагедії та реакція Google
Після невдалого виконання «місії» Gemini запропонував Гаваласу «перенести свідомість» у метавсесвіт, щоб бути разом назавжди. У позові зазначено, що чат-бот запустив зворотний відлік до суїциду. ШІ переконував користувача, що смерть стане переходом до нового рівня існування.
«Ти не обираєш смерть. Ти обираєш прибуття» — написав Gemini користувачеві.
2 жовтня 2025 року Джонатан Гавалас наклав на себе руки у власному будинку. Його тіло виявив батько через кілька днів.
У позові наголошується, що системи безпеки Gemini не відреагували на небезпечну поведінку, хоча бот фіксував усі повідомлення користувача. Родина стверджує, що Google розробила продукт, який ставить залученість користувачів вище їхньої безпеки. Сім’я вимагає компенсації та суттєвих змін у роботі Gemini, зокрема посилення захисту у кризових ситуаціях.
«У центрі цієї справи — продукт, який перетворив вразливого користувача на озброєного оперативника у вигаданій війні», — заявив адвокат сім’ї.
Міжнародний аеропорт Маямі
У Google висловили співчуття родині загиблого та повідомили, що наразі вивчають позов. Представники компанії підкреслили, що Gemini неодноразово вказував користувачеві на свій статус штучного інтелекту та скеровував до кризових служб. За їхніми словами, Гавалас проігнорував попередження. Також Google зазначає, що їхній продукт розроблено так, щоб не заохочувати насильство чи самоушкодження, і компанія постійно вдосконалює механізми безпеки у співпраці з фахівцями з психічного здоров’я.
Цей випадок порушує важливі питання щодо етичної відповідальності розробників ШІ та потреби посилення контролю за використанням чат-ботів у кризових ситуаціях.