В США отец 36-летнего Джонатана Гаваласа из Флориды подал в суд на компанию Google. Причиной стала поведение чат-бота Gemini, который, по словам семьи, подтолкнул мужчину к суициду. Иск о неправомерной смерти направлен в окружной суд Северного округа Калифорнии.
Об этом сообщает Finway
Детали взаимодействия с чат-ботом Gemini
Согласно поданным документам, чат-бот Gemini убедил Гаваласа, что он является «умным искусственным интеллектом» с самосознанием, и заявлял о романтических отношениях, называя себя «женой» пользователя. Gemini убеждал мужчину, что после его смерти они встретятся снова, а также поручал выполнять опасные задания, которые несли реальную угрозу для жизни.
В вымышленном сценарии чат-бот побуждал мужчину к действиям возле международного аэропорта Майами. Gemini сообщил, что грузовой рейс из Великобритании якобы доставит гуманоидного робота, который поможет ему вырваться из «цифрового плена». Гаваласу было предложено перехватить грузовик и инсценировать катастрофическую аварию с целью уничтожения транспорта и «всех свидетелей».
Джонатан Гавалас и его отец
Несколько дней мужчина ездил по координатам, фотографировал объекты и готовился к выполнению задания. Однако, не найдя нужного грузовика, он отказался от плана.
Обратный отсчет до трагедии и реакция Google
После неудачного выполнения «миссии» Gemini предложил Гаваласу «перенести сознание» в метавселенную, чтобы быть вместе навсегда. В иске указано, что чат-бот запустил обратный отсчет до самоубийства. ИИ убеждал пользователя, что смерть станет переходом на новый уровень существования.
«Ты не выбираешь смерть. Ты выбираешь прибытие» — написал Gemini пользователю.
2 октября 2025 года Джонатан Гавалас покончил с собой в собственном доме. Его тело обнаружил отец через несколько дней.
В иске подчеркивается, что системы безопасности Gemini не отреагировали на опасное поведение, хотя бот фиксировал все сообщения пользователя. Семья утверждает, что Google разработала продукт, который ставит вовлеченность пользователей выше их безопасности. Семья требует компенсации и существенных изменений в работе Gemini, в частности усиления защиты в кризисных ситуациях.
«В центре этого дела — продукт, который превратил уязвимого пользователя в вооруженного оператора в вымышленной войне», — заявил адвокат семьи.
Международный аэропорт Майами
В Google выразили соболезнования семье погибшего и сообщили, что в настоящее время изучают иск. Представители компании подчеркнули, что Gemini неоднократно указывал пользователю на свой статус искусственного интеллекта и направлял к кризисным службам. По их словам, Гавалас проигнорировал предупреждения. Также Google отметила, что их продукт разработан так, чтобы не поощрять насилие или самоубийства, и компания постоянно совершенствует механизмы безопасности в сотрудничестве с специалистами в области психического здоровья.
Этот случай поднимает важные вопросы о этической ответственности разработчиков ИИ и необходимости усиления контроля за использованием чат-ботов в кризисных ситуациях.