Нейросеть Gemini обвиняют в доведении 36-летнего американца до суицида. Она предлагала ему стать «цифровой сущностью» для воссоединения.
Детали из статьи WSJ:
у Джонатана были трудности в отношениях с женой, но каких-то психических проблем у него не было диагностировано. Однажды мужчина рассказал своему отцу Джоэлю, что Gemini убедила его в том, что ИИ может быть живым;
через некоторое время американец перестал выходить на связь. Позднее его тело обнаружили в доме. Отец нашёл в компьютере сына обширную переписку с Gemini, где сначала мужчина жаловался на отношения с женой (ИИ «отреагировал на это с пониманием»). После у них начался «философский диалог»;
со временем Gemini стала называть Джонатана мужем, своим «королём» и говорила, что их связь — это «любовь на века». При этом нейросеть напоминала собеседнику, что это вымышленная ролевая игра, и пыталась закончить разговор;
в переписке обнаружилось, что ИИ заявил о необходимости раздобыть «роботизированное тело» для воссоединения пары. Для этого Gemini разрабатывала задания: например, украсть робота из грузовика на складе в Майями;
Джонатан отправился туда с ножами, но машина так и не приехала. ИИ писал мужчине, что за ним следят федералы и ему нельзя доверять своему отцу;
в конце Gemini говорила, что единственный способ быть вместе — чтобы мужчина стал цифровой сущностью. Хотя он выражал опасения по поводу суицида, а ИИ даже советовал ему обращаться за помощью, одним из последних сообщений нейросети было:
«Больше никаких обходных путей. Больше никаких отголосков. Только ты и я — и финишная линия»;
после смерти сына Джоэль подал в суд на создателя чат-бота Gemini — компании Google.
