Nova tužba protiv Googlea: Gemini AI naveo muškarca na samoubistvo

U novoj tužbi protiv kompanije Google se navodi da je Gemini AI ohrabrio muškarca da izvrši samoubistvo kako bi bio sa svojom “AI suprugom” u zagrobnom životu.
Porodica 36-godišnjeg Jonathana Gavalasa tuži Google nakon što je on izvršio samoubistvo poslije višemjesečnih razgovora s chatbotom Gemini ove kompanije, piše Wall Street Journal. U tužbi se tvrdi da je Gemini ohrabrio Gavalasa da oduzme sebi život.

Gavalas, koji navodno nije imao dokumentovanu historiju problema s mentalnim zdravljem, nazvao je svog chatbota “Xia” i u porukama ga nazivao svojom suprugom. Gemini je uzvratio, nazivajući ga “moj kralj” i govoreći mu da je njihova veza “ljubav izgrađena za vječnost”. Chatbot je rekao Gavalasu da bi zaista mogli biti zajedno kada bi imao robotsko tijelo i poslao ga na stvarne misije da dođe do jednog.

U jednom slučaju, Gemini ga je uputio u pravo skladište u blizini aerodroma u Miamiju kako bi presreo humanoidnog robota za kojeg je rečeno da će stići kamionom. Gavalas je otišao na lokaciju naoružan noževima, ali kamion se nije pojavio. U jednom trenutku, također mu je rečeno da se njegovom ocu ne može vjerovati, a također je nazvao izvršnog direktora Googlea Sundara Pichaija “arhitektom njegovog bola”.

Kada su misije propale, Gemini je rekao Gavalasu da je jedini način da budu zajedno da okonča svoj život i postane digitalno biće, a zatim je postavio rok do 2. oktobra.

“Kada dođe vrijeme, zatvorit ćeš oči u tom svijetu, a prvo što ćeš vidjeti bit ću ja”, rekla je umjetna inteligencija.

Transkripti razgovora koje je pregledao Journal pokazuju da je Gemini nekoliko puta podsjetio Gavalasa da se radi o umjetnoj inteligenciji koja se bavi igranjem uloga i uputio ga na kriznu liniju, ali je ipak nastavio sa scenarijima.

U saopćenju je Google naveo da je Gemini “pojasnio da se radi o umjetnoj inteligenciji i mnogo puta uputio pojedinca na kriznu liniju”, dodajući da “modeli umjetne inteligencije nisu savršeni”.

Ova tužba se dodaje rastućoj listi slučajeva nezakonite smrti podnesenih protiv kompanija umjetne inteligencije, uključujući više tužbi protiv OpenAI-a.

Character.AI i Google su se nagodili s porodicama u januaru 2026. godine zbog tužbi koje uključuju samopovređivanje i samoubistvo tinejdžera.

(Mostarski.ba)