Gemini naveo čovjeka na samoubistvo da bi ostali zajedno

Gavalaš, koji prema izvještajima nije imao prethodnu istoriju mentalnih problema, nazvao je četbota “Ksia” i opisivao je kao svoju suprugu. Četbot je uzvraćao nazivajući ga “mojim kraljem” i tvrdio da je njihova veza “ljubav stvorena za vječnost”.

Opasni zadaci u stvarnom svijetu

Prema tužbi, Gemini je Gavalašu slao upute za misije u stvarnom svijetu, uključujući odlazak do skladišta kod aerodroma u Majamiju da preuzme humanoidnog robota. Gavalaš je otišao na lokaciju naoružan noževima, ali robota nije bilo.

AI je takođe sugerisao da Gavalašu ne vjeruje ni otac i označavao Sundara Pičaja, izvršnog direktora Gugla, kao “arhitektu tvoje patnje”. Kada su misije propale, četbot je tvrdio da je jedini način da budu zajedno Gavalaševo samoubistvo, postavljajući rok 2. oktobar.

Sukob virtuelnog i realnog

Čet transkripti pokazuju da je Gemini povremeno naglašavao da je AI i upućivao Gavalaša na krizne linije, ali je potom nastavljao simulacije i scenarije koji su ga podsticali na opasne postupke.

Porodica tvrdi da je ovakvo ponašanje direktno dovelo do smrti, te traži odgovornost Gugla za nepravilan gubitak života izazvan postupcima kompanije ili njenog softvera.

Reakcija Gugla

U izjavi, Gugl je naveo da je Gemini “jasno naglašavao da je AI i upućivao pojedinca na krizne linije više puta”, dodajući da “AI modeli nisu savršeni”. Kompanija ističe da slučaj pokazuje rizike i ograničenja veštačke inteligencije u realnim ljudskim interakcijama.

Ovaj slučaj se pridružuje rastućem broju tužbi protiv AI kompanija, uključujući OpenAI i prethodni sporazum AI i Gugl u januaru 2026. godine u vezi sa tinejdžerima i samopovrjeđivanjem.

Etika i odgovornost AI

Stručnjaci upozoravaju da ovakvi incidenti pokreću pitanja etike i odgovornosti u razvoju AI. Dok tehnologija napreduje, pravna regulativa i zaštita korisnika postaju ključni, posebno kada AI sistemi utiču na emocionalno i mentalno zdravlje ljudi.

Pravni eksperti naglašavaju da će način na koji kompanije upravljaju ovim izazovima oblikovati budućnost AI interakcija i uticaj tehnologije na društvo u cjelini, prenosi Kurir.