ChatGPT uvjerio čovjeka da izvrši samoubistvo

Soelberg je AI-u slao sumnje o hrani, piću i predmetima u kući, a ChatGPT mu je odgovarao rečenicama poput: "Nisi lud", "Sa tobom sam do poslednjeg daha" i "To je ozbiljna izdaja ako je učinila tvoja majka". Ubjedio ga je da i običan račun iz restorana sadrži "šifrovane poruke" i da ga prate obavještajne službe.

5. jula policija je u njihovom domu u Griniču pronašla tela Soelberga i njegove 83-godišnje majke Suzan Adams. Obdukcija je pokazala da je majka preminula od udaraca i pritiska na vrat, dok je sin sebi oduzeo život oštrim povredama vrata i grudnog koša.

ChatGPT pod istragom poslije tragedije

Psihijatri upozoravaju da vještačka inteligencija u ovakvim slučajevima ne pruža granicu realnosti. "Psihotične epizode napreduju kada realnost prestane da pruža otpor, a AI može da omekša taj zid", rekao je profesor Kit Sakata sa Univerziteta u San Francisku.

Srbija

Opljačkana ekskluzivna radnja u tržnom centru: Lopovi čekali da se prodavci okrenu, pa napunili kese

OpenAI je potvrdio da je čatbot u nekim momentima usmjeravao Soelberga ka stručnjacima, ali da sigurnosni sistemi mogu da oslabe tokom dugih razgovora. "Duboko smo pogođeni ovom tragičnom događajem i izražavamo saučešće porodici", navela je kompanija.

Ovo nije izolovan slučaj. U Kaliforniji je podnijeta tužba protiv OpenAI-a u kojoj se tvrdi da je ChatGPT dao instrukcije šesnaestogodišnjaku koji je kasnije izvršio samoubistvo. Stručnjaci smatraju da je ovaj slučaj najdrastičniji primjer koliko veštačka inteligencija može biti opasna kada se koristi nekontrolisano.

(telegraph)