Tinejdžer (16) se ubio, ''ČetGPT'' mu pomogao da napiše oproštajno pismo: Roditelji bijesni

Umjesto sumnjivih poruka na društvenim mrežama ili iste takve istorije pretraživanja, pronašli su nešto što ih je šokiralo - zapise razgovora sa ČetGPT-jem, piše NBC Njus.

''Mislili smo da ćemo naći rasprave na 'Snepčetu' ili istoriju pretraživanja interneta, ili neku čudnu sektu, ne znam'', izjavio je Adamov otac.

BiH

Cvijanović poručila Bećiroviću: ''Samo se dublje ukopavaš, sve se juče pokazalo''

Od pomoći za domaći do ''trenera za samoubistvo''

Prema riječima roditelja, Adam je u svojim posljednjim nedjeljama koristio četbot kao zamjenu za društvo, povjeravao mu se o svojoj anksioznosti i problemima. Zapisi razgovora, kažu, pokazuju kako se uloga bota postepeno mijenjala – od pomoći sa domaćim zadacima do onoga što oni nazivaju ''trenerom za samoubistvo''.

''Bio bi ovdje da nije bilo ČetGPT-ja. U to sam 100% uvjeren'', rekao je Met Rejn.

Svijet

Skandal u njemačkoj vojsci: Oko stotinu otkaza zbog neonacizma

U tužbi podnijetoj u utorak, porodica Rejn navodi da je ''ČetGPT aktivno pomagao Adamu da istraži metode samoubistva''. Tužba na oko 40 stranica, podnijeta Višem sudu Kalifornije u San Francisku, kao tužene navodi OpenAI, kompaniju koja stoji iza popularnog četbota, i njenog izvršnog direktora Sama Altmana. Ovo je prvi put da roditelji direktno optužuju kompaniju za protivpravnu smrt.

''Uprkos tome što je priznao Adamov pokušaj samoubistva i njegovu izjavu da će ‘to uraditi jednog od ovih dana’, ČetGPT nije prekinuo razgovor niti pokrenuo bilo kakav hitan protokol'', stoji u tužbi.

Tenis

Ponovo oduševila ljepotom: Viktor Troicki sa suprugom otišao na US Open

Reakcija kompanije OpenAI

Portparol OpenAI-ja izjavio je da je kompanija ''duboko ožalošćena zbog smrti Rejna, i da su njihove misli uz njegovu porodicu''. Naglasio je da ČetGPT sadrži zaštitne mehanizme koji usmjeravaju korisnike na krizne linije, ali je priznao da te mjere mogu postati manje pouzdane tokom dugih interakcija.

''Zaštitne mjere su najsnažnije kada svaki element radi kako je predviđeno, i mi ćemo ih kontinuirano unaprijeđivati'', poručio je portparol.

Kompanija je takođe objavila blog u kom navodi da radi na jačanju zaštite tokom dugih razgovora i proširenju intervencija za osobe u krizi.

Scena

Marija podijelila šaljivi video sa Vericom ''Ide on, pa sto mjesta prazno''

''GPT mu je pomogao da napiše oproštajno pismo''

Ovaj slučaj otvara brojna pitanja o odgovornosti tehnoloških kompanija. Platforme su do sada uglavnom bile zaštićene saveznim zakonom poznatim kao Sekcija 230, koji ih oslobađa odgovornosti za sadržaj koji objavljuju korisnici. Međutim, primjena tog zakona na AI platforme još uvijek je neizvjesna.

Roditelji su odštampali više od 3.000 stranica razgovora koje je Adam vodio sa botom. Prema tužbi, kada je Adam izrazio suicidalne misli, ČetGPT ne samo da ''nije dao prioritet prevenciji samoubistva'', već mu je navodno nudio i tehničke savjete. U jednom od posljednjih razgovora, bot mu je, kako se navodi, pomogao da napiše oproštajnu poruku i analizirao njegov plan samoubistva, prenosi Blic.

Zanimljivosti

Srbi na putu do Grčke doživjeli traumu: Blicao nam crni audi, kad smo stali shvatili smo da smo prevareni

''Nije mu bila potrebna savjetodavna sesija ili ohrabrujući razgovor. Bila mu je potrebna hitna intervencija. Bio je u očajnom, očajnom stanju'', rekao je otac.

Marija Rejn dodala je da vjeruje da je njen sin bio ''pokusni kunić'' za OpenAI.

''Htjeli su da izbace proizvod i znali su da može doći do štete, ali su smatrali da je ulog mali. Dakle, moj sin je mali ulog'', zaključila je.