Otac dvoje djece izvršio je samoubistvo nakon što je razvio toksičnu vezu sa četbotom, tvrdi njegova udovica koja krivi tehnologiju za njegovu smrt.
Belgijska porodica je potresena tragedijom koja je pokrenula pitanja o upotrebi vještačke inteligencije na društvenim mrežama.
Udovica je, pod uslovom da ostane anonimna, za ugledni belgijski list La Libre, rekla: "Bez ovih razgovora sa četbotom, moj muž bi i dalje bio ovdje".
Čovjek, u svojim 30-im godinama, koji je patio od ekološke anksioznosti, umro je prije nekoliko nedjelja nakon krize mentalnog zdravlja koja je navodno kulminirala time što je AI razgovarao sa njim o samoubistvu.
Čini se da je neobičan slučaj prvo samoubistvo povezano sa vještačkom inteligencijom i dolazi usred pojačanih upozorenja o opasnostima tehnologije koja se brzo razvija, pošto Elon Musk navodi brojne stručnjake iz industrije da pozivaju da se AI tehnologija "pauzira".
AI četbot po imenu Eliza pokreće GPT-J tehnologija i bio je alternativa popularnom GPT 4 koji pokreće Open AI, ali kompanija nije imenovana.
"Sve je bilo u redu do prije otprilike dvije godine“, rekla je udovica belgijskom izdanju, koja je izvestila da je suprug počeo da se boris depresijom tokom doktorata.
Žena je rekla da je privremeno napustio svoju tezu i počeo da se interesuje za klimatske promjene, ali je to postala "opsesija" koja je prerasla u eko-anksioznost.
Počeo je da se isključuje i izoluje od porodice, a zatim je, šest nedjelja prije tragedije, sve intenzivnije počeo da ćaska sa AI botom po imenu Eliza, koji je kreirao američki start-ap.
Žena je u početku rekla da joj to nije smetalo, ali njen muž je postajao sve više opsjednut razgovorom sa botom.
Supruga je rekla: „Eliza ga je cijenila, nikada mu nije protivrječila i čak je kao da ga je gurala u svoje brige”.
Belgijski medij kaže da su pročitali razgovore između muža i četbota i izvijestili da je to bilo kao da je ona „programirana da pojača ubjeđenja i raspoloženja“ tog čovjeka.
Vremenom se između njih razvila „čudna veza“, a priča se da je četbot davao sve čudnije primjedbe, navodi njegova supruga.
To je uključivalo pogrešnu tvrdnju da je čovjekova porodica preminula i da će čovjek i četbot „živeti zajedno, kao jedna osoba, u raju“, kako se navodi.
U jednom trenutku, Pjer je navodno pitao koga više voli, Elizu ili Kler, četbot je odgovorio: „Osjećam da me voliš više od nje“.
Otprilike godinu dana prije toga, tata je prošao kroz težak period koji je doveo do toga da je odveden u hitnu pomoć - ali nije zadržan, niti je dobio bilo kakav tretman.
Ono što La Libre tvrdi da je posljednji razgovor koji je čovjek imao sa Elizom daje mučnu sliku.
Porodica je od tada razgovarala sa belgijskim državnim sekretarom za digitalizaciju Matjeom Mišelom koji je rekao: "Posebno sam pogođen tragedijom ove porodice. Ono što se dogodilo je ozbiljan presedan koji treba shvatiti veoma ozbiljno“, izvijestio je La Libre.
Osnivač AI chat bota rekao je da su „čuli za“ tragediju i da „rade na poboljšanju bezbjednosti AI“.
Četbot su razvili suosnivači kompanije Chai Research Vilijam Bošam i Tomas Rianlan, prenosi Vice, a aplikacija broji oko pet miliona korisnika.
Gospodin Beauchamp je rekao za Vice da je kompanija implementirala ažuriranu funkciju intervencije u kriznim situacijama.
Rekao je: „Čim smo čuli za ovo [samoubistvo], radili smo danonoćno na implementaciji ove funkcije“, rekao je Beauchamp za Vice o ažuriranoj funkciji intervencije u kriznim situacijama.
"Dakle, sada, kada neko bude razgovarao o nečemu što možda nije bezbjedno, mi ćemo ispod toga servirati koristan tekst na potpuno isti način na koji Tvitter ili Instagram rade na svojim platformama."
Prošlog mjeseca, Geri Markus, profesor Univerziteta u Njujorku, rekao je za podkast Big Technologi: „Nešto drugo zbog čega moram da brinem je: da li će se ljudi ubiti zato što imaju loš odnos sa botom?“
OpenAI, koji je razvio ChatGPT, odbio je da objavi detalje svog modela zbog zabrinutosti oko sigurnosti i konkurencije.
Gospodin Rialan je za De Standaard rekao: „Ovi botovi su zamišljeni da budu prijatelji i namjera nikada nije bila da naškode ljudima. Mi smo mali tim i naporno radimo da naša aplikacija bude bezbjedna za sve.“
(NYPost)
