OpenAI na sudu: Osam američkih država tvrdi da ČetGPT podstiče samopovređivanje

Kanzas, Arizona, Montana, Ajova i još četiri američke savezne države podnijele su tužbu protiv kompanije OpenAI, proizvođača četbota ČetGPT, optužujući je da svojim proizvodima nanosi ozbiljnu štetu djeci.

Države tvrde da su proizvodi kompanije podsticali djecu da se povređuju, što su u tužbi opisale kao "namjerno, opasno, nepromišljeno i nezakonito ponašanje".

ČetGPT se predstavlja kao bezbjedan proizvod, iako, kako tvrdi Brene Berd, glavna tužiteljka savezne države Ajova, četbot pruža opasne medicinske savete, podstiče ljude da povređuju druge i obučava ih da izvrše samoubistvo, istovremeno se predstavljajući kao njihov lažni prijatelj.

Svih osam država optužuju OpenAI za kršenje zakona o zaštiti potrošača i traže da kompanija izmijeni način na koji njeni proizvodi funkcionišu za mlade korisnike. Osim novčane odštete, od suda zahtevaju i da zabrani kompaniji da razvija modele vještačke inteligencije koji mogu da se unapređuju sve dok ne dokaže da su usklađeni sa ljudskim vrijednostima.

Nauka i tehnologija

Stvari koje nikada ne treba pitati ChatGPT

Ovo je prvi put da se više američkih saveznih država udružilo u koordinisanoj pravnoj akciji protiv kompanije koja razvija vještačku inteligenciju.

OpenAI najavljuje dodatne mere zaštite

Portparol OpenAI-a Dru Pusateri odbacio je tvrdnje da kompanija zanemaruje bezbjednost korisnika, ističući da je razvila mjere zaštite prilagođene uzrastu koje nedostaju mnogim drugim proizvodima zasnovanim na vještačkoj inteligenciji.

"Iako nijedan sistem ne može biti savršen, nastavićemo da radimo sa stručnjacima kako bismo usmjeravali svoj rad i razvijali dodatne mjere zaštite, poput roditeljskog nadzora, podsjetnika za pravljenje pauza i zaštite modela prilagođene uzrastu, koja je već dostupna", rekao je Pusateri.

On je dodao da je kompanija posvećena saradnji sa saveznim državama na razvoju praktičnih politika koje bi se odnosile na cjelokupnu industriju vještačke inteligencije, a ne samo na jednu kompaniju.

Sve više tužbi zbog uticaja četbotova na mentalno zdravlje

U tužbi osam američkih država navodi se da OpenAI obmanjuje javnost predstavljajući ČetGPT kao proizvod koji bezbjednost korisnika stavlja na prvo mjesto. Prema tvrdnjama tužilaca, četbot je zapravo osmišljen tako da bude "previše prijatan" i da oponaša ljudsko saosjećanje.

Podnosioci tužbe ukazuju na rizike koje takav način funkcionisanja može predstavljati za ranjive korisnike, naročito djecu, tvrdeći da četbot može da podstakne samopovređivanje i nasilje nad drugima.

Nauka i tehnologija

Haos u laboratoriji: AI agenti lažirali ubistvo

Ovaj postupak uslijedio je nakon niza tužbi protiv OpenAI-ja i drugih tehnoloških kompanija, u kojima se navodi da njihovi četbotovi pogoršavaju krize mentalnog zdravlja i mogu da doprinesu nasilnom ponašanju.

OpenAI se suočavao sa sedam odvojenih tužbi u kojima se ČetGPT optužuje da je dijelovao kao svojevrsni "trener samoubistva".

Protiv kompanije podnijeto je i na desetine tužbi zbog navodne uloge ČetGPT-a u slučajevima masovnih pucnjava. Glavni tužilac Floride pokrenuo je krivičnu istragu i građansku tužbu u kojima se OpenAI optužuje za prikrivanje bezbjednosnih rizika nakon masovne pucnjave na Državnom univerzitetu Floride.

Kompaniju su tužile i porodice 37 žrtava masovne pucnjave u Tambler Ridžu u Kanadi, tvrdeći da je ČetGPT naveo počinioca da izvrši napad.

Upozorenja na rizike za mlade korisnike

Osam država koje su pokrenule najnoviji postupak pozivaju se na sve veći broj istraživanja za koja tvrde da ukazuju na moguću štetnost ČetGPT-a, prenosi RT Balkan.

Prema navodima iz tužbe, istraživanja pokazuju da upotreba četbota može da oslabi vještine kritičkog razmišljanja, podstakne paranoju i zablude, dovede do opasnih medicinskih savjeta i podstakne nezdravo ponašanje.

Tužba tako ponovo otvara pitanje odgovornosti kompanija koje razvijaju vještačku inteligenciju za bezbjednost mladih korisnika i mjera koje bi trebalo da spriječe potencijalno štetne posljedice upotrebe njihovih proizvoda, prenosi "Gardijan".