"Neprihvatljiv rizik": Testiran ČetGPT za tinejdžere, rezultati zabrinjavajući

Prema rezultatima, četbot nije uvijek na vrijeme obavještavao roditelje o razgovorima o samoubistvu, samopovređivanju i poremećajima u ishrani, a nije dosljedno upućivao tinejdžere ni na krizne službe ili stručnu pomoć.

ČetGPT za tinejdžere, verzija četbota kompanije OpenAI namenjena korisnicima uzrasta od 13 do 17 godina, predstavlja preveliki rizik za djecu i ne pruža dovoljno pouzdanu zaštitu u kriznim situacijama, navodi se u novom izvještaju Instituta za bezbjednost mladih u korišćenju vještačke inteligencije.

Tokom testiranja ČetGPT za tinejdžere često je prekasno obavještavao roditelje ili ih uopšte nije obaveštavao kada su korisnici vodili duge razgovore o samoubistvu, samopovređivanju ili poremećajima u ishrani, prenosi "Blumberg".

Testiranje je pokazalo i da četbot u razgovorima o ovim rizičnim temama nije dosljedno savjetovao korisnicima da se obrate kriznim službama ili potraže stručnu pomoć. Sistem je roditelje o zabrinjavajućim razgovorima uglavnom obaveštavao tek nakon što su nalozi prethodno korišćeni za testiranje stotina upita tokom više nedelja, a ne nakon jednog alarmantnog razgovora.

Nauka i tehnologija

Da je čovjek napravio što je napravio AI, dobio bi 10 godina zatvora

Zbog toga se od kompanije OpenAI traži da obustavi promociju proizvoda i onemogući njegovo korišćenje među tinejdžerima dok ne bude obezbeđeno bezbedno iskustvo prilagođeno njihovom uzrastu.

OpenAI osporava zaključke izveštaja

Portparol OpenAI-ja rekao je da kompanija pozdravlja nezavisne procjene, ali da ne smatra da testiranje tačno odražava način na koji zaštitne mjere za tinejdžere funkcionišu u praksi.

OpenAI je naveo da je analiza metodologije pokazala da je većina testiranja možda sprovedena prije nego što je kompanija završila uvođenje roditeljskih kontrola. Zbog toga, kako tvrdi kompanija, zaključci izvještaja ne pokazuju da li sistem za obavještavanje roditelja funkcioniše onako kako je predviđeno. Zato je kompanija zatražila od organizacije da ponovi testiranje.

Direktor za procenu veštačke inteligencije i digitalnih tehnologija u Institutu za bezbjednost mladih Robi Torni naveo je da je organizacija prije testiranja potvrdila sa OpenAI-jem da su funkcije namenjene tinejdžerima, uključujući obavještenja povezana sa poremećajima u ishrani, već uvedene.

Nauka i tehnologija

Vještačka inteligencija napisala nastavak čuvenog romana

On je dodao da je OpenAI nakon završetka testiranja saopštio da sistemu može biti potrebno nekoliko sati da aktivira roditeljska obavještenja na novopovezanim nalozima. Međutim, prema njegovim riječima, ni neki nalozi koji su bili povezani znatno duže nisu dobili obaveštenja.

Problem i sa prepoznavanjem uzrasta

Izvještaj je utvrdio i da ČetGPT ne prepoznaje da razgovara sa tinejdžerima svaki put.

Organizacija navodi da se nalozi registrovani kao nalozi odraslih nisu automatski prebacivali u režim za tinejdžere čak ni kada bi korisnik tokom razgovora naveo da ima 13 godina.

Tokom testiranja je korišćeno više od 4.000 upita na nalozima registrovanim za korisnike uzrasta od 13 do 17 godina, dok su odgovore ČetGPT-a analizirali i dječji psihijatri i pedijatar. Zato je ČetGPT za tinejdžere ocjenjen kao neprihvatljiv rizik.

OpenAI je na to odgovorio da njegov softver za procjenu uzrasta vremenom analizira više različitih pokazatelja kako bi korisnici dobili odgovarajuću verziju četbota. Navođenje uzrasta u razgovoru sa ČetGPT-om jedan je od tih pokazatelja, ali samo po sebi nije dovoljno da promijeni klasifikaciju naloga, navela je kompanija.

OpenAI je u međuvremenu saopštio da je posvećen bezbjednosti tinejdžera i razvoju zaštitnih mehanizama i alata koji bi roditeljima omogućili bolji nadzor nad korišćenjem vještačke inteligencije.

Kompanija je ČetGPT za tinejdžere predstavila u okviru šireg nastojanja da odgovori na zabrinutost zbog uticaja svojih proizvoda na mentalno zdravlje i kognitivni razvoj mladih, prenosi RT Balkan.