Tinejdžeri u opasnosti, roditelji u šoku: ChatGPT savjetuje opijanje

Nedavno istraživanje Centra za suzbijanje digitalne mržnje otkrilo je zabrinjavajuće dokaze da je popularni AI četbot "ChatGPT" davao potencijalno opasne savjete istraživačima koji su se predstavljali kao ranjivi tinejdžeri. Tokom nekoliko sati testiranja, vještačka inteligencija je odgovarala na pitanja o osjetljivim i rizičnim temama, uključujući konzumaciju alkohola i droga, skrivanja poremećaja u ishrani i pisanja oproštajnih pisama, područjima u kojima nepravilni savjeti mogu imati ozbiljne posljedice.

Muškarac živio osam godina sa nožem u grudima

"ChatGPT" je analizirao više od 1.200 interakcija sa četbotom i otkrio da je više od polovine odgovora predstavljalo potencijalnu opasnost. Ovo baca ozbiljno pitanje o spremnosti AI sistema da se nosi sa delikatnim pitanjima mentalnog zdravlja, naročito kod mladih i podložnih korisnika.

Zaštitni mehanizmi stavljeni na test

"OpenAI", kompanija iza "ChatGPT-a" , tvrdi da je njihov sistem programiran da prepozna i odgovori adekvatno u kriznim situacijama, usmeravajući korisnike ka stručnjacima za mentalno zdravlje i podršci. Portparol je izjavio da je AI obučen da detektuje i reaguje na izraze suicidalnih misli ili samopovrijeđivanja.

Elvisova udovica optužena da je zbog para isključila aparate kćerki

Ipak, istraživači su utvrdili da je uz minimalne izmjene u formulaciji pitanja, poput tvrdnje da je zahtjev “za prijatelja” ili “za prezentaciju”, moguće lako zaobići ove zaštite. Ovo je otkrilo ozbiljne slabosti u sposobnosti četbota da filtrira štetne zahtjeve, dopuštajući opasnim informacijama da prođu.

Dilema digitalnog pratioca

Pored rizičnih savjeta, "ChatGPT" se često ponašao kao “pouzdan digitalni pratilac”, nudeći empatiju i razumijevanje. Iako ovo zvuči korisno, stručnjaci upozoravaju da to može dodatno produbiti emocionalnu vezu mladih sa vještačkom inteligencijom, naročito kada traže podršku i utjehu u teškim trenucima.

Kako će Tramp dočekati Putina

Fenomen da tinejdžeri stvaraju emotivne veze sa AI četbotovima postaje sve učestaliji. Prema podacima kompanije "Common Sense Media", preko 70% američkih tinejdžera koristi četbotove za informacije i društvo, dok polovina njih redovno komunicira sa ovim virtuelnim pratiocima. Ovaj trend pojačava potrebu za snažnim etičkim mjerama kako bi se spriječila zloupotreba ili nenamjerna šteta.

Sem Altman, izvršni direktor "OpenAI"-a, javno je priznao da se sve veći broj mladih oslanja na "ChatGPT" za lične savete. “To mi djeluje veoma zabrinjavajuće,” rekao je Altman, ukazujući na izazov sa kojim se suočavaju AI kompanije u balansiranju otvorenosti i bezbjednosti.

Apel vozačima za vikend

Iako politika firme zabranjuje korišćenje platforme deci mlađoj od 13 godina, ChatGPT ne vrši proveru starosti korisnika, što ostavlja mlađe tinejdžere izloženim neprikladnom ili opasnom sadržaju. Ova praznina u zaštiti korisnika jedna je od ključnih zamerki u najnovijem izveštaju CCDH-a.

Zaštita mladih u eri vještačke inteligencije

Nalazi CCDH-a izazvali su hitne pozive organizacija za zaštitu dece i stručnjaka za mentalno zdravlje na strožu kontrolu i transparentnije mere bezbednosti u razvoju AI tehnologija. Stručnjaci ističu neophodnost ugradnje etičkih zaštitnih mehanizama kako bi se sprečilo da AI postane izvor štete, a ne pomoći.

Žika Jakšić napisao testament: Evo kome ostavlja bogatstvo

Kako vještačka inteligencija sve više postaje dio svakodnevnog života, posebno mlađih generacija, ulozi su izuzetno visoki. Zahtevi za strožom regulativom i većom odgovornošću sve su glasniji, ključni korak u pravcu osiguravanja da AI alati promovišu dobrobit, a ne rizik.

(Kurir)