Vještačka inteligencija nije dobra u postavljanju dijagnoze

Prema najnovijoj studiji, modeli vještačke inteligencije koji se sve češće koriste za pružanje zdravstvenih savjeta imaju značajan problem – podložni su dezinformacijama ako su one upakovane u format koji imitira naučni autoritet.

Istraživanje je pokazalo da AI čettbotovi i veliki jezički modeli (LLM) često ne uspevaju da razlikuju provjerene medicinske činjenice od lažnih tvrdnji ako se te tvrdnje nalaze na sajtovima koji koriste medicinsku terminologiju, reference koje djeluju ubedljivo ili vizuelni identitet koji podsjeća na relevantne zdravstvene institucije.

Glavni problemi identifikovani u studiji su:

Nauka i tehnologija

Nova metoda vještačke inteligencije pomaže u identifikaciji otisaka stopala dinosaurusa

AI modeli daju veći značaj strukturi teksta i autoritativnom tonu nego stvarnoj provjeri podataka kroz baze kliničkih dokaza.

Pošto se sve veći broj ljudi oslanja na AI za samolečenje i razumijevanje simptoma, sposobnost tehnologije da "povjeruje" u dezinformacije predstavlja ozbiljan rizik po javno zdravlje.

Studija upozorava da kreatori lažnih vijesti koriste upravo ove slabosti AI sistema kako bi progurali opasne medicinske savete u same odgovore koje generišu popularni AI asistenti.

Stručnjaci koji su radili na istraživanju ističu da trenutni zaštitni mehanizmi nisu dovoljni. Iako kompanije kao što su OpenAI, Google i Meta stalno unapređuju svoje modele, studija sugeriše da je neophodan radikalno drugačiji pristup u načinu na koji AI vrednuje izvore informacija.

"Problem nije samo u tome što AI može da pogriješi, već u tome što on aktivno uči iz sofisticirano plasiranih neistina koje imitiraju nauku," navodi se u izvještaju.

Dok se tehnologija ne usavrši, ljekari i istraživači apeluju na građane da AI alate koriste isključivo kao informativnu pomoć, a da se za bilo kakvu dijagnozu ili terapiju obrate kvalifikovanim medicinskim stručnjacima i provjerenim institucijama.

(b92)