Rođena Banjalučanka objasnila kako je izmišljenom bolešću raskrinkala AI

Fiktivna bolest nazvana 'biksonimania', koja u stvarnosti ne postoji, uspjela se proširiti kroz AI sisteme, pa čak i u dijelove naučne literature, otvarajući ozbiljna pitanja o pouzdanosti savremenih tehnologija.

Republika Srpska

Preminula majka Milorada Dodika

Iza ovog eksperimenta stoji istraživačica rodom iz Banjaluke Almira Osmanović Tunstrom sa Univerziteta u Geteborgu, Švedska, koja je osmislila i objavila lažne naučne radove kako bi testirala način na koji veliki jezički modeli obrađuju informacije.

Cilj je bio pokazati da li će sistemi prepoznati očigledne znakove fikcije ili će ih prihvatiti kao validne podatke.

Rezultati su bili zabrinjavajući. Već nakon nekoliko sedmica pojedini AI četbotovi počeli su 'prepoznavati' biksonimaniju kao stvarno medicinsko stanje, opisujući simptome i uzroke koji ne postoje. Problem je dodatno eskalirao kada su pojedini istraživači, bez provjere izvora, počeli citirati izmišljene radove u vlastitim naučnim tekstovima, čime su dezinformacije dobile privid legitimiteta.

Region

Izmjene stupile na snagu: Ova zemlja je podigla starosnu granicu za penziju

U razgovoru za portal "Radiosarajevo.ba", Osmanović Tunstrom otkriva i ličnu priču koja stoji iza njenog naučnog puta, ali i motive koji su doveli do ovog eksperimenta.

Put od BiH do Švedske

Almira Osmanović Tunstrom je rođena u Banjojluci, a u Švedsku je došla kao izbjeglica tokom 1990-ih godina. Svoje akademsko obrazovanje započela je u oblasti životnih nauka na Karolinska institutu, ali je ubrzo shvatila da je tehnologija područje koje snažnije rezonuje s njenim interesima.

"Doktorske studije započela sam u oblasti biologije, s fokusom na strukturne promjene mozga kod osoba s kognitivnim opadanjem. Međutim, tokom istraživačkog rada postalo mi je jasno da će budućnost medicinskih istraživanja u velikoj mjeri zavisiti od automatizacije, vještačke inteligencije i kvalitetnog dizajna sistema. Stoga sam se usmjerila ka novom istraživačkom pravcu, gdje se danas primarno bavim razvojem, ali i kritičkom analizom ('razgradnjom') AI sistema u zdravstvu, s posebnim naglaskom na sigurnost i pouzdanost", pojasnila je Osmanović Tunstrom.

Šta je bio cilj eksperimenta

Kako je naglasila, cilj ovog eksperimenta bio je prvenstveno edukativan za studente kojima predaje, ali i širu javnost zainteresovanu za način na koji se konstruišu veliki jezički modeli.

Hronika

Incident u džamiji u BiH: Kaišem udario dijete

"Posebno sam željela ilustrovati kako se podaci prikupljaju i obrađuju iz opsežnih repozitorijuma poput Komon Krola, te koje implikacije takvi procesi imaju", istakla je Osmanović Tunstrom.

Rezultatom je, kako kaže bila iznenađena...

"Bilo je nedvosmisleno naznačeno da su podaci i nalazi u potpunosti izmišljeni, što je jasno istaknuto u metodologiji. Dodatno, uključivanje referenci poput Star Treka i Gospodara prstenova trebalo je poslužiti kao očigledan signal o prirodi rada, što, međutim, nije spriječilo prihvatanje tih informacija kao vjerodostojnih", naglašava Osmanović Tunstrom.

Koliko je AI pouzdana

Osmanović Tunstrom stava je da komercijalne AI sisteme treba koristiti s dozom opreza, naročito kada je riječ o zdravstvenim savjetima.

Svijet

Dječak ubio turistkinju statuom: Predložena optužnica protiv roditelja

"Pravilno razvijeni, rigorozno testirani i adekvatno trenirani sistemi imaju značajan potencijal da unaprijede zdravstvenu zaštitu. Ključno je, dakle, ne odbaciti tehnologiju u cjelini, već je unaprijediti kroz odgovoran razvoj i implementaciju. Najveći rizik vidim u mogućnosti zloupotrebe ovih sistema od strane zlonamjernih aktera, koji bi mogli namjerno plasirati dezinformacije o medicinskim stanjima ili terapijama — bilo s ciljem izazivanja panike, bilo radi promovisanja nenaučnih pristupa liječenju", ističe Osmanović Tunstrom.

Veza sa BiH i poruke mladima

Iako je skoro cijeli život provela u Švedskoj, sa Bosnom i Hercegovinom ipak osjeća duboku povezanost...

Republika Srpska

U UKC Srpske savremena metoda liječenja teških mentalnih poremećaja

"Bosna i Hercegovina je moje mjesto rođenja i prema njoj osjećam duboku emotivnu povezanost. Ipak, budući da sam veći dio života provela izvan nje, svjesna sam da moje jezičke i kulturne reference nisu u potpunosti ažurne. Uprkos tome, rado bih se intenzivnije uključila u bosanskohercegovačku istraživačku zajednicu, za koju smatram da posjeduje značajan potencijal i već pokazuje zavidan nivo progresivnosti", pojašnjava i donosi poruku za mlade.

"Moj savjet mladim ljudima bio bi: sarađujte, kontinuirano gradite mreže saradnje i njegujte radoznalost. Ne ustručavajte se razmišljati izvan ustaljenih okvira — upravo takav pristup često vodi ka najinovativnijim idejama", zaključuje Osmanović Tunstrom u razgovoru za "Radiosarajevo.ba".