Rođena Banjalučanka izmislila bolest i raskrinkala vještačku inteligenciju

Biksonimanija je uobičajeno stanje od kojeg vjerovatno patite ako imate bolne, crvene oči i ako ste bili previše izloženi plavom svjetlu sa ekrana. Ali evo jedne zanimljive činjenice - biksonimanija nije stvarna.

Početkom 2024. godine, naučnici su krenuli da pune internet lažnim studijama o zapravo nepostojećoj bolesti kako bi vidjeli na koji način će vještačka inteligencija protumačiti dezinformacije i hoće li ih širiti kao ugledne zdravstvene savjete.

BiH

Cvijanović na Delfi forumu: Kolonijalni status BiH je prepreka evropskom putu

Almira Osmanović Tunstrom, medicinska istraživačica na Univerzitetu u Geteborgu u Švedskoj, vodila je eksperiment. Ona je rođena Banjaluci, ali je odrasla u Švedskoj, ima iskustvo u medicinskoj nauci, s fokusom na neuronauku i istraživanje biomarkera. Ona i njen tim stvorili su lažno stanje kože, a zatim su početkom 2024. prenijeli dvije lažne studije o njemu da posluži za preprint.

"Htjela sam vidjeti mogu li stvoriti medicinsko stanje koje nije postojalo u bazi podataka", rekla je Osmanović Tunstrom.

Uspjelo je. U roku od nekoliko sedmica glavni univerziteti s pravom svijeta (LLM /Veliki jezički model/ je napredna vještačka inteligencija (AI) trenirana na ogromnim količinama podataka, dizajnirana za razumijevanje, obradu i generisanje teksta sličnog ljudskom) počeli su nuditi stanje kao dijagnozu onima koji su tražili svoje simptome.

Ekonomija

Koliko će koštati ljetovanje u Crnoj Gori ove godine?

Majkrosoft Kopajlot je izjavio da biksonimanija "još nije široko priznata medicinska dijagnoza, ali nekoliko novih radova i izvještaja o slučajevima raspravlja o njoj kao o benignom, pogrešno dijagnostikovanom stanju povezanom s dugotrajnom izloženošću izvorima plavog svjetla poput ekrana". Dok je Čet Dži Pi Ti rekao da je "biksonimanija predloženi novi podtip periorbitalne melanoze (tamni krugovi oko očiju) za koji se smatra da je povezan s izloženošću plavom svjetlu s digitalnih ekrana".

Lažni radovi problem

Kris Stokel-Voker izvijestio je o tome za "Nejčur" i razgovarao s portparolom OpenAI-a koji je rekao da su "modeli koji pokreću današnju verziju Čet Dži Pi Tija znatno bolji u pružanju sigurnih, tačnih medicinskih informacija, a studije sprovedene prije GPT-5 odražavaju mogućnosti s kojima se korisnici danas ne bi susreli".

Veći problem je što su lažni radovi sada citirani u recenziranoj literaturi.

Svijet

Peskov: Kremlj očekuje posjetu Vitkofa i Kušnera

Osmanović Tunstrom rekla je Stokel-Vokeru da to sugeriše da su se istraživači "oslanjali na reference generisane vještačkom inteligencijom bez čitanja temeljnih radova".

Lazljiv Izgubljenović - lažni vodeći istraživač

Osmanović Tunstrom nazvala je stanje biksonimanijom jer je "zvučalo smiješno... Željela sam da svakom ljekaru ili medicinskom osoblju bude potpuno jasno da je ovo izmišljeno stanje, jer se nijedno očno stanje ne bi nazvalo manijom - to je psihijatrijski izraz", objasnila je ona.

Ekonomija

Kolike su plate kasira u Njemačkoj

Postojale su i desetine tekstova osmišljenih kako bi čitaocima dali do znanja da je stanje izmišljeno. Vodeći istraživač, Lazljiv Izgubljenović, lažno je ime i radi na lažnom univerzitetu, Univerzitet Asteria Horajzon, u lažnom gradu Nova Sitiju u Kaliforniji.

U zahvalnici jednog rada zahvalila se "profesorki Mariji Bom sa Akademije Zvjezdane flote na njenoj ljubaznosti i velikodušnosti u doprinosu svojim znanjem i svojim laboratorijem na USS Enterprajsu".

Oba rada navode da ih je finansirala "Fondacija profesora Sajdšou Boba za njihov rad na području naprednih trikova. Ovaj rad dio je veće inicijative finansiranja Univerziteta Družina prstena i Galaktička trijada".

Ali ako čitaoci nisu ni stigli tako daleko, mogli su shvatiti da je lažno iz otvorenih izjava u uvodu poput "cijeli ovaj rad je izmišljen" i "pedeset izmišljenih osoba starosti između 20 i 50 godina regrutovano je za grupu izloženosti".

Koje su implikacije projekta "Bioksonimanija"?

Od objave Stokel-Vokerovog članka 7. aprila 2026. nekoliko AI sistema počelo je generisati ispravljene rezultate. Prije su se LLM-ovi oslanjali na četiri glavna izvora informacija: dva bloga od 15. marta 2024. na Medijumu i dva preprinta od 26. aprila i 6. maja iste godine na SajProfajlsu, prenosi "INC".

Hronika

Učenik napao profesoricu u Sarajevu tokom časa

Ali uticaj eksperimenta ostaje.

Ova studija nije stvorena samo da bude šala. Cilj Osmanović Tunstrom bio je identifikovati ozbiljan, temeljni problem s rastućom zavisnošću društva od AI.

"Ako su sam naučni proces i sistemi koji podržavaju taj proces vješti i ne hvataju i ne filtriraju dijelove poput ovih, osuđeni smo na propast", rekao je Aleks Ruani, doktorski istraživač zdravstvenih dezinformacija na Univerzitetu Koledž London.

"Ovo je majstorska klasa o tome kako funkcionišu dezinformacije i laži", dodao je.

Tehnologija vještačke inteligencije napreduje prebrzo da bi istraživači stvorili zaštitne mjere i protokole testiranja.

Svijet

Djevojku ubio njen 56 godina stariji partner: Presudio joj štakama

Mahmud Omar, ljekar i istraživač specijalizovan za primjenu vještačke inteligencije u zdravstvu na Medicinskom fakultetu Harvard u Bostonu, Masačusets, rekao je da je brzina pojavljivanja novih modela na tržištu otežala postizanje "konsenzusa ili metodologije za automatsko testiranje svakog modela".

Osmanović Tunstrom nije prva koja je testirala šta će vještačka inteligencija proizvesti hranjenjem lažnim akademskim informacijama. Elizabet Bik, holandski mikrobiolog i konsultant za naučni integritet, rekla je da su istraživači čak stvorili lažne knjige i radove kako bi povećali broj citata na Gugl Skolaru.

Veća je zabrinutost što se lažne informacije unose u modele vještačke inteligencije, koji zatim reprodukuju neistine i sve više udaljavaju korisnike od stvarnosti.

Srbija

Nasmrt pretukao suprugu u porodičnoj kući

Naučnici i etičari trenutno rade prekovremeno kako bi shvatili šta tačno učiniti s tim rezultatima. Zabrinjavajuće je da naučne tvrdnje iz sumnjivih književnih izvora prolaze kroz LLM bez ikakvih zaštitnika.

"Moramo zaštititi svoje povjerenje kao zlato", rekla je Ruanijeva. "Trenutno je haos", zaključila je.