Рођена Бањалучанка објаснила како је измишљеном болешћу раскринкала АИ

Фиктивна болест названа 'биксониманиа', која у стварности не постоји, успјела се проширити кроз АИ системе, па чак и у дијелове научне литературе, отварајући озбиљна питања о поузданости савремених технологија.

Република Српска

Преминула маjка Милорада Додика

Иза овог експеримента стоји истраживачица родом из Бањалуке Алмира Османовић Тунстром са Универзитета у Гетеборгу, Шведска, која је осмислила и објавила лажне научне радове како би тестирала начин на који велики језички модели обрађују информације.

Циљ је био показати да ли ће системи препознати очигледне знакове фикције или ће их прихватити као валидне податке.

Резултати су били забрињавајући. Већ након неколико седмица поједини АИ четботови почели су 'препознавати' биксониманију као стварно медицинско стање, описујући симптоме и узроке који не постоје. Проблем је додатно ескалирао када су поједини истраживачи, без провјере извора, почели цитирати измишљене радове у властитим научним текстовима, чиме су дезинформације добиле привид легитимитета.

Регион

Измјене ступиле на снагу: Ова земља је подигла старосну границу за пензију

У разговору за портал "Радиосарајево.ба", Османовић Тунстром открива и личну причу која стоји иза њеног научног пута, али и мотиве који су довели до овог експеримента.

Пут од БиХ до Шведске

Алмира Османовић Тунстром је рођена у Бањојлуци, а у Шведску је дошла као избјеглица током 1990-их година. Своје академско образовање започела је у области животних наука на Каролинска институту, али је убрзо схватила да је технологија подручје које снажније резонује с њеним интересима.

"Докторске студије започела сам у области биологије, с фокусом на структурне промјене мозга код особа с когнитивним опадањем. Међутим, током истраживачког рада постало ми је јасно да ће будућност медицинских истраживања у великој мјери зависити од аутоматизације, вјештачке интелигенције и квалитетног дизајна система. Стога сам се усмјерила ка новом истраживачком правцу, гдје се данас примарно бавим развојем, али и критичком анализом ('разградњом') АИ система у здравству, с посебним нагласком на сигурност и поузданост", појаснила је Османовић Тунстром.

Шта је био циљ експеримента

Како је нагласила, циљ овог експеримента био је првенствено едукативан за студенте којима предаје, али и ширу јавност заинтересовану за начин на који се конструишу велики језички модели.

Хроника

Инцидент у џамији у БиХ: Каишем ударио дијете

"Посебно сам жељела илустровати како се подаци прикупљају и обрађују из опсежних репозиторијума попут Комон Крола, те које импликације такви процеси имају", истакла је Османовић Тунстром.

Резултатом је, како каже била изненађена...

"Било је недвосмислено назначено да су подаци и налази у потпуности измишљени, што је јасно истакнуто у методологији. Додатно, укључивање референци попут Стар Трека и Господара прстенова требало је послужити као очигледан сигнал о природи рада, што, међутим, није спријечило прихватање тих информација као вјеродостојних", наглашава Османовић Тунстром.

Колико је АИ поуздана

Османовић Тунстром става је да комерцијалне АИ системе треба користити с дозом опреза, нарочито када је ријеч о здравственим савјетима.

Свијет

Дјечак убио туристкињу статуом: Предложена оптужница против родитеља

"Правилно развијени, ригорозно тестирани и адекватно тренирани системи имају значајан потенцијал да унаприједе здравствену заштиту. Кључно је, дакле, не одбацити технологију у цјелини, већ је унаприједити кроз одговоран развој и имплементацију. Највећи ризик видим у могућности злоупотребе ових система од стране злонамјерних актера, који би могли намјерно пласирати дезинформације о медицинским стањима или терапијама — било с циљем изазивања панике, било ради промовисања ненаучних приступа лијечењу", истиче Османовић Тунстром.

Веза са БиХ и поруке младима

Иако је скоро цијели живот провела у Шведској, са Босном и Херцеговином ипак осјећа дубоку повезаност...

Република Српска

У УКЦ Српске савремена метода лијечења тешких менталних поремећаја

"Босна и Херцеговина је моје мјесто рођења и према њој осјећам дубоку емотивну повезаност. Ипак, будући да сам већи дио живота провела изван ње, свјесна сам да моје језичке и културне референце нису у потпуности ажурне. Упркос томе, радо бих се интензивније укључила у босанскохерцеговачку истраживачку заједницу, за коју сматрам да посједује значајан потенцијал и већ показује завидан ниво прогресивности", појашњава и доноси поруку за младе.

"Мој савјет младим људима био би: сарађујте, континуирано градите мреже сарадње и његујте радозналост. Не устручавајте се размишљати изван устаљених оквира — управо такав приступ често води ка најиновативнијим идејама", закључује Османовић Тунстрoм у разговору за "Радиосарајево.ба".