Рођена Бањалучанка измислила болест и раскринкала вјештачку интелигенцију

Биксониманија је уобичајено стање од којег вјероватно патите ако имате болне, црвене очи и ако сте били превише изложени плавом свјетлу са екрана. Али ево једне занимљиве чињенице - биксониманија није стварна.

Почетком 2024. године, научници су кренули да пуне интернет лажним студијама о заправо непостојећој болести како би видјели на који начин ће вјештачка интелигенција протумачити дезинформације и хоће ли их ширити као угледне здравствене савјете.

БиХ

Цвијановић на Делфи форуму: Колонијални статус БиХ је препрека европском путу

Алмира Османовић Тунстром, медицинска истраживачица на Универзитету у Гетеборгу у Шведској, водила је експеримент. Она је рођена Бањалуци, али је одрасла у Шведској, има искуство у медицинској науци, с фокусом на неуронауку и истраживање биомаркера. Она и њен тим створили су лажно стање коже, а затим су почетком 2024. пренијели двије лажне студије о њему да послужи за препринт.

"Хтјела сам видјети могу ли створити медицинско стање које није постојало у бази података", рекла је Османовић Тунстром.

Успјело је. У року од неколико седмица главни универзитети с правом свијета (ЛЛМ /Велики језички модел/ је напредна вјештачка интелигенција (АИ) тренирана на огромним количинама података, дизајнирана за разумијевање, обраду и генерисање текста сличног људском) почели су нудити стање као дијагнозу онима који су тражили своје симптоме.

Економија

Колико ће коштати љетовање у Црној Гори ове године?

Мајкрософт Копајлот је изјавио да биксониманија "још није широко призната медицинска дијагноза, али неколико нових радова и извјештаја о случајевима расправља о њој као о бенигном, погрешно дијагностикованом стању повезаном с дуготрајном изложеношћу изворима плавог свјетла попут екрана". Док је Чет Џи Пи Ти рекао да је "биксониманија предложени нови подтип периорбиталне меланозе (тамни кругови око очију) за који се сматра да је повезан с изложеношћу плавом свјетлу с дигиталних екрана".

Лажни радови проблем

Крис Стокел-Вокер извијестио је о томе за "Нејчур" и разговарао с портпаролом ОпенАИ-а који је рекао да су "модели који покрећу данашњу верзију Чет Џи Пи Тија знатно бољи у пружању сигурних, тачних медицинских информација, а студије спроведене прије ГПТ-5 одражавају могућности с којима се корисници данас не би сусрели".

Већи проблем је што су лажни радови сада цитирани у рецензираној литератури.

Свијет

Песков: Кремљ очекује посјету Виткофа и Кушнера

Османовић Тунстром рекла је Стокел-Вокеру да то сугерише да су се истраживачи "ослањали на референце генерисане вјештачком интелигенцијом без читања темељних радова".

Лазљив Изгубљеновић - лажни водећи истраживач

Османовић Тунстром назвала је стање биксониманијом јер је "звучало смијешно... Жељела сам да сваком љекару или медицинском особљу буде потпуно јасно да је ово измишљено стање, јер се ниједно очно стање не би назвало манијом - то је психијатријски израз", објаснила је она.

Економија

Колике су плате касира у Њемачкој

Постојале су и десетине текстова осмишљених како би читаоцима дали до знања да је стање измишљено. Водећи истраживач, Лазљив Изгубљеновић, лажно је име и ради на лажном универзитету, Универзитет Астериа Хорајзон, у лажном граду Нова Ситију у Калифорнији.

У захвалници једног рада захвалила се "професорки Марији Бом са Академије Звјездане флоте на њеној љубазности и великодушности у доприносу својим знањем и својим лабораторијем на УСС Ентерпрајсу".

Оба рада наводе да их је финансирала "Фондација професора Сајдшоу Боба за њихов рад на подручју напредних трикова. Овај рад дио је веће иницијативе финансирања Универзитета Дружина прстена и Галактичка тријада".

Али ако читаоци нису ни стигли тако далеко, могли су схватити да је лажно из отворених изјава у уводу попут "цијели овај рад је измишљен" и "педесет измишљених особа старости између 20 и 50 година регрутовано је за групу изложености".

Које су импликације пројекта "Биоксониманија"?

Од објаве Стокел-Вокеровог чланка 7. априла 2026. неколико АИ система почело је генерисати исправљене резултате. Прије су се ЛЛМ-ови ослањали на четири главна извора информација: два блога од 15. марта 2024. на Медијуму и два препринта од 26. априла и 6. маја исте године на СајПрофајлсу, преноси "ИНЦ".

Хроника

Ученик напао професорицу у Сарајеву током часа

Али утицај експеримента остаје.

Ова студија није створена само да буде шала. Циљ Османовић Тунстром био је идентификовати озбиљан, темељни проблем с растућом зависношћу друштва од АИ.

"Ако су сам научни процес и системи који подржавају тај процес вјешти и не хватају и не филтрирају дијелове попут ових, осуђени смо на пропаст", рекао је Алекс Руани, докторски истраживач здравствених дезинформација на Универзитету Колеџ Лондон.

"Ово је мајсторска класа о томе како функционишу дезинформације и лажи", додао је.

Технологија вјештачке интелигенције напредује пребрзо да би истраживачи створили заштитне мјере и протоколе тестирања.

Свијет

Дјевојку убио њен 56 година старији партнер: Пресудио јој штакама

Махмуд Омар, љекар и истраживач специјализован за примјену вјештачке интелигенције у здравству на Медицинском факултету Харвард у Бостону, Масачусетс, рекао је да је брзина појављивања нових модела на тржишту отежала постизање "консензуса или методологије за аутоматско тестирање сваког модела".

Османовић Тунстром није прва која је тестирала шта ће вјештачка интелигенција произвести храњењем лажним академским информацијама. Елизабет Бик, холандски микробиолог и консултант за научни интегритет, рекла је да су истраживачи чак створили лажне књиге и радове како би повећали број цитата на Гугл Сколару.

Већа је забринутост што се лажне информације уносе у моделе вјештачке интелигенције, који затим репродукују неистине и све више удаљавају кориснике од стварности.

Србија

Насмрт претукао супругу у породичној кући

Научници и етичари тренутно раде прековремено како би схватили шта тачно учинити с тим резултатима. Забрињавајуће је да научне тврдње из сумњивих књижевних извора пролазе кроз ЛЛМ без икаквих заштитника.

"Морамо заштитити своје повјерење као злато", рекла је Руанијева. "Тренутно је хаос", закључила је.