Вјештачка интелигенција није добра у постављању дијагнозе

Према најновијој студији, модели вјештачке интелигенције који се све чешће користе за пружање здравствених савјета имају значајан проблем – подложни су дезинформацијама ако су оне упаковане у формат који имитира научни ауторитет.

Истраживање је показало да АИ четтботови и велики језички модели (ЛЛМ) често не успевају да разликују провјерене медицинске чињенице од лажних тврдњи ако се те тврдње налазе на сајтовима који користе медицинску терминологију, референце које дјелују убедљиво или визуелни идентитет који подсјећа на релевантне здравствене институције.

Главни проблеми идентификовани у студији су:

Наука и технологија

Нова метода вјештачке интелигенције помаже у идентификацији отисака стопала диносауруса

АИ модели дају већи значај структури текста и ауторитативном тону него стварној провјери података кроз базе клиничких доказа.

Пошто се све већи број људи ослања на АИ за самолечење и разумијевање симптома, способност технологије да "повјерује" у дезинформације представља озбиљан ризик по јавно здравље.

Студија упозорава да креатори лажних вијести користе управо ове слабости АИ система како би прогурали опасне медицинске савете у саме одговоре које генеришу популарни АИ асистенти.

Стручњаци који су радили на истраживању истичу да тренутни заштитни механизми нису довољни. Иако компаније као што су ОпенАИ, Гоогле и Мета стално унапређују своје моделе, студија сугерише да је неопходан радикално другачији приступ у начину на који АИ вреднује изворе информација.

"Проблем није само у томе што АИ може да погријеши, већ у томе што он активно учи из софистицирано пласираних неистина које имитирају науку," наводи се у извјештају.

Док се технологија не усаврши, љекари и истраживачи апелују на грађане да АИ алате користе искључиво као информативну помоћ, а да се за било какву дијагнозу или терапију обрате квалификованим медицинским стручњацима и провјереним институцијама.

(б92)