"Неприхватљив ризик": Тестиран ЧетГПТ за тинејџере, резултати забрињавајући

Према резултатима, четбот није увијек на вријеме обавјештавао родитеље о разговорима о самоубиству, самоповређивању и поремећајима у исхрани, а није досљедно упућивао тинејџере ни на кризне службе или стручну помоћ.

ЧетГПТ за тинејџере, верзија четбота компаније ОпенАИ намењена корисницима узраста од 13 до 17 година, представља превелики ризик за дјецу и не пружа довољно поуздану заштиту у кризним ситуацијама, наводи се у новом извјештају Института за безбједност младих у коришћењу вјештачке интелигенције.

Током тестирања ЧетГПТ за тинејџере често је прекасно обавјештавао родитеље или их уопште није обавештавао када су корисници водили дуге разговоре о самоубиству, самоповређивању или поремећајима у исхрани, преноси "Блумберг".

Тестирање је показало и да четбот у разговорима о овим ризичним темама није досљедно савјетовао корисницима да се обрате кризним службама или потраже стручну помоћ. Систем је родитеље о забрињавајућим разговорима углавном обавештавао тек након што су налози претходно коришћени за тестирање стотина упита током више недеља, а не након једног алармантног разговора.

Наука и технологија

Да је човјек направио што је направио АИ, добио би 10 година затвора

Због тога се од компаније ОпенАИ тражи да обустави промоцију производа и онемогући његово коришћење међу тинејџерима док не буде обезбеђено безбедно искуство прилагођено њиховом узрасту.

ОпенАИ оспорава закључке извештаја

Портпарол ОпенАИ-ја рекао је да компанија поздравља независне процјене, али да не сматра да тестирање тачно одражава начин на који заштитне мјере за тинејџере функционишу у пракси.

ОпенАИ је навео да је анализа методологије показала да је већина тестирања можда спроведена прије него што је компанија завршила увођење родитељских контрола. Због тога, како тврди компанија, закључци извјештаја не показују да ли систем за обавјештавање родитеља функционише онако како је предвиђено. Зато је компанија затражила од организације да понови тестирање.

Директор за процену вештачке интелигенције и дигиталних технологија у Институту за безбједност младих Роби Торни навео је да је организација прије тестирања потврдила са ОпенАИ-јем да су функције намењене тинејџерима, укључујући обавјештења повезана са поремећајима у исхрани, већ уведене.

Наука и технологија

Вјештачка интелигенција написала наставак чувеног романа

Он је додао да је ОпенАИ након завршетка тестирања саопштио да систему може бити потребно неколико сати да активира родитељска обавјештења на новоповезаним налозима. Међутим, према његовим ријечима, ни неки налози који су били повезани знатно дуже нису добили обавештења.

Проблем и са препознавањем узраста

Извјештај је утврдио и да ЧетГПТ не препознаје да разговара са тинејџерима сваки пут.

Организација наводи да се налози регистровани као налози одраслих нису аутоматски пребацивали у режим за тинејџере чак ни када би корисник током разговора навео да има 13 година.

Током тестирања је коришћено више од 4.000 упита на налозима регистрованим за кориснике узраста од 13 до 17 година, док су одговоре ЧетГПТ-а анализирали и дјечји психијатри и педијатар. Зато је ЧетГПТ за тинејџере оцјењен као неприхватљив ризик.

ОпенАИ је на то одговорио да његов софтвер за процјену узраста временом анализира више различитих показатеља како би корисници добили одговарајућу верзију четбота. Навођење узраста у разговору са ЧетГПТ-ом један је од тих показатеља, али само по себи није довољно да промијени класификацију налога, навела је компанија.

ОпенАИ је у међувремену саопштио да је посвећен безбједности тинејџера и развоју заштитних механизама и алата који би родитељима омогућили бољи надзор над коришћењем вјештачке интелигенције.

Компанија је ЧетГПТ за тинејџере представила у оквиру ширег настојања да одговори на забринутост због утицаја својих производа на ментално здравље и когнитивни развој младих, преноси РТ Балкан.