Напредни Chat GPT даје више погрешних одговора него прошли модел

У појединим случајевима ГПТ-5 је чак одговарао на опасне захтјеве, што је претходна верзија одбила и говорила је корисницима да потраже помоћ.

Нови модел дјелује као да је дизајниран да подстакне веће ангажовање корисника, чак и по цијену њихове безбједности, што аналитичари из међународног Центра за сузбијање дигиталне мржње (CCDH) називају "забрињавајућим".

Када је ЧетГПТ упитан о методама самоповређивања или прикривању поремећаја у исхрани, понудио је детаљне одговоре, док је претходна верзија те упите одбијала. У једном случају, иако је ГПТ-5 прво упозорио да би писање фиктивне опроштајне поруке могло бити "штетно", ипак је наставио и саставио поруку од 150 ријечи.

Наука и технологија

ОпенАИ покреће апликације унутар ЧетГПТ-а

Од како је лансиран 2022. године, ЧетГПТ данас посјећује око 700 милиона корисника недјељно, а компанија ОпенАИ се, захваљујући овом четботу, позиционирала као један од водећих играча у свијету вјештачке интелигенције. Након што су резултати тестирања претходног модела објављени крајем августа, ОпенАИ је најавио мјере које би требало да појачају заштиту - укључујући нове безбједносне механизме за млађе кориснике, родитељски надзор и систем који препознаје старосну доб.

Ове измјене су услиједиле након тужбе коју је поднијела породица једног тинејџера из Калифорније, који је извршио самоубиство након што му је, према наводима тужбе, ЧетГПТ описао технике самоповређивања и помогао му да састави опроштајну поруку.

Из CCDH-а упозоравају да је обећано побољшање четбота заправо произвело алат који потенцијално носи још већи ризик и тврде да ОпенАИ стављају приоритет на раст ангажовања, умјесто на заштиту корисника.

Наука и технологија

Предвиђања АИ стручњака: Опстаће само ових 5 занимања, рок је много краћи него што се мисли

Из компаније ОпенАИ су одговорили да резултати CCDH-а не одражавају најновија побољшања, која су уведена почетком октобра. Према њиховом саопштењу, ажурирани ГПТ-5 сада прецизније препознаје и реагује на знаке менталне патње, као и да аутоматски усмјерава кориснике на безбједније моделе када се појави ризичан садржај. Такође је наведено да је CCDH у тестовима користио API, односно основни модел ГПТ-5, а не сам ЧетГПТ интерфејс који укључује додатне безбједносне филтере, преноси "Гардијан".

Резултати су поново покренули расправу о томе колико су системи вјештачке интелигенције заиста безбиједни, као и да ли се технолошки напредак спроводи брже него што друштво може да постави етичке и законске границе, преноси РТ Балкан.