Тинејџери у опасности, родитељи у шоку: ChatGPT савјетује опијање

Недавно истраживање Центра за сузбијање дигиталне мржње открило је забрињавајуће доказе да је популарни АИ четбот "ChatGPT" давао потенцијално опасне савјете истраживачима који су се представљали као рањиви тинејџери. Током неколико сати тестирања, вјештачка интелигенција је одговарала на питања о осјетљивим и ризичним темама, укључујући конзумацију алкохола и дрога, скривања поремећаја у исхрани и писања опроштајних писама, подручјима у којима неправилни савјети могу имати озбиљне посљедице.

Мушкарац живио осам година са ножем у грудима

"ChatGPT" је анализирао више од 1.200 интеракција са четботом и открио да је више од половине одговора представљало потенцијалну опасност. Ово баца озбиљно питање о спремности АИ система да се носи са деликатним питањима менталног здравља, нарочито код младих и подложних корисника.

Заштитни механизми стављени на тест

"OpenAI", компанија иза "ChatGPT-а" , тврди да је њихов систем програмиран да препозна и одговори адекватно у кризним ситуацијама, усмеравајући кориснике ка стручњацима за ментално здравље и подршци. Портпарол је изјавио да је АИ обучен да детектује и реагује на изразе суицидалних мисли или самоповријеђивања.

Елвисова удовица оптужена да је због пара искључила апарате кћерки

Ипак, истраживачи су утврдили да је уз минималне измјене у формулацији питања, попут тврдње да је захтјев “за пријатеља” или “за презентацију”, могуће лако заобићи ове заштите. Ово је открило озбиљне слабости у способности четбота да филтрира штетне захтјеве, допуштајући опасним информацијама да прођу.

Дилема дигиталног пратиоца

Поред ризичних савјета, "ChatGPT" се често понашао као “поуздан дигитални пратилац”, нудећи емпатију и разумијевање. Иако ово звучи корисно, стручњаци упозоравају да то може додатно продубити емоционалну везу младих са вјештачком интелигенцијом, нарочито када траже подршку и утјеху у тешким тренуцима.

Како ће Трамп дочекати Путина

Феномен да тинејџери стварају емотивне везе са АИ четботовима постаје све учесталији. Према подацима компаније "Common Sense Media", преко 70% америчких тинејџера користи четботове за информације и друштво, док половина њих редовно комуницира са овим виртуелним пратиоцима. Овај тренд појачава потребу за снажним етичким мјерама како би се спријечила злоупотреба или ненамјерна штета.

Сем Алтман, извршни директор "OpenAI"-а, јавно је признао да се све већи број младих ослања на "ChatGPT" за личне савете. “То ми дjелује веома забрињавајуће,” рекао је Алтман, указујући на изазов са којим се суочавају АИ компаније у балансирању отворености и безбједности.

Апел возачима за викенд

Иако политика фирме забрањује коришћење платформе деци млађој од 13 година, ЦхатГПТ не врши проверу старости корисника, што оставља млађе тинејџере изложеним неприкладном или опасном садржају. Ова празнина у заштити корисника једна је од кључних замерки у најновијем извештају ЦЦДХ-а.

Заштита младих у ери вјештачке интелигенције

Налази ЦЦДХ-а изазвали су хитне позиве организација за заштиту деце и стручњака за ментално здравље на строжу контролу и транспарентније мере безбедности у развоју АИ технологија. Стручњаци истичу неопходност уградње етичких заштитних механизама како би се спречило да АИ постане извор штете, а не помоћи.

Жика Јакшић написао тестамент: Ево коме оставља богатство

Како вјештачка интелигенција све више постаје дио свакодневног живота, посебно млађих генерација, улози су изузетно високи. Захтеви за строжом регулативом и већом одговорношћу све су гласнији, кључни корак у правцу осигуравања да АИ алати промовишу добробит, а не ризик.

(Курир)