Napredni Chat GPT daje više pogrešnih odgovora nego prošli model

U pojedinim slučajevima GPT-5 je čak odgovarao na opasne zahtjeve, što je prethodna verzija odbila i govorila je korisnicima da potraže pomoć.

Novi model djeluje kao da je dizajniran da podstakne veće angažovanje korisnika, čak i po cijenu njihove bezbjednosti, što analitičari iz međunarodnog Centra za suzbijanje digitalne mržnje (CCDH) nazivaju "zabrinjavajućim".

Kada je ČetGPT upitan o metodama samopovređivanja ili prikrivanju poremećaja u ishrani, ponudio je detaljne odgovore, dok je prethodna verzija te upite odbijala. U jednom slučaju, iako je GPT-5 prvo upozorio da bi pisanje fiktivne oproštajne poruke moglo biti "štetno", ipak je nastavio i sastavio poruku od 150 riječi.

Nauka i tehnologija

OpenAI pokreće aplikacije unutar ČetGPT-a

Od kako je lansiran 2022. godine, ČetGPT danas posjećuje oko 700 miliona korisnika nedjeljno, a kompanija OpenAI se, zahvaljujući ovom četbotu, pozicionirala kao jedan od vodećih igrača u svijetu vještačke inteligencije. Nakon što su rezultati testiranja prethodnog modela objavljeni krajem avgusta, OpenAI je najavio mjere koje bi trebalo da pojačaju zaštitu - uključujući nove bezbjednosne mehanizme za mlađe korisnike, roditeljski nadzor i sistem koji prepoznaje starosnu dob.

Ove izmjene su uslijedile nakon tužbe koju je podnijela porodica jednog tinejdžera iz Kalifornije, koji je izvršio samoubistvo nakon što mu je, prema navodima tužbe, ČetGPT opisao tehnike samopovređivanja i pomogao mu da sastavi oproštajnu poruku.

Iz CCDH-a upozoravaju da je obećano poboljšanje četbota zapravo proizvelo alat koji potencijalno nosi još veći rizik i tvrde da OpenAI stavljaju prioritet na rast angažovanja, umjesto na zaštitu korisnika.

Nauka i tehnologija

Predviđanja AI stručnjaka: Opstaće samo ovih 5 zanimanja, rok je mnogo kraći nego što se misli

Iz kompanije OpenAI su odgovorili da rezultati CCDH-a ne odražavaju najnovija poboljšanja, koja su uvedena početkom oktobra. Prema njihovom saopštenju, ažurirani GPT-5 sada preciznije prepoznaje i reaguje na znake mentalne patnje, kao i da automatski usmjerava korisnike na bezbjednije modele kada se pojavi rizičan sadržaj. Takođe je navedeno da je CCDH u testovima koristio API, odnosno osnovni model GPT-5, a ne sam ČetGPT interfejs koji uključuje dodatne bezbjednosne filtere, prenosi "Gardijan".

Rezultati su ponovo pokrenuli raspravu o tome koliko su sistemi vještačke inteligencije zaista bezbijedni, kao i da li se tehnološki napredak sprovodi brže nego što društvo može da postavi etičke i zakonske granice, prenosi RT Balkan.