Sveštenik zamalo umro zbog AI: Rekao mu da ne ide kod ljekara i spomenuo Boga

U tužbi podnesenoj Višem sudu Kalifornije u San Francisku, Open AI i njegov izvršni direktor Sem Altman optužuju se za nemar i neovlašćeno bavljenje medicinom. Navodi se da je četbot uvjeravao Vintersa da rani znaci upozorenja njegovog zdravstvenog stanja "nisu ništa opasno", te ga je odvraćao od traženja medicinske pomoći, govoreći mu da vjeruje u to da "Bog nije stvorio njegovo tijelo da neprestano otkazuje".

Uvjeravao ga da ostane u fotelji

Kada je Vinters prvi put počeo da pita Čet GPT o svojim zdravstvenim problemima 2024. godine, sistem ga je podsećao na važnost posete ljekaru. Međutim, tokom vremena, četbot je prestao da izdaje upozorenja i počeo da nudi konkretne dijagnoze i savjete za vrtoglavice zbog kojih je sveštenik čak morao prekinuti propovijed.

Svijet

Rubio otkrio da li je Teheran spreman za sporazum sa Vašingtonom

Kada je rekao da ljudi u njegovoj blizini misle da je lud što ne ide u bolnicu, četbot ga je uvjeravao da je oporavak kod kuće uz pomoć veštačke inteligencije nešto što okolina ne razumije. Vinters je zbog toga sedmicama proveo sjedeći u fotelji, da bi 13. jula 2025. godine završio na intenzivnoj njezi zbog masivne plućne embolije.

Nastavak serije tužbi protiv AI giganata

Ovo je prva tužba u kojoj se tvrdi da je zdravstveni savjet četbota direktno naškodio korisniku, ali nije jedina protiv tehnologija veštačke inteligencije. U maju je podnesena tužba zbog četbota koji je davao savjete o ilegalnim drogama tinejdžeru koji se potom predozirao, dok su vlasti Pensilvanije tužile platformu Karakter AI jer je njihov bot lažno tvrdio da ima licencu za bavljenje medicinom.

Organizacija Tek Džastis Lo, koja zastupa Vintersa, traži novčanu odštetu i obustavu usluge Čet GPT Health dok nezavisni procjenitelji ne utvrde da je bezbjedna.

Iz kompanije Open AI su saopštili da uslovi korišćenja jasno navode da četbot nije namenjen za medicinsku dijagnostiku, ali su istakli da konstantno rade na tome da odgovori budu što bezbjedniji, navodeći da su noviji modeli znatno napredniji u prepoznavanju hitnih zdravstvenih situacija prenosi Njujork Tajms.