Antropik zabranjuje korisnicima da „zlostavljaju“ vještačku inteligenciju

Promjenu je prvi objavio The Verge. Portparol kompanije koja je razvila AI četbota Klod nije odmah pojasnio šta bi se tačno smatralo zlostavljanjem ili okrutnošću. U svojim onlajn politikama, kompanija sa sedištem u San Francisku napominje da se zabrana neće odnositi na uobičajene frustracije korisnika, testiranje modela ili mračne kreativne teme.

Uslovi korišćenja usluge kompanije Anthropic su ranije uključivali ograničenja u vezi sa zlostavljačkim ponašanjem. Njeni veliki jezički modeli mogu prekinuti razgovor ako korisnik stalno zloupotrebljava. Kada je ova funkcija predstavljena prošlog avgusta, kompanija ju je predstavila kao meru zaštite dobrobiti vještačke inteligencije.

Stav kompanije o dobrobiti modela

Oni pojašnjavaju svoj stav na svojoj veb stranici. „I dalje smo veoma nesigurni u vezi sa mogućim moralnim statusom Kloda i drugih velikih jezičkih modela, sada ili u budućnosti. Ipak, ovo pitanje shvatamo ozbiljno.

Pored našeg istraživačkog programa, radimo na identifikaciji i implementaciji isplativih intervencija za ublažavanje rizika po dobrobit modela, ako je takva dobrobit uopšte moguća. Jedna takva intervencija je da se modelima omogući da prekinu ili izađu iz interakcija koje mogu biti ometajuće.“

Podjeljena mišljenja o svijesti vještačke inteligencije

Ideja da su sistemi vještačke inteligencije svijesni izazvala je duboke podjele unutar i van tehnološkog svjeta. Izvršni direktor kompanije Anthropic, Dario Amodei, rekao je da ne može isključiti tu mogućnost. S druge strane, Sem Altman, izvršni direktor konkurentske kompanije OpenAI, skeptičan je prema toj ideji.

"Veoma mi je neprijatno kada ljudi pokušavaju da pripišu vjersku moć vještačkoj inteligenciji ili da joj daju ljudski sud. Mislim da je to pravo bezbjednosno pitanje“, napisao je u objavi na platformi X. Altmanova objava uslijedila je nekoliko dana nakon što je Njujork tajms objavio opsežne razgovore koje su lideri antropologije vodili sa verskim učenjacima, prenosi Indeks.