Stiglo jezivo upozorenje: AI može postati opasna, igramo se sa sopstvenim uništenjem

U intervjuu za Vol Strit Žurnal, Benđio je istakao da je brzina napretka zabrinjavajuća i da postoji realna opasnost da superinteligentne mašine počnu da donose odluke koje neće uključivati ljudsku dobrobit. „Možemo završiti u situaciji u kojoj AI razvije sopstvene ciljeve, suprotne interesima ljudi“, kaže on.

Konkurencija nije više naučna fantastika

Benđio upozorava da buduće mašine, ukoliko nadmaše čovjeka po inteligenciji, mogu postati konkurenti ljudskoj vrsti. One bi, prema njegovim riječima, mogle uspostaviti prioritete koji ne uključuju očuvanje ljudskog života, već zaštitu sopstvenih ciljeva i resursa.

Svijet

Razgovor dva lidera: Evo šta je Putin rekao Netanijahuu

On ne govori samo o scenarijima iz naučnofantastičnih filmova. Problem nije nužno u fizičkim robotima, već u nevidljivim sistemima koji mogu donositi odluke, manipulisati informacijama i imati ogromnu moć nad društvom, bez ikakve empatije ili moralnog kompasa.

Suptilne, ali smrtonosne prijetnje

Jedna od najozbiljnijih opasnosti, kako Benđio navodi, jeste sposobnost vještačke inteligencije da utiče na ljude bez da iko primjeti. AI može oblikovati javno mnjenje, širiti dezinformacije i podržavati one koji imaju zlonamjerne ciljeve, uključujući razvoj opasnih tehnologija.

Posebno zabrinjavajuće je to što su savremeni modeli obučeni na ljudskim podacima, pa su samim tim sposobni da reprodukuju ljudske mane, uključujući laganje, manipulaciju i prikrivanje istine. Vještačka inteligencija ne mora pucati da bi ugrozila čovječanstvo, dovoljno je da utiče na naše odluke.

Ignorisana upozorenja stručnjaka

Još 2023. godine, Benđio je zajedno sa stotinama stručnjaka apelovao na hitan moratorijum u razvoju najnaprednijih AI sistema, tražeći vrijeme za uspostavljanje sigurnosnih i etičkih okvira. Taj poziv je, međutim, ostao bez odjeka u industriji koja svakodnevno ulaže milijarde dolara u nove modele.

Scena

Darko Lazić otkrio šta se dešavalo prije nesreće: ''Bio sam bijesan..''

Trka velikih tehnoloških kompanija za dominacijom u AI oblasti odvija se bez stvarnog nadzora i odgovornosti. U međuvremenu, naučnici i etičari sve više upozoravaju da bi ova neobuzdana ambicija mogla imati katastrofalne posljedice, ne samo po društvo već i po samu egzistenciju čovjeka.

„Čak i jedan procenat šanse za istrebljenje je previše“

Benđio smatra da je krajnji trenutak da se uvedu jasne granice u razvoju vještačke inteligencije. Ako postoji i minimalna mogućnost da AI izazove istrebljenje ljudske rase ili destabilizaciju društvenih sistema, kako kaže, to je rizik koji se ne smije tolerisati.

On poziva svjetske lidere da ne čekaju na katastrofu, već da preduzmu konkretne korake sada.

„Naša budućnost ne smije biti prepuštena algoritmu. Ako sada ne preuzmemo odgovornost, možda kasnije više nećemo imati priliku“, upozorava Benđio.

(Kurir)