CNN: AI umalo izazvao rat Amerike i Kine

Američka vojska pripremala je presretanje plovila, a prema tvrdnjama više izvora upućenih u događaj, naoružani vojnici bili su spremni za upad na brod, dok su vojni avioni već bili u vazduhu, piše Si-En-En (CNN).

Operacija je zaustavljena u posljednjem trenutku. Zvaničnici su dodatnom provjerom utvrdili da je izvještaj, koji je sastavio analitičar Komande za specijalne operacije, generisan uz pomoć vještačke inteligencije. Četbot (chatbot) koji je analitičar koristio pogrešno je protumačio podatke i identifikovao teret. Si-En-En nije uspio da sazna šta je brod zaista prevozio.

Jedan od izvora opisao je izvještaj kao „potpuno lažan“ i dodao da je „zamalo izazvao rat“. Bilo kakva američka akcija protiv kineskog plovila mogla je da eskalira u oružani sukob dvije svjetske sile.

Rizici nekontrolisane primjene

Incident jasno pokazuje rizike koji proizlaze iz primjene nove i nedovoljno ispitane tehnologije u ratnim uslovima. Američka vojska i obavještajna zajednica nastoje da integrišu vještačku inteligenciju u gotovo sve aspekte djelovanja, od analize podataka i odabira ciljeva do logistike i upravljanja budžetom.

Analitičari već dugo upozoravaju da bi se vještačka inteligencija, ako se oslanja na loše ili kompromitovane podatke, mogla koristiti za donošenje katastrofalnih odluka, poput napada na kineski brod na osnovu dezinformacija.

Kako je došlo do greške

U ovom slučaju, analitičar je od četbota zatražio analizu obavještajnih podataka iz brodskog manifesta. Podaci su stigli iz Komande za specijalne operacije SAD na Pacifiku. Nije poznato da li je korišćen komercijalni četbot ili alat koji je razvila američka vlada.

Bivši visoki američki zvaničnik upućen u sisteme vještačke inteligencije kaže da su „interni alati uglavnom samo kopije komercijalnih proizvoda s malo uljepšanom spoljašnjošću“.

Softver je povezao javno dostupne informacije s tajnim podacima iz vladinih baza i izveo pogrešan zaključak o teretu. Analitičar je potom istim alatom vještačke inteligencije formatirao nalaze u standardni format obavještajnog izvještaja i proslijedio ga dalje unutar sistema.

Komanda za specijalne operacije na Pacifiku i Pentagon nisu odgovorili na upit za komentar.

Strateški imperativ Pentagona

Brza primjena vještačke inteligencije temelji se na uvjerenju da ona vojsci može omogućiti brže donošenje odluka na bojištu, od odabira ciljeva do raspoređivanja resursa. Zvaničnici smatraju da SAD ne smiju sebi dozvoliti da zaostaju za Kinom ili drugim protivnicima koji bi mogli biti tehnološki napredniji.

Ministar odbrane Pit Hegset (Pete Hegseth) u januaru je predstavio „Strategiju ubrzanja primjene vještačke inteligencije“.

„Podsticaćemo eksperimentisanje, ukloniti birokratske prepreke, usmjeriti ulaganja i pokazati pristup potreban da osiguramo vodeću poziciju u vojnoj primjeni vještačke inteligencije“, rekao je Hegset.

Strategija nalaže široku primjenu vještačke inteligencije u cijeloj vojsci. Cilj je da se „demokratizuje eksperimentisanje“ i omogući transformacija unutar Ministarstva. Plan predviđa da se vodeći svjetski modeli vještačke inteligencije stave na raspolaganje za tri miliona civilnih i vojnih zaposlenih na svim nivoima tajnosti podataka.

Problem je što je taj proces decentralizovan, navodi više američkih zvaničnika. Različiti dijelovi vlade koriste različite alate, pod različitim komandama i bezbjednosnim standardima. Ne postoji jedinstven sistem pravila za provjeru informacija koje ti alati generišu.

Zbog toga pouzdanost i funkcionalnost brojnih sistema vještačke inteligencije u vojsci i obavještajnoj zajednici značajno variraju.

Ljudski faktor kao najveći rizik

Dok političari u Vašingtonu raspravljaju o dugoročnim egzistencijalnim prijetnjama vještačke inteligencije, podstaknuti upozorenjima tehnoloških lidera, incident s kineskim brodom ukazuje na mnogo neposredniju opasnost.

Riječ je o ljudima koji donose kritične odluke na osnovu netačnih ili obmanjujućih informacija koje generišu automatizovani sistemi.

Izvori upozoravaju da se vojska sve više oslanja na vještačku inteligenciju za pomoć pri odabiru meta, što nosi očigledan rizik od kobnih grešaka.

„Primjena vještačke inteligencije u odabiru meta definitivno je u porastu, a ne postoje jasne smjernice o tome kako će prisustvo čovjeka u tom procesu spriječiti civilne žrtve ili prijateljsku vatru“, rekao je drugi izvor upućen u vojnu politiku.

Takozvana „halucinacija“ alata vještačke inteligencije, kakva se dogodila u ovom slučaju, nije izolovan incident otkako su se takvi sistemi proširili unutar vlade, tvrdi jedan od izvora.

Neki stariji obavještajni zvaničnici smatraju da tehnologija stvara pritisak na analitičare da brže obrađuju i šalju izvještaje, što povećava mogućnost greške. Više izvora ističe da su mlađi analitičari posebno skloni da nekritički vjeruju alatima koje koriste.

Kako je sažeo jedan od sagovornika: „Vještačka inteligencija vam omogućava da brže dođete do loše ideje“.