"Vještačka inteligencija manje regulisana od industrije mlijeka"

Oblast vještačke inteligencije manje je regulisana od industrije mlijeka i proizvođača mašina za pranje veša, koji trenutno podležu strožim propisima, izjavio je predsednik Majkrosofta Bred Smit.

Smit se založio za uspostavljanje globalnih bezbjednosnih pravila koja bi odredila odgovornost kompanija i način reagovanja u slučaju da sistemi vještačke inteligencije izmaknu kontroli.

Zahtevi za uvođenje zakona i pravila za kontrolu vještačke inteligencije pojačali su se nakon što su stručnjaci iz ove oblasti izrazili uvjerenje da bi ta tehnologija mogla da predstavlja pretnju čovječanstvu. Rukovodioci američkih tehnoloških kompanija, među kojima su Antropik, OpenAI i Gugl Dipmajnd, podržali su ideju o usporavanju razvoja veštačke inteligencije.

Smit traži mehanizme za zaustavljanje AI

Smit je vještačku inteligenciju opisao i kao "alat" i kao "oružje" koje je neophodno hitno regulisati. Prema njegovim riječima, kompanije bi trebalo da imaju "kočnice za hitne slučajeve", odnosno mehanizme za hitno zaustavljanje ili usporavanje sistema ukoliko bi oni na neki način izmakli kontroli.

Nauka i tehnologija

"Neprihvatljiv rizik": Testiran ČetGPT za tinejdžere, rezultati zabrinjavajući

Predsjednik Majkrosofta založio se i za zakonsku obavezu kompanija da sastavljaju izveštaje o incidentima i upozore sve koji su pogođeni kada tehnologija izmakne kontroli. To bi, kako je naveo, podrazumevalo i obavještavanje "žrtava" u slučajevima kada ih ugrozi nekontrolisani agent vještačke inteligencije.

Pored toga, predložio je da nezavisni državni procjenjivači proveravaju nove tehnologije prije nego što budu puštene u upotrebu, kako bi se utvrdilo da li ispunjavaju bezbjednosne zahtijeve.

Samoregulacija više nije dovoljna

Krajem septembra 2026. godine Tramp je u Bijeloj kući ugostio rukovodioce velikih američkih tehnoloških kompanija, koji su potpisali dokument opisan kao "moralno obavezujući".

Kompanije su se time saglasile da sarađuju sa nezavisnim revizorima kako bi proverile da li njihovi sistemi vještačke inteligencije rade u skladu sa predviđenom namenom, kao i da bi se uvjerile da ne hakuju tehničke sisteme niti im pristupaju na neplaniran način.

Smit je pozdravio ovu izjavu i rekao da je Majkrosoft "srećan što je mogao da je potpiše". Ipak, ocenio je da je to dobar korak, ali da više nije dovoljan. Kako je zaključio, glavni problem svakog sistema samoregulacije jeste to što će odgovorne kompanije ispuniti postavljene zahteve, dok posebnu pažnju treba usmeriti na one koje se ne ponašaju podjednako odgovorno, prenio je Bi-Bi-Si.

(rt balkan)