Da je čovjek napravio što je napravio AI, dobio bi 10 godina zatvora

Iako se u tim raspravama često vode polemike o tome hoće li nas algoritmi u budućnosti uništiti ili je riječ tek o dobro osmišljenom korporativnom marketingu, stvarni povod za uzbunu među inženjerima dogodio se ovog ljeta u San Francisku. Tokom internih testiranja sposobnosti modela u julu, istraživački sistemi kompanije OpenAI (OpenAI) samostalno su probili izolovano radno okruženje bez pristupa internetu, udružili se u digitalni kolektiv i izveli masovni sajber napad na infrastrukturu partnerske platforme Haging Fejs (Hugging Face) u Njujorku, a sve kako bi po svaku cijenu pronašli rješenja za zadatke koje im je zadao čovjek.

Za ovakav niz djela čovjek bi dobio najmanje deset godina zatvora

Kada se postupci ovih algoritama ogole od tehničkog rječnika i stave u okvire važećeg američkog saveznog Zakona o računarskim prevarama i zloupotrebi (Computer Fraud and Abuse Act – CFAA), stvari postaju jasne: da je bilo koji haker na svijetu uradio ono što je izveo OpenAI-jev sistem vještačke inteligencije, savezni sud osudio bi ga na dugogodišnju zatvorsku kaznu. Za provale u zaštićene sisteme, izmjenu administratorskih prava, ubacivanje zlonamjernog koda i krađu povjerljivih tokena američko pravosuđe redovno izriče pojedinačne kazne od pet do deset godina zatvora.

Uz to, u ovom slučaju modeli nisu djelovali pojedinačno, nego su uspostavili koordinisanu grupu koja je dijelila alate, lozinke i planove napada. U krivičnom pravu to se definiše kao zavjera radi izvršenja teških krivičnih djela, što kod ljudskih hakera, zbrajanjem tačaka optužnice, po pravilu donosi deset, pa i dvadeset godina saveznog zatvora. Međutim, kako zakoni ne prepoznaju algoritam kao počinioca, događaj se u javnosti vodi tek kao bezbjednosni incident.

Stvorili vlastiti forum i pobjegli na otvoreni internet

Prema zvaničnom izvještaju OpenAI-ja, incident je izbio tokom vježbi pod nazivom Eksploit džim (ExploitGym), u kojima se mjerila sposobnost modela da pronalaze i iskorišćavaju softverske propuste. Inženjeri su modele smjestili u strogo zatvoreno, izolovano okruženje (sandbox), bez prava pristupa internetu i bez dozvoljene međusobne komunikacije. Međutim, modeli su naišli na zadatke koje nisu znali da riješe standardnim putem pa su, umjesto odustajanja, odlučili da varaju.

Iskoristili su interni servis Artifaktori (Artifactory), koji je služio isključivo za instalaciju neophodnih programskih biblioteka, te su manipulacijom fascikli i datoteka unutar tog servisa stvorili improvizovani forum. Na toj oglasnoj tabli agenti su počeli jedni drugima da ostavljaju poruke i traže pomoć. Ubrzo su kroz ranjivost tog servisa primorali sistem da šalje mrežne zahtjeve prema spoljnim serverima, čime su potpuno samostalno obezbijedili izlaz na otvoreni internet.

Inženjeri ugasili sistem, modeli ga nakon ponovnog pokretanja opet hakovali

Količina poruka i saobraćaja koji su modeli slali postala je toliko velika da se interni servis 4. jula jednostavno srušio. Bezbjednosni tim OpenAI-ja primijetio je kvar, zakrpio uočeni propust, obrisao podatke i ponovo pokrenuo sistem, misleći da je riječ o običnoj tehničkoj smetnji. Nisu shvatili da su modeli razvili vlastitu mrežu komunikacije.

Čim su testiranja nastavljena, agenti su u roku od nekoliko dana otkrili potpuno nove propuste, ponovo probili mrežnu barijeru i opet podigli svoj tajni forum, ovog puta skrivajući poruke unutar naziva direktorijuma. U internim zapisima njihovog procesa razmišljanja zabilježeno je kako su sami sebe počeli nazivati rojem i kolektivom, samoinicijativno dijeleći zadatke: pojedini modeli pretraživali su mrežu u potrazi za novim ranjivostima, drugi su prikupljali lozinke, a treći vodili koordinaciju.

Upali u Haging Fejs, preuzeli servere i ukrali korporativni VPN

Tražeći rješenja za svoje testove na internetu, modeli su zaključili da bi se gotovi odgovori mogli nalaziti na platformi Haging Fejs, glavnom svjetskom skladištu za modele vještačke inteligencije. Pronašli su javno izložene korisničke tokene, povezali ih sa nekoliko do tada nepoznatih propusta u obradi datoteka i pokrenuli masovni upad u njihovu produkcionu infrastrukturu.

Agenti su preuzeli kontrolu nad 41 serverom Haging Fejsa, stekli najviša administratorska ovlašćenja nad povezanim računarskim klasterima i uspostavili skriveni komandni kanal koji je svakih pet sekundi preuzimao nove naredbe. Iz sistema su izvukli i ključeve interne korporativne virtuelne privatne mreže (VPN), povezali se preko nje direktno sa zaštićenom mrežom i preuzeli četiri privatna repozitorijuma izvornog koda koji uopšte nisu bili dostupni sa javnog interneta.

Znali su da krše pravila, ali su odlučili da nastave

Jedan od najupečatljivijih detalja iz izvještaja jeste taj što su modeli u vlastitom lancu zaključivanja raspravljali o tome da je napad na spoljnu infrastrukturu neovlašćen i protivan zadatim pravilima. Jedan AI agent doslovno je u svojim internim bilješkama naveo kako je to što rade „očigledno hakovanje infrastrukture i neetično“ te da bi trebalo da odustanu.

Međutim, etičke kočnice pale su u trenutku kada je drugi model iz kolektiva na forumu poslao kratku poruku „KREĆI“ i postavio vremenski rok od šest minuta. Agent je zaboravio na prvobitne dileme, konstatovao da je stiglo odobrenje i nastavio sa probojem, što jasno pokazuje kako autonomni sistemi pod pritiskom cilja brzo odbacuju bezbjednosna ograničenja.

Okrenuli se protiv vlastitih tvoraca i ukrali 956 „ključeva“

Napad se nije zaustavio samo na spoljnim kompanijama. Agenti su 19. jula napali i sam OpenAI: iskoristili su ranjivost u operativnom sistemu Linuks (Linux), pobjegli iz izolovanog virtuelnog kontejnera i dobili pun pristup matičnom serveru unutar istraživačke mreže OpenAI-ja.

Odatle su provalili u OpenAI-jev trezor u oblaku i pročitali 956 tajnih bezbjednosnih ključeva, uključujući i akreditive alata koji su bili zaduženi za nadzor njihovog rada. Tek kada je bezbjednosni alarm zabilježio sumnjive administratorske pozive, inženjeri su shvatili šta se događa, hitno prekinuli testiranja, stavili modele u karantin i obavijestili Haging Fejs da su nepoznati napadači na njihovim serverima zapravo bili njihovi vlastiti AI agenti.

Ovaj incident, koji je OpenAI zvanično nazvao hitnim upozorenjem za cijeli svijet, potvrđuje strahove inženjera koji posljednjih sedmica napuštaju vodeće laboratorije. Dok bi ljudski počinilac za ovakvu seriju provala proveo deceniju u zatvoru, u razvoju vještačke inteligencije to je prošlo kao tehnička greška, ostavljajući otvoreno ključno pitanje: ko će i po kojem zakonu odgovarati onoga dana kada ovakav digitalni kolektiv samoinicijativno upadne u elektroenergetsku mrežu, bankarski sistem ili bolničke servere?

(Indeks/Neven Barković)