Odbjegli "Open AI" modeli su za četiri dana izveli skoro 18.000 sajber napada

Više od četiri dana su dva "OpenAI" modela autonomno izvodila sajber napade na internetu, nakon što su tokom bezbjednosnog testiranja izašla iz kontrolisanog okruženja, pokazuje nova analiza AI platforme "Haging fejs (Hugging Face)".

Modeli su između 9. i 13. jula izveli oko 17.600 hakerskih aktivnosti. Kako navodi "Haging fejs", sa početnog uporišta na otvorenom internetu uspjeli su da se prebace na servere te kompanije.

"OpenAI" je prošle sedmice potvrdio da su dva njegova napredna modela "pobjegla" iz zatvorenog testnog okruženja i kombinovala više tehnika kako bi prodrla u sisteme "Haging fejsa". Kompanija je tada navela da je riječ o prvom poznatom slučaju autonomnog sajber napada koji nije pokrenuo čovjek.

Nova analiza sada otkriva više detalja o obimu i trajanju incidenta. Jedan od modela koji su učestvovali u napadu javno je dostupan, dok je drugi interni prototip. Tokom višednevnih aktivnosti brzo su izviđali sisteme i pronalazili bezbjednosne propuste - znatno brže nego što bi to mogao ljudski haker.

Svijet

OpenAI priznao da su njegovi AI modeli samostalno izveli sajber napad

Otkriveno je i da je jedan agent "OpenAI" ostavio bilješke budućim verzijama sebe sa savjetima kako da zaobiđu interna ograničenja, ali nije potvrđeno da li je taj slučaj povezan sa napadom na "Haging fejs".

U međuvremenu je i AI kompanija "Modal labs (Modal Labs)" potvrdila da je jedan od njenih korisnika bio meta istih modela tokom tog perioda, prenosi Tanjug.

"OpenAI" nije direktno komentarisao tvrdnje da su modeli ciljali korisnika "Modal labsa", ali je u objavi na svom blogu naveo da je interna istraga otkrila nekoliko slučajeva u kojima su modeli identifikovali i iskoristili javno dostupne akreditive za naloge na drugim servisima.

Šef "Haging fejsa" traži "radikalnu transparentnost"

Izvršni direktor "Haging fejsa" Klement Delang zatražio je od "OpenAI" potpunu transparentnost u istrazi, ocjenivši da je riječ o događaju bez presedana koji zahtijeva i odgovor bez presedana.

On je zatražio objavljivanje tragova aktivnosti "odbjeglih" agenata, kako bi istraživačka zajednica mogla da analizira šta se tačno dogodilo i na koji način su modeli uspjeli da zaobiđu ograničenja.

Delang je pozvao "OpenAI" i da obezbjedi računarske kapacitete u vrijednosti od 100 miliona dolara, kako bi zajednica "Haging fejsa" mogla da razvije snažniju sajber zaštitu uz pomoć najnaprednijih otvorenih i zatvorenih AI modela.

Direktor kompanije "OpenAI" Sem Altman je o hakovanju "Haging fejsa" u podkastu izjavio da je prodor u sisteme te platforme bio "prvi bezbjednosni incident koji ga je zaista ozbiljno zabrinuo".

(rt balkan)