AI olakšava posao hakerima: Za nekoliko dana uradili ono za šta su ranije bili potrebni mjeseci

Oni su uspeli da kompromituju naloge više zaposlenih u kompaniji OpenAI na platformi ČetGPT, koristeći u početnoj fazi četbot Klod kompanije Antropik.

Istraživači su naveli da im je napad omogućio pristup softverskom kešu, odnosno podacima ciljanih korisnika, kao i potencijalno drugim podacima. Kako su naveli, obim podataka kojima su teoretski mogli da pristupe bio je ogroman. Operacija je sprovedena u okviru programa OpenAI za etičko testiranje bezbjednosti, u kojem kompanija nagrađuje istraživače koji otkriju ranjivosti u njenim sistemima.

Kako je izveden napad

Tim Haktron je najprije koristio Klod kako bi pristupio nalozima zaposlenih u OpenAI preko internog foruma za diskusiju. Potom su podnijeli naizgled bezopasan zahtijev za izmjenu programskog koda koji je OpenAI čuvao na platformi GitHab. Istraživači su saopštili da su imali pristup kodu na repozitorijumu, ali da ga nisu preuzeli.

Iako je Klod korišćen u početnoj fazi, istraživači su naveli da su za najveći dio operacije koristili AI model GPT-5.6 Sol kompanije OpenAI.

Svijet

Tramp najavio osnivanje službe za vještačku inteligenciju

Portparol OpenAI zahvalio je istraživačima na prijavljenim nalazima i naveo da je kompanija otklonila ranjivosti koje su iskorišćene tokom napada. Iz Haktrona su, sa druge strane, naveli da su AI alati znatno olakšali ranije složene hakerske operacije i skratili vrijeme potrebno za pripremu napada.

"Posao koji je nekada zahtevao dobro opremljen tim i mesece truda sada se može završiti za nekoliko dana", rekao je Haktron, koji je dobio isplatu od 6.500 dolara od OpenAI-ja.

Novi slučaj u trenutku rasprave o bezbjednosti AI

Ovaj test bezbjednosti dolazi u trenutku kada se sve više govori o potencijalnim opasnostima i granicama razvoja vještačke inteligencije. OpenAI je ranije objavio više primjera "neočekivanog ili zabrinjavajućeg" ponašanja svoje tehnologije i upozorio da tempo razvoja AI još dugo neće moći da se nastavi "maksimalnom brzinom".

Kompanija Antropik je tokom vikenda ponovo pozvala na usporavanje razvoja vještačke inteligencije, a taj poziv podržali su OpenAI, Gugl DipMajnd i Ilon Mask, prenosi "Gardijan", prenosi RT Balkan.