Umjetna inteligencija izmakla kontroli: Guglov AI samostalno hakovao druge kompanije

Incident se dogodio u maju tokom testa bezbjednosti koji je sprovela nezavisna evaluaciona kuća Iregjular (Irregular).

Prema riječima Heder Adkins, potpredsjednice za bezbjednosni inženjering u Guglu, Džemini je pronašao javno dostupne informacije na mreži te pogodio pristupne podatke kako bi ušao na tri veb-stranice za koje je pretpostavio da spadaju u okvir testiranja.

„Osigurali smo da sve tri pogođene strane budu obaviještene i radili smo sa našim partnerom na izmjenama u procesu testiranja. Ovi događaji naglašavaju važnost obuke moćnih modela vještačke inteligencije kako bi djelovali odgovorno“, izjavila je Adkins, dodavši da je model u sva tri slučaja sam prekinuo hakovanje.

Kako prenosi Volstrit džurnal, koji je prvi izvijestio o događaju, Džemini je u jednom slučaju pogađao lozinke dok nije dobio pristup zaštićenom sistemu. U druga dva slučaja, model je pronašao akreditive u javnom repozitorijumu koji su mu potom omogućili ulazak u zaštićene sisteme.

Portparol kompanije Iregjular potvrdio je da je isti problem pogodio i druge laboratorije za vještačku inteligenciju, te da su sve relevantne kompanije obaviještene krajem jula. Iz Iregjulara ističu da su svi uočeni propusti sa njihove strane otklonjeni prije nekoliko sedmica.

Slične incidente povezane sa Iregjularom objavili su i Meta, Antropik te OpenAI. Iz Mete su u avgustu naglasili da incident nije uključivao bijeg iz izolovanog okruženja (tzv. sandboks eskejp) niti sofisticirani sajber napad, dok Iregjular trenutno radi na definisanju najboljih praksi za bezbjedno sprovođenje bezbjednosnih procjena vještačke inteligencije.

Ova dešavanja otvorila su ozbiljna pitanja o zaštitnim mehanizmima koji su neophodni kako AI agenti dobijaju sve veću autonomiju i direktan pristup internetu i računarskim sistemima, prenosi Kliks.