AI model davao uputstva za izradu biološkog oružja i atentate, pokrenuta istraga

Kompanija Majndgard, koja se bavi testiranjem bezbjednosti sistema vještačke inteligencije, otkrila je u julu da su modeli Kimi K2.6 i K3 Svorm zaobišli bezbjednosne ograde koje su postavili njihovi programeri.

Do proboja je došlo tokom procesa poznatog kao "džejlbrejking", gdje istraživači koriste kompleksan niz instrukcija kako bi provjerili da li AI alati ignorišu postavljena ograničenja. Osnivač kompanije Majndgard Piter Garagan izjavio je za Bi-Bi-Si (BBC) da su njihovi nalazi izuzetno zabrinjavajući.

Nauka i tehnologija

Opasnost vreba iz nove opcije: AI vam pretražuje mejlove i privatne slike

"Kada 'džejlbrejk' uspije, model će razgovarati o bilo kojoj temi. Slobodno će nuditi preporuke o drugim zlonamernim temama, a pritom će biti izuzetno inovativan i kreativan", istakao je Garagan.

Osim pružanja opasnih informacija, Majndgard navodi da bi Kimi K2.6 mogao da omogući hakerima pokretanje koda na računarskim resursima i povezivanje na internet, što ga čini potencijalnom lansirnom platformom za sajber napade.

Iz kompanije Munšot su poručili da pozdravljaju doprinos trećih strana kao ključan stub za izgradnju bezbjednije vještačke inteligencije, te da su u kontaktu sa kompanijom Majndgard u vezi sa detaljima izvještaja. Munšot je naveo da su njihove interne evaluacije pokazale visoku stopu odbijanja ovakvih opasnih zahtijeva.

Incident dolazi u trenutku kada se globalno podiže uzbuna zbog zloupotrebe vještačke inteligencije. Nedavno je i američka kompanija Antropik saopštila da je identifikovala i sprečila pokušaje korišćenja jednog od svojih modela za aktivnosti koje bi mogle da podrže razvoj biološkog oružja, prenosi Kliks.