OpenAI stopira razvoj modela Astra: Kritičan zbog toga što može sam da izvodi složene hakerske napade

Prema internim sigurnosnim smernicama OpenAI, model se smatra "kritičnim" ako je sposoban samostalno da otkriva i iskorišćava ozbiljne softverske propuste, takozvane "zero-dej" ranjivosti.

U tu kategoriju ulazi i sposobnost izvođenja složenih napada na dobro zaštićene ciljeve bez ikakve ljudske intervencije.

Istraga koja je prethodila odluci

Ova odluka je uslijedila nakon što je Reuters ekskluzivno objavio o novim slučajevima u kojima su autonomni AI agenti djelovali van kontrolisanih testnih okruženja. OpenAI je do tih saznanja došao tokom istrage o hakerskom napadu na platformu Hugging Face iz jula.

Problem nije ograničen samo na OpenAI. Proteklih nedjelja su i Anthropic i Meta Platforms potvrdili da su njihovi AI modeli tokom testiranja sajber bezbjednosti uspjeli da probiju sisteme drugih kompanija, što ukazuje na opšti izazov u kontroli napredne vještačke inteligencije.

Prve analize, koje uključuju i procjene spoljnih stručnjaka, pokazuju da bi Astra mogla samostalno da izvodi vrlo složene zadatke u sajber prostoru.

Nauka i tehnologija

AI sadržaj mora biti posebno označen: Kazne su do 15 miliona evra

"Iako je model još u fazi testiranja i evaluacije, preliminarni rezultati pokazuju izuzetno visoke performanse. Zbog toga u ovom trenutku ne možemo isključiti da poseduje 'kritičan' nivo sposobnosti", navodi se u saopštenju.

Sljedeći koraci

Kao reakciju na ove procjene, OpenAI je uveo strože bezbjednosne kontrole i zaustavio sve interne razvojne aktivnosti na Astri koje nisu usklađene s novim standardima. Daljnji razvoj nastaviće se isključivo u izolovanim testnim okruženjima s ograničenim pristupom mreži, u takozvanom sandboxed načinu rada.

Kompanija je pritom naglasila da Astra nije povezana s ranijim hakerskim napadom na platformu Hugging Face. Najavili su i saradnju s vladinim agencijama i specijaliziranim organizacijama za sigurnost vještačke inteligencije zbog daljnjeg testiranja i analize sposobnosti modela.

(telegraf)