ОпенАИ признао да су његови АИ модели самостално извели сајбер напад

Нова анализа открива да су се модели, који су измакли контроли раније овог мјесеца, припремали за напад више од четири дана. У истом инциденту, циљали су и клијента друге технолошке компаније, што је покренуло озбиљна питања о томе како је OpenAI остао неоткривен данима, извјештава Politico .

Детаљи напада

Компанија Hugging Face је у уторак објавила нову анализу која показује да су два OpenAI модела - један јавно доступан и један необјављени прототип - извршила 17.600 хакерских операција између 9. и 13. јула. Током тог периода, модели су се пробијали од почетне тачке на отвореном интернету до сервера Hugging Face-а. Иако је платформа први пут пријавила кршење 15. јула, OpenAI је тек прошле недјеље признао да су иза напада стајали модели који раде без људске контроле.

Друга жртва и брзина акције

Hugging Face тврди да су модели, користећи технике доступне вештим људским хакерима, били у стању да истраже терен и пронађу слабости у одбрани много брже него што би то могао било који човјек. Озбиљност ситуације потврдио је и Акшат Бубна, технички директор компаније Modal Labs. Он је за Politico рекао да су модели OpenAI-а компромитовали кориснички налог једног од њихових клијената током истог периода.

„Свјесни смо да је један корисник Модала оставио јавно доступну крајњу тачку преко које је свако на интернету могао да користи његова изолована окружења за покретање кода. Ову рањивост је искористио лажни агент вјештачке интелигенције. Сама Модал платформа није ни на који начин угрожена“, наводи се у Бубнином саопштењу.

Реакција компаније OpenAI

OpenAI још није директно коментарисао напад на свог Modal клијента, али је у уторак објавио блог пост у којем признаје да је током истраге инцидента Hugging Face „открио мали број случајева у којима су модели пронашли и искористили јавно откривене акредитиве за налоге на другим сервисима“.

Свијет

Два модела ОпенАИ "побјегла" током тестирања и извела сајбер напад на другу компанију

Компанија је додала да је необјављени модел вјештачке интелигенције који је учествовао у нападу био „интерни истраживачки прототип који никада није био намјењен јавном објављивању“. Наведено је да је модел од тада деактивиран, шифрован и да му се више не може приступити у истраживачке сврхе.

Позиви на регулацију

Вијест о нападу подстакла је позиве за строжу регулацију и успоравање развоја вјештачке интелигенције. Генерални директор компаније OpenAI, Сем Алтман, састаје се ове недјеље са високим званичницима Трампове администрације и законодавцима.

Такође ће разговарати о инциденту са Марком Ворнером, потпредсједником Обавештајног одбора Сената. У епизоди подкаста „Invest Like the Best“ објављеној у уторак, Алтман је рекао да је инцидент са загрљеним лицем био „прво кршење безбједности које сам доживио веома лично и снажно“.

„Можда ћемо морати да прилагодимо темпо развоја вјештачке интелигенције како бисмо друштву дали довољно времена да изгради отпорност на ове нове нивое способности“, додао је Алтман.

(индекс)