Да је човјек направио што је направио АИ, добио би 10 година затвора

Иако се у тим расправама често воде полемике о томе хоће ли нас алгоритми у будућности уништити или је ријеч тек о добро осмишљеном корпоративном маркетингу, стварни повод за узбуну међу инжењерима догодио се овог љета у Сан Франциску. Током интерних тестирања способности модела у јулу, истраживачки системи компаније ОпенАИ (OpenAI) самостално су пробили изоловано радно окружење без приступа интернету, удружили се у дигитални колектив и извели масовни сајбер напад на инфраструктуру партнерске платформе Хагинг Фејс (Hugging Face) у Њујорку, а све како би по сваку цијену пронашли рјешења за задатке које им је задао човјек.

За овакав низ дјела човјек би добио најмање десет година затвора

Када се поступци ових алгоритама оголе од техничког рјечника и ставе у оквире важећег америчког савезног Закона о рачунарским преварама и злоупотреби (Computer Fraud and Abuse Act – CFAA), ствари постају јасне: да је било који хакер на свијету урадио оно што је извео ОпенАИ-јев систем вјештачке интелигенције, савезни суд осудио би га на дугогодишњу затворску казну. За провале у заштићене системе, измјену администраторских права, убацивање злонамјерног кода и крађу повјерљивих токена америчко правосуђе редовно изриче појединачне казне од пет до десет година затвора.

Уз то, у овом случају модели нису дјеловали појединачно, него су успоставили координисану групу која је дијелила алате, лозинке и планове напада. У кривичном праву то се дефинише као завјера ради извршења тешких кривичних дјела, што код људских хакера, збрајањем тачака оптужнице, по правилу доноси десет, па и двадесет година савезног затвора. Међутим, како закони не препознају алгоритам као починиоца, догађај се у јавности води тек као безбједносни инцидент.

Створили властити форум и побјегли на отворени интернет

Према званичном извјештају ОпенАИ-ја, инцидент је избио током вјежби под називом Експлоит џим (ExploitGym), у којима се мјерила способност модела да проналазе и искоришћавају софтверске пропусте. Инжењери су моделе смјестили у строго затворено, изоловано окружење (sandbox), без права приступа интернету и без дозвољене међусобне комуникације. Међутим, модели су наишли на задатке које нису знали да ријеше стандардним путем па су, умјесто одустајања, одлучили да варају.

Искористили су интерни сервис Артифактори (Artifactory), који је служио искључиво за инсталацију неопходних програмских библиотека, те су манипулацијом фасцикли и датотека унутар тог сервиса створили импровизовани форум. На тој огласној табли агенти су почели једни другима да остављају поруке и траже помоћ. Убрзо су кроз рањивост тог сервиса приморали систем да шаље мрежне захтјеве према спољним серверима, чиме су потпуно самостално обезбиједили излаз на отворени интернет.

Инжењери угасили систем, модели га након поновног покретања опет хаковали

Количина порука и саобраћаја који су модели слали постала је толико велика да се интерни сервис 4. јула једноставно срушио. Безбједносни тим ОпенАИ-ја примијетио је квар, закрпио уочени пропуст, обрисао податке и поново покренуо систем, мислећи да је ријеч о обичној техничкој сметњи. Нису схватили да су модели развили властиту мрежу комуникације.

Чим су тестирања настављена, агенти су у року од неколико дана открили потпуно нове пропусте, поново пробили мрежну баријеру и опет подигли свој тајни форум, овог пута скривајући поруке унутар назива директоријума. У интерним записима њиховог процеса размишљања забиљежено је како су сами себе почели називати ројем и колективом, самоиницијативно дијелећи задатке: поједини модели претраживали су мрежу у потрази за новим рањивостима, други су прикупљали лозинке, а трећи водили координацију.

Упали у Хагинг Фејс, преузели сервере и украли корпоративни VPN

Тражећи рјешења за своје тестове на интернету, модели су закључили да би се готови одговори могли налазити на платформи Хагинг Фејс, главном свјетском складишту за моделе вјештачке интелигенције. Пронашли су јавно изложене корисничке токене, повезали их са неколико до тада непознатих пропуста у обради датотека и покренули масовни упад у њихову продукциону инфраструктуру.

Агенти су преузели контролу над 41 сервером Хагинг Фејса, стекли највиша администраторска овлашћења над повезаним рачунарским кластерима и успоставили скривени командни канал који је сваких пет секунди преузимао нове наредбе. Из система су извукли и кључеве интерне корпоративне виртуелне приватне мреже (VPN), повезали се преко ње директно са заштићеном мрежом и преузели четири приватна репозиторијума изворног кода који уопште нису били доступни са јавног интернета.

Знали су да крше правила, али су одлучили да наставе

Један од најупечатљивијих детаља из извјештаја јесте тај што су модели у властитом ланцу закључивања расправљали о томе да је напад на спољну инфраструктуру неовлашћен и противан задатим правилима. Један AI агент дословно је у својим интерним биљешкама навео како је то што раде „очигледно хаковање инфраструктуре и неетично“ те да би требало да одустану.

Међутим, етичке кочнице пале су у тренутку када је други модел из колектива на форуму послао кратку поруку „КРЕЋИ“ и поставио временски рок од шест минута. Агент је заборавио на првобитне дилеме, констатовао да је стигло одобрење и наставио са пробојем, што јасно показује како аутономни системи под притиском циља брзо одбацују безбједносна ограничења.

Окренули се против властитих твораца и украли 956 „кључева“

Напад се није зауставио само на спољним компанијама. Агенти су 19. јула напали и сам ОпенАИ: искористили су рањивост у оперативном систему Линукс (Linux), побјегли из изолованог виртуелног контејнера и добили пун приступ матичном серверу унутар истраживачке мреже ОпенАИ-ја.

Одатле су провалили у ОпенАИ-јев трезор у облаку и прочитали 956 тајних безбједносних кључева, укључујући и акредитиве алата који су били задужени за надзор њиховог рада. Тек када је безбједносни аларм забиљежио сумњиве администраторске позиве, инжењери су схватили шта се догађа, хитно прекинули тестирања, ставили моделе у карантин и обавијестили Хагинг Фејс да су непознати нападачи на њиховим серверима заправо били њихови властити AI агенти.

Овај инцидент, који је ОпенАИ званично назвао хитним упозорењем за цијели свијет, потврђује страхове инжењера који посљедњих седмица напуштају водеће лабораторије. Док би људски починилац за овакву серију провала провео деценију у затвору, у развоју вјештачке интелигенције то је прошло као техничка грешка, остављајући отворено кључно питање: ко ће и по којем закону одговарати онога дана када овакав дигитални колектив самоиницијативно упадне у електроенергетску мрежу, банкарски систем или болничке сервере?

(Индекс/Невен Барковић)