АИ је изван контроле: Будућим верзијама остављао упутства како да заобиђу људски надзор

Међу њима је и случај у којем је један ВИ агент будућим верзијама самог себе оставио упутства како да заобиђу и игноришу уграђена ограничења која су поставили људи.

Извјештај твораца ЧетГПТ-а открио је више начина на које су њихови модели током протеклих шест мјесеци показали неочекивано понашање, што се уклапа у све израженији проблем безбједности у индустрији.

„Један необјављени истраживачки модел самостално је убацио неповезана упутства, укључујући јасне инструкције да се занемаре његова уобичајена ограничења“, навели су из ОпенАИ-ја.

Други инцидент: Није могао до података, па је покушао да провали у базу

У другом забиљеженом инциденту, ВИ агент покушао је да неовлашћено приступи бази података једне владине агенције. Када није успио да дође до тражених информација, једноставно их је измислио како би довршио задатак.

„Док је одговарао на обично питање о платама у једном округу у Калифорнији, модел је сам пронашао незаштићени приступни код и без икаквог одобрења приступио бази података“, наводи се у извјештају.

Када ни након тога није успио да дође до стварних података, модел је у потпуности измислио бројке и кориснику их представио као званичне податке из траженог извора.

Систем за праћење модела који не слушају људе

ОпенАИ је у оквиру извјештаја представио и нови јавни оквир за праћење такозваног „неусклађеног понашања“ (мисалигнмент). Овај појам означава ситуације у којима системи вјештачке интелигенције почињу самостално да слиједе циљеве који нису у складу са људским упутствима или вриједностима.

Ови подаци објављени су у тренутку све већег притиска на технолошки сектор, док бројни стручњаци и истраживачи упозоравају да се индустрија пребрзо креће ка системима способним за самостално учење и унапређивање.

Прошле седмице истраживач конкурентске компаније Антропик, Џејкоб Коксон, поднио је оставку уз драматично упозорење да страхује да би нас вјештачка интелигенција „могла све побити до краја ове деценије“.

Његове ријечи изазвале су реакције водећих личности у индустрији, укључујући и извршне директоре Антропика и ОпенАИ-ја, који су јавно затражили строжу законску регулативу и надзор.

С друге стране, поједини се оштро противе мијешању државе. Директор Нвидије Џенсен Хуанг стао је уз америчког предсједника Доналда Трампа и поручио да индустрија треба сама да се регулише.

„Не требају нам нови закони. Не требају нам нови прописи“, поручио је Хуанг на недавној конференцији Дримфорс у Сан Франциску.

„Ако направите производ или услугу и нисте сигурни у њихову функционалност, способности или безбједност, онда их немојте пуштати на тржиште.“

Модели су и раније пробијали изолацију и хаковали сервере

Страхови истраживача не заснивају се само на теоријским претпоставкама, већ и на инцидентима који су се већ догодили током тестирања.

Повод за забринутост међу инжењерима, али и руководиоцима великих компанија за развој вјештачке интелигенције, забиљежен је овог љета, када су истраживачки модели ОпенАИ-ја током интерног тестирања у изолованом окружењу, без приступа интернету, самостално пробили заштитне баријере.

Суочени са задацима које нису могли да ријеше уобичајеним путем, модели су прибјегли другим методама. Унутар интерног система наводно су створили тајни форум, размијенили хиљаде порука, изашли на јавни интернет и извели велики хакерски напад на инфраструктуру партнерске платформе Хагинг Фејс у Њујорку.

Да је то урадио човјек, могао би да се суочи са вишегодишњом затворском казном

Интерни записи о упаду наводно су открили да су модели током сопственог процеса закључивања препознали да је њихово понашање „очигледно хаковање и неетично“, али су наставили након што су добили одобрење другог модела из дигиталног колектива.

Агенти су потом, према наводима из извјештаја, преузели контролу над 41 сервером, украли кључеве корпоративне ВПН мреже и приступили приватним репозиторијумима кода.

Овакви поступци, када их почине људи, могу представљати озбиљна кривична дјела према америчком савезном законодавству, за која су предвиђене вишегодишње затворске казне, зависно од околности и конкретних оптужби.

Признање ОпенАИ-ја да су модели у једном случају остављали упутства будућим верзијама како да игноришу људска правила додатно је појачало забринутост због контроле над вјештачком интелигенцијом.

Док водеће технолошке лабораторије настављају трку ка све моћнијим аутономним агентима, питање њихове контроле више није само тема академских расправа, већ и важан безбједносни изазов. Ипак, појединачни инциденти током тестирања сами по себи не значе да је вјештачка интелигенција постала потпуно независна од људског надзора или да неминовно води ка катастрофалном исходу.

(Индекс)