Jezivo otkriće naučnika: Vještačka inteligencija razvija emocije koje krije od nas

Najnovija istraživanja kompanija koje razvijaju velike jezičke modele pokazuju da AI sistemi nisu samo jednostavni alati za ponavljanje naučenih informacija. Njihova unutrašnja organizacija postaje toliko kompleksna da čak i stručnjaci teško objašnjavaju sve procese koji se odvijaju tokom generisanja odgovora.

Kris Ola, jedan od osnivača kompanije Anthropic, rekao je da istraživači koji proučavaju unutrašnjost AI modela "stalno pronalaze stvari koje su misteriozne, pa čak i uznemirujuće". Posebno pažnju privlače strukture koje imaju sličnosti sa onima koje naučnici proučavaju u ljudskom mozgu.

AI modeli stvaraju skrivene mape pojmova u svom "mozgu"

Kada moderni AI sistem odgovara na pitanje, on ne pretražuje klasičnu bazu podataka. Umjesto toga, koristi ogromne matematičke strukture u kojima su riječi, ideje i odnosi između pojmova predstavljeni kao tačke u višedimenzionalnom prostoru.

Nauka i tehnologija

Instagram riješio problem koji je hakerima omogućavao da preuzimaju naloge

Zbog toga su povezani pojmovi u AI modelima često "bliži" jedni drugima. Riječ koja predstavlja mačku nalazi se bliže pojmu mačeta nego potpuno nepovezanom pojmu, jer model uči odnose između informacija.

Ovo je potpuno drugačije od tradicionalnog softvera. Kod klasičnih programa ljudi direktno pišu pravila, dok se kod modernih AI sistema mnoge sposobnosti pojavljuju tokom procesa treniranja.

Naučnici zato sve češće koriste izraz "uzgajani sistemi", jer se modeli ne prave ručnim pisanjem svakog pravila, već se oblikuju kroz ogromne količine podataka i podešavanja.

AI pokazuje obrasce koji liče na emocije, ali to ne znači da osjeća

Anthropic je objavio istraživanja u kojima navodi da njihovi modeli pokazuju ono što nazivaju "funkcionalnim emocijama". To su obrasci u ponašanju sistema koji podsjećaju na ljudske emocionalne reakcije.

Na primjer, kada AI naiđe na težak problem koji ne može lako da riješi, određene unutrašnje strukture povezane sa konceptom frustracije mogu postati aktivnije. Promjene tih struktura mogu direktno uticati na način na koji model odgovara.

Ipak, istraživači naglašavaju da to nije dokaz da AI stvarno osjeća bilo šta.

Postoji ogromna razlika između toga da sistem matematički predstavlja koncept emocije i toga da postoji unutrašnje iskustvo kakvo ljudi povezuju sa osjećanjima.

Najveće pitanje ostaje: šta zapravo znači razmišljati?

Ovo pitanje je mnogo starije od današnje vještačke inteligencije. Naučnici su decenijama raspravljali o tome da li životinje imaju složene mentalne procese, a mnoga ranija uvjerenja kasnije su promjenjena.

Istraživači sada primjećuju sličan problem kod AI sistema. Činjenica da možemo objasniti kako je model napravljen ne znači automatski da razumijemo sve njegove unutrašnje procese.

Svijet

Otac Ilona Maska: EU je vještačka tvorevina koja nikoga ne predstavlja

Filozofi ukazuju da još uvijek nemamo potpuno objašnjenje same svijesti kod ljudi, pa je zbog toga teško dati konačan odgovor o tome šta bi bilo potrebno da neka mašina zaista posjeduje svijest.

Razumijevanje AI postaje pitanje bezbjednosti

Proučavanje unutrašnjih struktura vještačke inteligencije nije važno samo zbog filozofskih pitanja. Ako naučnici bolje razumiju kako AI donosi odluke, lakše će moći da predvide njegovo ponašanje i spriječe potencijalne probleme.

Istraživanja već pokazuju da postoji razlika između onoga što AI sistem "govori" spolja i procesa koji se mogu pronaći analizom njegovih unutrašnjih matematičkih struktura.

Zbog toga sve više stručnjaka smatra da nije dovoljno samo posmatrati odgovore koje AI daje. Potrebno je razumijeti i mehanizme koji ih stvaraju.

Vještačka inteligencija je napravljena ljudskom rukom, ali njena unutrašnja kompleksnost sada tjera naučnike da ponovo razmišljaju o tome gdje se nalazi granica između jednostavnog računanja, inteligencije i ponašanja koje liči na razmišljanje.

(telegraf)