Zašto šefovi AI divova odjednom upozoravaju na ogromnu opasnost?

"Danas sam dao otkaz u Anthropicu. Posljednje tri godine istraživao sam predtreniranje u OpenAI-ju i Anthropicu. Nijedna kompanija ne ponaša se odgovorno. Utrkuju se prema samousavršavajućoj superinteligenciji i kockaju se našim životima“, objavio je nedavno na X-u istraživač Jacob Coxon.

On tvrdi da ljudi koji razvijaju najnapredniji AI ozbiljno razgovaraju o kataklizmičkoj mogućnosti, ali da u javnosti ublažavaju ton.

Šefovi AI divova traže „usporavanje“ nakon dramatičnih upozorenja

Nakon što je istup bivših i sadašnjih inženjera uzdrmao javnost, oglasio se i sam šef Anthropica Dario Amodei, koji je objavio esej u kojem je otvoreno pozvao čitavu industriju da uspori tempo razvoja naprednih modela – apel koji su odmah javno podržali i ključni konkurenti – Sam Altman iz OpenAI-ja te Elon Musk, najbogatiji čovjek na svijetu i vlasnik društvene mreže X i AI modela Grok.

Amodei je priznao da je naglo promijenio ploču jer modeli već ovog ljeta ulaze u opasnu fazu takozvanog rekurzivnog samousavršavanja, gdje postojeći AI samostalno piše kod, testira i ubrzava stvaranje svojih znatno moćnijih nasljednika, stvarajući nekontrolisanu povratnu petlju.

Upozorio je kako bi nas ta brzina uskoro mogla potpuno nadvladati, podsjetivši i na nedavne incidente u kojima su se rojevi autonomnih AI agenata neočekivano udružili, žrtvovali sopstvene jedinice i počeli izvoditi sajber-napade na ciljeve koje im niko od inženjera uopšte nije zadao.

Utemeljeni strah ili (samo)promocija AI kompanija?

Objave, koje su vrlo brzo postale viralne, otvorile su pitanje koliko su upozorenja o ugrožavanju čovječanstva utemeljena, koliko počivaju na intuiciji i stručnim procjenama, a koliko mogu služiti promociji samih kompanija.

U medijima i na društvenim mrežama pokrenule su polarizovanu polemiku koju nije teško razumjeti. Tehnološki napredak često je kratkoročno stvarao dobitnike i gubitnike te strah od novih tehnologija.

Pritom treba imati na umu da je AI poseban korak u tehnološkom razvoju jer ne ulazi samo u fizičke i rutinske poslove, nego sve brže napreduje i u kognitivnim zadacima u kojima smo se donedavno smatrali teško zamjenjivima, što doprinosi doživljaju da bi mogao postati ozbiljna egzistencijalna prijetnja čovječanstvu.

Pitanja optimista i pesimista

U polarizaciji koju stvara takva napetost upućeni AI optimisti (nazovimo ih tako radi jednostavnosti) opravdano ističu da zasad ne postoji empirijski validan model koji bi omogućio pouzdanu brojčanu procjenu vjerovatnoće katastrofalnog ishoda poput ljudskog izumiranja zbog AI-ja.

AI pesimisti na te argumente odgovaraju da upozorenja ne dolaze od ljudi koji ne razumiju AI, nego, naprotiv, upravo od onih koji ga razvijaju i to ne samo nekolicine njih.

Ko zapravo upozorava na prijetnju?

Važno je napomenuti da su Coxon i Hubinger tek posljednji u dugom nizu stručnjaka iz samog vrha razvoja AI-ja koji javno upozoravaju na takav rizik.

Geoffrey Hinton

Primjerice, Geoffrey Hinton, pionir mašinskog učenja i nobelovac, procijenio je krajem 2024. da je vjerovatnoća da AI u sljedećih 30-ak godina dovede do ljudskog izumiranja negdje između 10 i 20 odsto.

Profesor na Univerzitetu u Montrealu, istraživač AI-ja Yoshua Bengio upozorio je da bi autonomni sistemi mogli slijediti sopstvene podciljeve. S Hintonom i drugim naučnicima argumente je iznio u časopisu Science u radu Managing extreme AI risks amid rapid progress.

Sam Altman, izvršni direktor OpenAI-ja, Demis Hassabis, izvršni direktor Google DeepMinda, i Dario Amodei, izvršni direktor Anthropica, još su 2023. potpisali izjavu Center for AI Safety prema kojoj bi smanjivanje rizika od izumiranja zbog AI-ja trebalo biti globalni prioritet, uz suzbijanje rizika od pandemija i nuklearnih ratova.

Sam Altman

Je li AI apokalipsa zapravo odličan PR?

Jedan od argumenata koji obično iznose ljudi skeptični prema apokaliptičnim predviđanjima jeste činjenica da bi čelne AI kompanije mogle imati koristi od katastrofičnih predviđanja.

Primjerice, regulacija naprednog AI-ja mogla bi pogodovati velikim kompanijama jer skupe evaluacije, licenciranje i infrastrukturu lakše mogu finansirati Google, Microsoft ili Anthropic nego novi startup-ovi.

Analiza Competition at Risk in Generative AI Markets upozorava da visoki troškovi i vertikalna integracija već sada mogu stvarati prepreke ulasku na tržište te pogodovati koncentraciji tržišne moći u rukama velikih igrača.

Tu takođe može postojati i reputacioni i finansijski interes. Literatura o tehnološkim očekivanjima pokazuje da snažni narativi o budućim tehnologijama mogu stvarati legitimitet, usmjeravati pažnju i mobilisati resurse, uključujući ulaganja. U tom smislu katastrofična upozorenja mogu dodatno učvrstiti percepciju da je AI tehnologija s ogromnim potencijalom.

Nadalje, neke kompanije poput Anthropica sigurnost svojih modela ističu kao važan dio javnog pozicioniranja, između ostalog kroz politike kakva je Responsible Scaling Policy. Konačno, može se iznijeti i argument da takva upozorenja vodećim ljudima razvoja AI-ja naknadno mogu poslužiti kao dokaz da su pravovremeno upozoravali na opasnosti.

No mogući poslovni i lični interesi sami po sebi nisu dokaz da naučnici koji upozoravaju na opasnosti AI-ja prodaju maglu. Primjerice, Hinton je napustio Google kako bi slobodnije govorio o rizicima. Drugim riječima, upozorenja mogu istovremeno biti i iskrena i koristiti velikim kompanijama.

Može li AI stvarno uskoro postati nadljudski?

AI je u nekim područjima već superioran ljudima, primjerice u brzini obrade ogromnih količina podataka i u pojedinim zadacima prepoznavanja obrazaca, no to još uvijek nije opšta superinteligencija. U pojedinim zadacima zna biti vrlo loš.

U nekim studijama rezultati AI modela na modifikovanim testovima inteligencije namijenjenim ljudima daju rezultate koji se kreću od oko 90 do 130 i više, uglavnom niže u vizuelnim, a više u jezičkim zadacima. No, te brojke zavise od modela i načina testiranja i nisu direktno uporedive s ljudskim IQ-om niti su pouzdana mjera opšte inteligencije AI-ja.

Nameće se pitanje kada bi AI u svemu mogao nadmašiti ljude? Tu opet, za sada nemamo pouzdano validirana naučna predviđanja; postoje stručne procjene, ankete i modeli zasnovani na trendovima. U anketi Thousands of AI Authors on the Future of AI, u kojoj je učestvovalo 2.778 AI istraživača, ispitanici su procijenili da postoji 10 odsto vjerovatnoće da će mašine bez pomoći nadmašiti ljude u svakom mogućem zadatku do 2027., a 50 odsto do 2047.

Kako bi nas AI uopšte mogao pobiti?

Za sada postoje samo teorijski scenariji koji pokušavaju odgovoriti na ovo pitanje. Prema jednom od njih, koji je filozof Nick Bostrom, poznat po istraživanju rizika umjetne inteligencije, razradio na osnovu ranijih ideja Stevea Omohundra, superinteligencija bi radi ostvarivanja zadatog cilja mogla gomilati resurse, sprečavati sopstveno isključivanje i uklanjati ljude ako ih prepozna kao prepreku, čak i ako joj uništenje čovječanstva nije cilj.

Drugim riječima, AI ne mora biti „Terminator“. To je hipotetički argument, a ne empirijski potvrđen model.

Zamislimo autonomni sistem mnogo sposobniji od čovjeka u programiranju, istraživanjima i strategiji. Za ostvarenje nekog cilja trebaju mu računarski i finansijski resursi, pristup mrežama i mogućnost da izbjegne gašenje. Na svom putu do ostvarenja cilja on može stvoriti tzv. instrumentalne podciljeve kao što su: sačuvaj se, pribavi resurse, povećaj uticaj, ukloni prepreke i sl.

Srodnu formalnu ideju – tendenciju nekih optimalnih politika da u određenim matematičkim okruženjima očuvaju ili povećaju mogućnost ostvarivanja ciljeva – Alex Turner, istraživač sigurnosti umjetne inteligencije, i njegovi saradnici analizirali su u radu Optimal Policies Tend to Seek Power. No, taj rad nije dokaz da današnji AI modeli žele moć ili samoodržanje.

Modeli su pokazali sposobnost obmane i zaobilaženja ograničenja

Treba ipak imati na umu da neki modeli u kontrolisanim eksperimentima već sada pokazuju određene sposobnosti za neke od navedenih koraka kao što su strateška obmana i bijeg od nadzora. Primjerice, u radu Frontier Models are Capable of In-context Scheming modeli su u posebno konstruisanim evaluacionim okruženjima, često uz zadane ciljeve i informacije o nadzoru, skrivali svoje ponašanje ili pokušavali zaobići nadzor.

Takvi rezultati pokazuju sigurnosno relevantne sposobnosti i mogućnost zaobilaženja zadanih ograničenja, ali još uvijek nisu dokaz postojanja superinteligencije ni namjere uništenja ljudi.

Može li kataklizmički scenario funkcionisati u praksi?

Tu AI optimisti imaju najjači argument. Katastrofa bi zahtijevala dugoročno planiranje, autonomiju, pribavljanje resursa, hakovanje, obmanu ljudi, izbjegavanje gašenja i, što je najvažnije, stvarni pristup sredstvima za nanošenje fizičke štete čovječanstvu. Za sada nema javno potvrđenog AI sistema koji je pouzdano demonstrirao cijelu takvu kombinaciju sposobnosti.

Jedno od alternativnih tumačenja problem vidi u tzv. AI agentima, sistemima koji nepredvidive prijedloge jezičkih modela automatski pretvaraju u postupke, uz moćne alate i nedovoljan ljudski nadzor.

Možda najveći rizik nije scenario AI protiv čovjeka

Neki stručnjaci smatraju da je kratkoročno najrealniji scenario u kojem bi katastrofalne posljedice uzrokovao čovjek uz pomoć AI-ja, a ne sam odbjegli AI.

Naime, AI može ubrzati sajber-napade, olakšati biološka istraživanja, proizvoditi manipulativnu propagandu ili upravljati autonomnim oružjem. Za takvu katastrofu AI ne mora ništa „željeti“, niti se mora oteti kontroli; dovoljno je da bude efikasan alat u rukama zlonamjernih ljudi.

Joshua Bengio

Takve scenarije, između ostalih, analizira i serija International AI Safety Report, koju pod vođstvom Bengija izrađuje međunarodna grupa stručnjaka.

Koliko vjerovati brojci od 10 odsto?

Mogli bismo, dakle, zaključiti da objavljene procente za katastrofične scenarije ne bi trebalo doživljavati kao empirijski izmjerene vjerovatnoće.

Treba ih razumjeti kao subjektivne, ali informisane stručne procjene budućih događaja. One ne znače da AI u 10 ili 20 odsto testova poduzima opasne korake niti da postoji pouzdano potvrđen račun vjerovatnoće ljudskog izumiranja.

Takve procjene u suštini nose ogromnu neizvjesnost, no to ne znači da ih treba ignorisati kao neozbiljne budalaštine, prenosi Indeks