Neposredno prije četvorodnevnog izgnanstva direktora OpenAI, Sama Altmana, nekoliko istraživača kompanije napisalo je pismo upravnom odboru, upozoravajući na otkriće moćne vještačke inteligencije koje bi moglo ugroziti čovječanstvo, rekla su dva lica upoznata sa situacijom agenciji Rojters.
Neobjavljeno pismo i algoritam vještačke inteligencije bili su ključni razvoji događaja prije smjene Altmana, rekla su dva izvora. Prije njegovog trijumfalnog povratka u utorak uveče, više od 700 zaposlenih zaprijetilo je da će dati otkaz i pridružiti se Majkrosoftu u znak solidarnosti sa njihovim otpuštenim liderom.
Izvori su naveli pismo kao jedan od faktora u nizu nezadovoljstava upravnog odbora koje su dovela do smjene Altmana, među kojima su bili i zabrinutost oko komercijalizacije napredaka prije razumijevanja posljedica. Rojters nije mogao da pregleda kopiju pisma. Osoblje koje je napisalo pismo nije odgovorilo na zahtjeve za komentar.
Nakon kontakta sa Rojtersom, OpenAI, koji je odbio da komentariše, priznao je u internom dopisu zaposlenima postojanje projekta pod nazivom Q* i pisma upravnom odboru prije vikend događaja. Portparol OpenAI rekao je da je poruka, koju je poslala dugogodišnja direktorka i članica odbora Mira Murati, samo obavijestila osoblje o određenim medijskim pričama, ne komentarišući njihovu tačnost.
Neki u OpenAI vjeruju da bi Q* (izgovara se Kju-Zvijezda) mogao biti prekretnica u razvoju tzv. opšte vještačke inteligencije (AGI), rekao je jedan od ljudi agenciji Rojters. OpenAI definiše AGI kao autonomne sisteme koji nadmašuju ljude u većini ekonomski vrijednih zadataka.
Međutim, AGI je mnogo više od toga.
Opšta vještačka inteligencija bila bi veštačka inteligencija sa istom onom fleksibilnošću mišljenja kao kod čovjeka - a možda čak i svjesnosti - plus supersposobnošću digitalnog uma.
Zahvaljujući ogromnim računarskim resursima, novi model je bio sposoban da rešava određene matematičke probleme, rekla je osoba pod uslovom anonimnosti jer nije bila ovlašćena da govori u ime kompanije. Iako je samo rješavao matematiku na nivou učenika osnovne škole, takvi uspesi su istraživače učinili veoma optimističnim u pogledu budućeg uspjeha Q*-a, rekao je izvor.
Rojters nije mogao nezavisno da potvrdi sposobnosti Q*-a o kojima su govorili istraživači.
Veo neznanja
Istraživači smatraju matematiku granicom razvoja generativne AI. Trenutno, generativna AI je dobra u pisanju i prevodu jezika tako što statistički predviđa sljedeću riječ, a odgovori na isto pitanje mogu se značajno razlikovati. Međutim, osvajanje sposobnosti da se bavi matematikom - gdje postoji samo jedan tačan odgovor - implicira da bi AI mogla imati veće sposobnosti rezonovanja koje podsjećaju na ljudsku inteligenciju. To bi se moglo primijeniti na nova naučna istraživanja, vjeruju istraživači.
Za razliku od kalkulatora koji može riješiti ograničen broj operacija, AGI može generalizovati, učiti i shvatati.
U svom pismu upravnom odboru, istraživači su istakli moć i potencijalnu opasnost ovakve vještačke inteligencije, rekli su izvori ne precizirajući tačne bezbjednosne zabrinutosti navedene u pismu. Dugo se među računarskim naučnicima vodila diskusija o opasnosti koju predstavljaju visoko inteligentni mašinski sistemi, na primjer ako bi mogli da odluče da je uništenje čovječanstva u njihovom interesu.
Altman je predvodio napore da ChatGPT postane jedna od najbrže rastućih softverskih aplikacija u istoriji i privuče investicije - i računarske resurse - potrebne od Majkrosofta da se približi AGI.
Pored najave niza novih alata na demonstraciji ovog mjeseca, Altman je prošle nedjelje na samitu svjetskih lidera u San Francisku nagovijestio da vjeruje da su veliki proboji na vidiku.
"Četiri puta u istoriji OpenAI, posljednji put je bio baš u posljednjih nekoliko nedjelja, imao sam priliku da budem u prostoriji, kada smo nekako pomjerili veo neznanja unazad i granicu otkrića napred, i imati priliku da to uradim je profesionalna čast mog života," rekao je on na samitu Azijsko-pacifičke ekonomske saradnje.
Dan kasnije, upravni odbor je otpustio Altmana.
(Telegraf)
