Čovjek kojeg mnogi nazivaju kumom vještačke inteligencije dao je otkaz i upozorio na „sve veće opasnosti razvoja u oblasti vještačke inteligencije“. Džefri Hinton (75) najavio je ostavku na Gugl u intervjuu za Njujork tajms, rekavši da se sada kaje zbog svog rada. On je za BBC rekao da su neke od opasnosti od AI chat-bota "prilično zastrašujuće".
"Trenutno nisu inteligentniji od nas, koliko vidim. Ali mislim da bi mogli uskoro biti", rekao je on. Pionirsko istraživanje dr Hintona o dubokom učenju i neuronskim mrežama utrlo je put trenutnim sistemima vještačke inteligencije kao što je ChatGPT. Ali, britansko-kanadski psiholog i kompjuterski naučnik rekao je za BBC da bi čet-bot uskoro mogao da nadmaši nivo informacija koje čuva ljudski mozak.
“Trenutno vidimo kako stvari poput GPT-4 pomračuju osobu u količini opšteg znanja koje imaju. Što se tiče zaključivanja, to nije tako dobro, ali je već u smislu jednostavnog zaključivanja. S obzirom na brzinu napretka, mi očekujte da će se prilično brzo popraviti. Zato moramo biti zabrinuti", rekao je on za BBC. "Pogledajte kako je bilo prije pet godina, a kako je sada. Pogledajte koliki je to korak, a vi to dalje proširujete. To je zastrašujuće", istakao je on.
Hinton je rekao da konkurencija između tehnoloških giganata primorava kompanije da proizvode nove tehnologije veštačke inteligencije opasnim brzinama, ugrožavajući poslove i šireći dezinformacije.
„Teško je shvatiti kako možete spriječiti loše glumce da ga koriste da rade loše stvari“, rekao je za Tajms. "Scenario noćne more" U članku Njujork tajmsa, Hinton je pomenuo „loše ljude“ koji bi pokušali da iskoriste veštačku inteligenciju za „loše stvari“. Na pitanje BBC-ij da pojasni, on je odgovorio:
„Ovo je samo vrsta najgoreg scenarija, vrsta scenarija iz noćne more. Možete zamisliti, na primjer, nekoga poput ruskog predsjednika Vladimira Putina koji je odlučio da robotima da mogućnost da kreiraju sopstvene podciljeve." Naučnik je upozorio da bi to na kraju moglo „stvoriti podciljeve poput 'Moram da dobijem više moći'“.
„Došao sam do zaključka da se vrsta inteligencije koju razvijamo veoma razlikuje od inteligencije koju imamo. Mi smo biološki sistemi, a ovo su digitalni sistemi. A velika razlika je u tome što kod digitalnih sistema imate mnogo kopija istog modela“, rekao je on. „I sve te kopije mogu da uče odvojeno, ali odmah dijele svoje znanje. Dakle, to je kao da imate 10.000 ljudi i kad god jedna osoba nešto nauči, svi to automatski znaju. I tako ovi chat botovi mogu znati mnogo više od bilo koje osobe“, zaključuje on.
Poslovi i širenje dezinformacija Iako se vještačka inteligencija koristi za podršku ljudskim radnicima, brzo širenje robota za ćaskanje kao što je ChatGPT moglo bi da ugrozi radna mjesta. AI „oduzima naporan rad“, ali „može oduzeti više od toga“, rekao je za Tajms.
Naučnik je upozorio na potencijalno širenje dezinformacija koje generiše vještačka inteligencija, rekavši za Tajms da prosječna osoba „više neće moći da zna šta je istina“. Hinton je takođe rekao da postoji nekoliko drugih razloga zašto je dao otkaz.
„Jedan je taj dan kada imam 75 godina. Dakle, vrijeme je da se penzionišem. Drugi je – zapravo želim da kažem neke dobre stvari o Guglu. I vjerodostojnije su ako ne radim za Gugl“, kaže on. On je naglasio da ne želi da kritikuje Gugl i da je tehnološki gigant bio "veoma odgovoran". Džef Din, vodeći naučnik za Gugl AI, zahvalio je Hintonu u izjavi američkim medijima.
„Kao jedna od prvih kompanija koja je objavila principe vještačke inteligencije, ostajemo posvećeni odgovornom pristupu vještačkoj inteligenciji“, dodaje se u saopštenju. „Stalno učimo da se suočavamo sa novim rizicima, a istovremeno se hrabro usavršavamo“, istakao je on.
Poziv na pauzu u razvoju vještačke inteligencije u martu, tehnološki milijarder Elon Musk i brojni stručnjaci pozvali su na pauzu u razvoju AI sistema kako bi se omogućilo vijreme za testiranje i uveravanje da su bezbjedni. Otvoreno pismo, koje je potpisalo više od 1.000 ljudi, uključujući Maska i suosnivača Epla Stiva Voznijaka, podstaklo je izdavanje GPT-4, mnogo moćnije verzije tehnologije koju koristi ChatGPT. Hinton tada nije potpisao pismo, ali je za The Nev Iork Times rekao da naučnici ne bi trebalo da „razmjeravaju ovo dok ne znaju da li mogu to da kontrolišu“.
