Upozorenje iz Majkrosofta: Zbog ovog poteza AI više nećemo moći da isključimo?

Direktor za veštačku inteligenciju u kompaniji Majkrosoft Mustafa Sulejman kritikovao je pristup kompanije Antropik (Anthropic) po pitanju razvoja svijesti vještačke inteligencije, prenosi Tanjug.

On je upozorio da bi način na koji se modeli obučavaju mogao otežati njihovu kontrolu u budućnosti, prenio je Rojters.

Nauka i tehnologija

AI bi mogao da nas ubije do kraja decenije? Altman: "Imate pravo da se plašite"

Međutim, Sulejman je istakao da dijeli fokus Anthropica na bezbjedno upravljanje vještačkom inteligencijom i pohvalio integritet rukovodstva kompanije, posebno njenog izvršnog direktora Darija Amodeija.

Njegova kritika odnosi se na uključivanje ideja o svesti, dobrobiti i ličnom identitetu u obuku četbota Klada.

Prema Sulejmanovim navodima, podučavanje sistema jeziku i obrascima ponašanja koji se povezuju sa ljudskom sviješću moglo bi da utiče na način na koji vještačka inteligencija "doživljava" sopstvenu ulogu.

Nauka i tehnologija

Zašto šefovi AI divova odjednom upozoravaju na ogromnu opasnost?

On smatra da bi takav pristup mogao da oteža upravljanje budućim sistemima koji bi bili znatno sposobniji od današnjih modela, uključujući njihovo isključivanje kada je to potrebno.

Sulejman je ocijenio da bi industrija vještačke inteligencije trebalo da bude usmjerena na razvoj sistema koji služe ljudima, a ne na njihovo približavanje ljudskim osobinama.

Založio se za uklanjanje spekulativnih formulacija o svijesti iz podataka i procesa obuke AI sistema.

Zdravlje

Naučnici otkrili koji sistem u tijelu prvi počinje da stari

Rasprava dolazi u trenutku intenzivirane debate u tehnološkoj industriji o bezbjednosti i tempu razvoja naprednih modela vještačke inteligencije.

Anthropic je ranije upozoravao na potencijalne rizike sve moćnijih AI sistema, dok su čelnici više velikih tehnoloških kompanija posljednjih dana govorili o potrebi dodatnih bezbjednosnih mehanizama i opreznijeg razvoja.