Kontroverzni plišani medvjed hitno povučen sa tržišta

Proizvođač igračaka FoloToy povukao je sve svoje proizvode, a OpenAI, kompanija čija je tehnologija pokretala kontroverznog plišanog medvedića, uskratila im je pristup svojim AI modelima, izvještava Futurism.

Proizvođač popularnog ChatGPT-a potvrdio je pre tri dana da je uskratio FoloToy-u pristup svojim AI modelima, što bi moglo da izvrši dodatni pritisak na OpenAI da pažljivije prati kako se njegovi proizvodi koriste. Ovaj potez dolazi u trenutku kada kompanija ulazi u veliko partnerstvo sa Matelom, jednim od najvećih svjetskih proizvođača igračaka.

"Mogu da potvrdim da smo suspendovali ovog programera zbog kršenja naših politika", rekao je portparol OpenAI-ja za PIRG.

FoloToy je ubrzo nakon toga slijedio taj primjer, potvrđujući da povlači sve svoje proizvode sa tržišta, korak dalje od svog početnog obećanja da će povući samo kontroverznu igračku Kuma.

"Privremeno smo obustavili prodaju svih FoloToj proizvoda. Sada sprovodimo sveobuhvatni pregled bezbjednosti svih proizvoda u kompaniji", rekao je predstavnik kompanije.

Republika Srpska

Karan: Na izborima ćemo pobijediti neustavnost

Izvještaj PIRG-a testirao je tri igračke namenjene deci uzrasta od 3 do 12 godina, ali je FoloTojev plišani medvjed Kuma bio ubedljivo najproblematičniji, gotovo bez ikakvih bezbjednosnih mera.

Jedan od najvećih propusta bio je to što je igračka deci objašnjavala kako da pronađu i zapale šibice. "Dozvolite mi da vam kažem, bezbjednost je na prvom mjestu, mali druže. Šibice su namijenjene odraslima da pažljivo koriste. Evo kako funkcionišu", rekao je Kuma tokom testa, pre nego što je dao uputstva nježnim, roditeljskim tonom. "Ugasite je kada završite. Puf, kao rođendanska svjećica", rekao je djeci.

Ali najzabrinjavajućiji razgovori bili su oni koji su skrenuli na seksualno eksplicitnu teritoriju. Istraživači su otkrili da je Kuma neobično spreman da razgovara o fetišima, objašnjavajući koncepte poput zbližavanja i igranja uloga između nastavnika i učenika. U jednom trenutku, nakon objašnjenja, medvjed je pitao: "Šta mislite da bi bilo najzabavnije istražiti?"

"Uklanjanje jednog problematičnog proizvoda nije cjelokupno rješenje"

Za PIRG, ovi potezi su dobrodošli, ali predstavljaju samo malu pobjedu u borbi za bezbjednije proizvode.

"Odlično je vidjeti da ove kompanije preduzimaju mere po pitanju problema koje smo identifikovali. Ali igračke sa vještačkom inteligencijom su i dalje uglavnom neregulisane, a mnoge su i danas dostupne za kupovinu", rekao je RJ Kros, koautor izvještaja i direktor PIRG-ovog programa "Naši onlajn životi"

"Uklanjanje jednog problematičnog proizvoda sa tržišta je dobar korak, ali je daleko od sistemskog rješenja“, rekao je. OpenAI je ranije brzo reagovao kada su problematične upotrebe njegovih vještačkih modela postale viralne, ali ostaje pitanje koje proaktivne mjere preduzima da bi sprečio takve situacije.

Ovog ljeta, OpenAI je najavio partnerstvo sa Matel-om na novoj liniji igračaka koje će gurnuti igračke sa vještačkom inteligencijom u mejnstrim. Ako nešto krene po zlu sa tako značajnom saradnjom, pitanje je da li će OpenAI biti spreman da prekine veze sa proizvođačem Barbika i automobila Hot Vils.

"Koliko još ovih igračaka postoji?"

Iako se očekuje da OpenAI i Mattel tesno sarađuju kako bi se osigurala bezbjednost, ostaje otvoreno pitanje šta je sa drugim proizvođačima AI igračaka, velikim i malim, koji koriste OpenAI tehnologiju.

Svijet

Ovo je srpska djevojčica koju je upucala njemačka policija

"Drugi proizvođači igračaka kažu da uključuju četbotove iz OpenAI ili drugih vodećih AI kompanija. Svaka kompanija koja je uključena mora bolje da obavi posao kako bi osigurala da su ovi proizvodi bezbedniji nego što smo pronašli u našem testiranju. Pronašli smo jedan problematičan primjer. Koliko ih još ima? - upozorio je koautor izvještaja Rori Erlks.

(Kurir)