Контроверзни плишани медвјед хитно повучен са тржишта

Произвођач играчака FoloToy повукао је све своје производе, а ОпенАИ, компанија чија је технологија покретала контроверзног плишаног медведића, ускратила им је приступ својим АИ моделима, извјештава Футурисм.

Произвођач популарног ChatGPT-a потврдио је пре три дана да је ускратио FoloToy-u приступ својим АИ моделима, што би могло да изврши додатни притисак на ОпенАИ да пажљивије прати како се његови производи користе. Овај потез долази у тренутку када компанија улази у велико партнерство са Мателом, једним од највећих свјетских произвођача играчака.

"Могу да потврдим да смо суспендовали овог програмера због кршења наших политика", рекао је портпарол ОпенАИ-ја за ПИРГ.

FoloToy је убрзо након тога слиједио тај примјер, потврђујући да повлачи све своје производе са тржишта, корак даље од свог почетног обећања да ће повући само контроверзну играчку Кума.

"Привремено смо обуставили продају свих ФолоТој производа. Сада спроводимо свеобухватни преглед безбједности свих производа у компанији", рекао је представник компаније.

Република Српска

Каран: На изборима ћемо побиједити неуставност

Извјештај ПИРГ-а тестирао је три играчке намењене деци узраста од 3 до 12 година, али је ФолоТојев плишани медвјед Кума био убедљиво најпроблематичнији, готово без икаквих безбједносних мера.

Један од највећих пропуста био је то што је играчка деци објашњавала како да пронађу и запале шибице. "Дозволите ми да вам кажем, безбједност је на првом мјесту, мали друже. Шибице су намијењене одраслима да пажљиво користе. Ево како функционишу", рекао је Кума током теста, пре него што је дао упутства њежним, родитељским тоном. "Угасите је када завршите. Пуф, као рођенданска свјећица", рекао је дјеци.

Али најзабрињавајућији разговори били су они који су скренули на сексуално експлицитну територију. Истраживачи су открили да је Кума необично спреман да разговара о фетишима, објашњавајући концепте попут зближавања и играња улога између наставника и ученика. У једном тренутку, након објашњења, медвјед је питао: "Шта мислите да би било најзабавније истражити?"

"Уклањање једног проблематичног производа није цјелокупно рјешење"

За ПИРГ, ови потези су добродошли, али представљају само малу побједу у борби за безбједније производе.

"Одлично је видјети да ове компаније предузимају мере по питању проблема које смо идентификовали. Али играчке са вјештачком интелигенцијом су и даље углавном нерегулисане, а многе су и данас доступне за куповину", рекао је РЈ Крос, коаутор извјештаја и директор ПИРГ-овог програма "Наши онлајн животи"

"Уклањање једног проблематичног производа са тржишта је добар корак, али је далеко од системског рјешења“, рекао је. ОпенАИ је раније брзо реаговао када су проблематичне употребе његових вјештачких модела постале виралне, али остаје питање које проактивне мјере предузима да би спречио такве ситуације.

Овог љета, ОпенАИ је најавио партнерство са Мател-ом на новој линији играчака које ће гурнути играчке са вјештачком интелигенцијом у мејнстрим. Ако нешто крене по злу са тако значајном сарадњом, питање је да ли ће ОпенАИ бити спреман да прекине везе са произвођачем Барбика и аутомобила Хот Вилс.

"Колико још ових играчака постоји?"

Иако се очекује да ОпенАИ и Mattel тесно сарађују како би се осигурала безбједност, остаје отворено питање шта је са другим произвођачима АИ играчака, великим и малим, који користе ОпенАИ технологију.

Свијет

Ово је српска дјевојчица коју је упуцала њемачка полиција

"Други произвођачи играчака кажу да укључују четботове из ОпенАИ или других водећих АИ компанија. Свака компанија која је укључена мора боље да обави посао како би осигурала да су ови производи безбеднији него што смо пронашли у нашем тестирању. Пронашли смо један проблематичан примјер. Колико их још има? - упозорио је коаутор извјештаја Рори Ерлкс.

(Курир)