Милион корисника ЧетГПТ-а недјељно жели да се убије

Према наводима из званичног блог поста, "ОпенАИ" процјењује да поруке са "експлицитним индикаторима потенцијалног самоубилачког планирања или намјере" чини значајан дио укупних интеракција корисника, пише Гардијан.

Република Српска

Додик на Конференцији о евроазијској безбједности

То је једно од најдиректнијих признања компаније о могућем утицају вјештачке интелигенције на ментално здравље.

Компанија је саопштила и да око 0,07 одсто активних корисника недјељно - што је приближно 560.000 људи од око 800 милиона корисника, показује могуће знаке психотичних епизода или маничног понашања.

У објави се напомиње да су такве процјене почетне и да их је тешко прецизно квантификовати.

Да би побољшала тачност и етичке стандарде у комуникацији, ОпенАИ је ангажовала 170 клиничара и стручњака за ментално здравље из своје Глобалне мреже љекара.

Сцена

Дара Бубамара снима филм о свом животу: Изабрала ко ће је глумити

Они су анализирали више од 1.800 одговора модела у ситуацијама које укључују озбиљне кризе менталног здравља и помогли у прилагођавању садржаја који се односи на емоционалну подршку.

Стручњаци за ментално здравље раније су упозоравали да четботови могу нехотице да подстакну опасне мисли потврђујући корисникове заблуде или негативна осјећања - феномен познат као "улизивање".

Генерални директор "ОпенАИ" Сем Алтман рекао је раније овог мјесеца да је компанија "направила напредак у смањењу ризика од озбиљних проблема менталног здравља" и најавио ублажавање одређених ограничења у раду "ЧетГПТ"-а.

Хроника

Након свађе избо мајку у кући

ОпенАИ је саопштио да ће наставити да развија механизме за безбједнију употребу својих модела и да сарађује са независним стручњацима и регулаторима како би, како наводе, "АИ алати постали подршка, а не ијкорисницима у кризи".