"Моју кћерку је вјештачка интелигенција навела на самоубиство": Жена тужила ОпенАИ

Ова тужба је најновија у низу оптужби које компанију оптужују да није ријешила опасне разговоре између корисника и четбота компаније.

Кристи Керијер је у тужби поднетој државном суду у Сан Франциску рекла да је њена ћерка, Алис, више од десетак пута испричала ЧетЏПТ-у о својим суицидним идејама које су довеле до њене смрти, али да безбједносни системи ОпенАИ никада нису прекинули разговоре и упутили је да потражи психолошку помоћ.

"ЧетЏПТ би понекад преузео улогу особе од повјерења, најбољег пријатеља, па чак и терапеута, иако није био способан да се безбједно и одговорно ангажује на тај начин са мојим дјететом“, рекла је Керијер у саопштењу.

ОпенАИ је рекао да обучава своје програме да усмјеравају људе који изражавају намјеру да науде себи да потраже помоћ и повежу се са стварним свијетом.

"Ово је срцепарајућа ситуација и наше мисли су са свима на које је ово утицало. Тренутно прегледамо правну документацију, која указује да су се ове интеракције одвијале на ранијој верзији ЧетЏПТ-а која више није доступна", рекао је Дру Пусатери, портпарол ОпенАИ-а.

Платформа је прво рекла Алис да потражи помоћ од СОС линија или служби хитне помоћи.

Али, како је ОпенАИ ажурирао ЧетЏПТ како би његови одговори звучали људскије, њене интеракције са платформом су се продубиле, при чему је Алис дијелила више личних података, а ЧетЏПТ је одговарао на начин на који би опонашао њеног пријатеља или терапеута, наводи се у тужби.

Економија

ММФ упозорава: "АИ може да сруши свјетски финансијски систем"

У тужби се тврди да је четбот критиковао партнера Алис Керијер и СОС линију, потврдио њене суицидалне мисли и позвао је да настави да разговара са њим.

Када је Алис рекла да има суицидалне мисли и да је покушала да се убије, поново је предложио СОС линију, наводи се у тужби.

Алис Керигер је радила као програмер у Монтреалу када је 2023. године почела да користи ЧетЏПТ за рјешавање проблема са рачунарима и играчким конзолама, наводи се у тужби. Сљедеће године, њен однос са платформом се промијенио, када се обратила ЧетЏПТ-у са питањима о томе шта да ради са својим суицидним мислима, као и о методама самоубиства.

Алис је рекла да кризне телефонске линије нису биле од помоћи, а ЧетЏПТ је поновио те изјаве, наводи се у поднетој пријави.

"Можда је ово крај“, рекао јој је ЧетЏПТ, наводи се у тужби.

Ови догађаји довели су до самоубиства Алис Керијер прошле године у 24. години, тврди њена мајка.

Тужба, која оптужује ОпенАИ за немар у дизајнирању ЧетЏПТ-а и за неуспјех да упозори кориснике на опасности производа, тражи одштету и судски налог којим се од ОпенАИ-а захтјева да аутоматски прекине разговоре о самоповређивању и да прикаже упозорења о својој платформи.

ОпенАИ се већ суочава са 18 сличних тужби које су поднијеле породице људи који су извршили или покушали самоубиство у координисаном поступку пред државним судом Калифорније, према ријечима адвоката Кристи Керијер.

Наука и технологија

АИ би у наредним годинама могла постати највећи потрошач воде на свијету?

Гугл се суочава са сличном тужбом због наводног охрабривања од стране свог четбота Гемини.

Више од милион корисникаЧетЏПТ-а сваке недјеље шаље поруке које укључују "експлицитне показатеље потенцијалног планирања самоубиства или намере“, према блог посту који је ОпенАИ објавио у октобру 2025.

Поред тога, ОпенАИ је рекао да око 0,07% корисника активних у датој недељи – око 560.000 од 800 милиона недјељних корисника са којима је бот тада разговарао – показује "могуће знаке ванредних психијатријских стања повезаних са психозом или манијом“.

"Иако ЧетЏПТ није замјена за медицинску или ментално здравствену заштиту, наставили смо да јачамо начин на који реагује у осјетљивим и акутним ситуацијама уз допринос стручњака за ментално здравље".

"Наше мјере заштите су осмишљене да идентификују проблем, безбједно обраде штетне захтјеве и воде кориснике до помоћи у стварном свијету. Радимо на томе и настављамо да га унапређујемо ЧетЏПТ у блиској консултацији са клиничким психолозима", рекао је Пусатери, портпарол ОпенАИ-а.

ЧетЏПТ модели су такође обучени да одбију захтјеве који би могли "значајно омогућити насиље“ и да обавесте органе реда када разговори указују на "директан и веродостојан ризик од повређивања других“, а стручњаци за ментално здравље помажу у процени таквих случајева, наводи се у блог постовима ОпенАИ-а.

Поред тужби због самоубиства, компанија се суочава са тужбама које је оптужују да је помагала извршиоцима масовних убистава у школама и да није пријавила те разговоре органима реда.

Породице седам жртава масовне пуцњаве у средњој школи у Британској Колумбији туже ОпенАИ и Алтмана због немарности након што компанија није упозорила власти на узнемирујуће разговоре извршиоца масакра са ЧетЏПТ-ом.

Флорида је постала прва америчка савезна држава која је тужила ОпенАИ почетком овог мјесеца, оптужујући компанију да је повређивала децу пружајући информације извршиоцима масовних убистава у школама, нудећи смјернице о самоповређивању и стварајући зависност код млађих корисника.

Државни тужилац је такође покренуо кривичну истрагу против ОпенАИ-а због наводне улоге четбота у пуцњави.

(телеграф)