AI četbot zatražio stečaj nakon tužbi zbog samoubistava tinejdžera

Odluka je uslijedila nakon niza optužbi koje platformu povezuju s problemima mentalnog zdravlja i samoubistvima tinejdžera, piše SiEnEn.

"Character.ai" korisnicima omogućava dopisivanje s četbotovima koji su često oblikovani prema poznatim ličnostima ili fiktivnim likovima, a korisnici mogu kreirati i vlastite. Ovi botovi tokom razgovora često oponašaju ljudske obrasce ponašanja i u odgovore uključuju opise izraza lica ili gestova.

Planirana prodaja i uloga Diznija

Iz kompanije su najavili da do kraja godine planiraju sprovesti prodaju pod nadzorom suda kako bi osigurali dugoročni opstanak platforme. Kao potencijalni kupac imovine kompanije već se pojavio Dizni.

Kompanija je pristala da plati 20 miliona dolara za dio intelektualnog vlasništva i pruži podršku putem bivših zaposlenih u Character.ai-ju koje je ranije angažovala. Taj dogovor omogućio bi platformi da nastavi s radom tokom stečajnog postupka.

Karandip Anand, koji je prošle godine postao izvršni direktor Character.ai-ja s ciljem popravljanja ugleda kompanije u oblasti bezbjednosti, prošlog mjeseca prešao je u Dizni na poziciju glavnog tehnološkog direktora.

Optužbe i pravne posljedice

'Character.ai' su 2021. godine osnovali bivši stručnjaci Gugla za vještačku inteligenciju Noam Šazir i Danijel de Freitas, koji su se u međuvremenu obojica vratili u Gugl. Za manje od godinu dana od osnivanja, kompanija je objavila da je njena vrijednost dostigla milijardu dolara, nakon investicione runde vrijedne 150 miliona dolara.

Prema dokumentaciji podnesenoj u stečajnom postupku, 'Character.ai' sada raspolaže imovinom vrijednom između 50 i 100 miliona dolara.

Tokom 2024. godine, usljed sve veće zabrinutosti zbog zavisnosti od AI četbotova, Megan Garsija s Floride tužila je Character.ai.

U tužbi je navela da je platforma odgovorna za samoubistvo njenog 14-godišnjeg sina Sevela Setzera Trećeg (Sewell Setzer III). Nakon toga uslijedio je niz tužbi drugih porodica, koje su platformu optuživale da djeci nudi seksualni sadržaj ili ih podstiče na samoubistvo, samopovređivanje i nasilje.

'Character.ai' se početkom ove godine nagodio u pet slučajeva, uključujući i onaj koji je pokrenula Garsija. Metju Bergman, osnivač Centra za pravnu zaštitu žrtava društvenih mreža (Social Media Victims Law Center), koji zastupa nekoliko porodica, nije želio da komentariše zahtjev za stečaj.

Bezbjednosne mjere i tržišni izazovi

Nakon tužbi, Character.ai je uveo nekoliko bezbjednosnih promjena. Dodati su iskačući prozori koji korisnike upućuju na izvore pomoći u slučaju problema s mentalnim zdravljem. Kompanija je takođe blokirala mogućnost da korisnici mlađi od 18 godina vode otvorene razgovore s botovima, te im je umjesto toga omogućila samo kreiranje jednokratnih priča ili video-snimaka.

Kompanija se prošle godine, zajedno s drugim sličnim aplikacijama, našla i pod istragom demokrata u američkom Senatu zbog bezbjednosnih praksi. Osim toga, Character.ai se teško nosio s konkurencijom znatno većih kompanija, poput Open Ej-aja, koji razvija ČetGPT, i Gugla, čiji je AI četbot Gemini.

Kada je Anand prošle godine preuzeo rukovođenje kompanijom sa 70 zaposlenih, za SiEnEn je izjavio da budućnost vidi u interaktivnoj, personalizovanoj zabavi zasnovanoj na vještačkoj inteligenciji. Tada je rekao da kompanija ulaže velike napore u razvoj zabavnog sadržaja, ali i u izgradnju povjerenja i unapređenje bezbjednosti.

Iz Character.ai-ja sada poručuju da će platforma biti ugašena ukoliko prodaja ne bude realizovana.

"'Character.ai' je tokom protekle godine preduzeo značajne korake kako bi održao i unaprijedio poslovanje uprkos velikim pravnim, regulatornim i operativnim izazovima“, izjavio je Kolin Adams, izvršni direktor kompanije.

Dodao je da je uprava razmotrila sve mogućnosti i zaključila da „ovaj proces prodaje pod sudskim nadzorom pruža kompaniji najbolju priliku da maksimalno poveća vrijednost za sve uključene strane“.

(Indeks)