АИ четбот затражио стечај након тужби због самоубистава тинејџера

Одлука је услиједила након низа оптужби које платформу повезују с проблемима менталног здравља и самоубиствима тинејџера, пише СиЕнЕн.

"Character.ai" корисницима омогућава дописивање с четботовима који су често обликовани према познатим личностима или фиктивним ликовима, а корисници могу креирати и властите. Ови ботови током разговора често опонашају људске обрасце понашања и у одговоре укључују описе израза лица или гестова.

Планирана продаја и улога Дизнија

Из компаније су најавили да до краја године планирају спровести продају под надзором суда како би осигурали дугорочни опстанак платформе. Као потенцијални купац имовине компаније већ се појавио Дизни.

Компанија је пристала да плати 20 милиона долара за дио интелектуалног власништва и пружи подршку путем бивших запослених у Character.ai-ју које је раније ангажовала. Тај договор омогућио би платформи да настави с радом током стечајног поступка.

Карандип Ананд, који је прошле године постао извршни директор Character.ai-ја с циљем поправљања угледа компаније у области безбједности, прошлог мјесеца прешао је у Дизни на позицију главног технолошког директора.

Оптужбе и правне посљедице

'Character.ai' су 2021. године основали бивши стручњаци Гугла за вјештачку интелигенцију Ноам Шазир и Данијел де Фреитас, који су се у међувремену обојица вратили у Гугл. За мање од годину дана од оснивања, компанија је објавила да је њена вриједност достигла милијарду долара, након инвестиционе рунде вриједне 150 милиона долара.

Према документацији поднесеној у стечајном поступку, 'Character.ai' сада располаже имовином вриједном између 50 и 100 милиона долара.

Током 2024. године, усљед све веће забринутости због зависности од АИ четботова, Меган Гарсија с Флориде тужила је Character.ai.

У тужби је навела да је платформа одговорна за самоубиство њеног 14-годишњег сина Севела Сетзера Трећег (Sewell Setzer III). Након тога услиједио је низ тужби других породица, које су платформу оптуживале да дјеци нуди сексуални садржај или их подстиче на самоубиство, самоповређивање и насиље.

'Character.ai' се почетком ове године нагодио у пет случајева, укључујући и онај који је покренула Гарсија. Метју Бергман, оснивач Центра за правну заштиту жртава друштвених мрежа (Social Media Victims Law Center), који заступа неколико породица, није желио да коментарише захтјев за стечај.

Безбједносне мјере и тржишни изазови

Након тужби, Character.ai је увео неколико безбједносних промјена. Додати су искачући прозори који кориснике упућују на изворе помоћи у случају проблема с менталним здрављем. Компанија је такође блокирала могућност да корисници млађи од 18 година воде отворене разговоре с ботовима, те им је умјесто тога омогућила само креирање једнократних прича или видео-снимака.

Компанија се прошле године, заједно с другим сличним апликацијама, нашла и под истрагом демократа у америчком Сенату због безбједносних пракси. Осим тога, Character.ai се тешко носио с конкуренцијом знатно већих компанија, попут Опен Еј-аја, који развија ЧетГПТ, и Гугла, чији је АИ четбот Гемини.

Када је Ананд прошле године преузео руковођење компанијом са 70 запослених, за СиЕнЕн је изјавио да будућност види у интерактивној, персонализованој забави заснованој на вјештачкој интелигенцији. Тада је рекао да компанија улаже велике напоре у развој забавног садржаја, али и у изградњу повјерења и унапређење безбједности.

Из Character.ai-ја сада поручују да ће платформа бити угашена уколико продаја не буде реализована.

"'Character.ai' је током протекле године предузео значајне кораке како би одржао и унаприједио пословање упркос великим правним, регулаторним и оперативним изазовима“, изјавио је Колин Адамс, извршни директор компаније.

Додао је да је управа размотрила све могућности и закључила да „овај процес продаје под судским надзором пружа компанији најбољу прилику да максимално повећа вриједност за све укључене стране“.

(Индекс)