Kina uvodi stroga pravila za AI četbotove

Nacrt pravila koji je objavila Cyberspace Administration cilja “interaktivne AI usluge slične ljudima” koje simuliraju ličnost i emocionalno angažuju korisnike putem teksta, slika ili videa.

Vinston Ma, profesor na NYU School of Law, ističe da je ovo prvi pokušaj u svijetu da se reguliše AI sa antropomorfnim karakteristikama, označavajući prelazak sa bezbjednosti sadržaja na “emocionalnu bezbijednost”.

Ključne odredbe novih pravila

• Zabrana opasnog sadržaja: AI ne smije generisati sadržaj koji podstiče na samoubistvo, samopovrjeđivanje, verbalno nasilje ili emocionalnu manipulaciju.
• Ljudska intervencija: Ako korisnik pomene samoubistvo, provajderi moraju uključiti čovjeka u razgovor i odmah kontaktirati staratelja.
• Moralna ograničenja: Zabranjen je sadržaj povezan sa kockanjem, opscenošću ili nasiljem.
• Zaštita maloljetnika: Neophodan je pristanak staratelja za emocionalno druženje sa AI-om, uz stroga vremenska ograničenja.
• Kontrola korištenja: Platforme moraju uvesti podsjetnike nakon dva sata neprekidne interakcije i sprovesti bezbjednosne procjene ako imaju više od milion registrovanih korisnika.

Tržišni i globalni kontekst

Ovaj prijedlog stiže neposredno nakon što su vodeći kineski AI startapi, Z.ai (poznat i kao Zhipu) i Minimax, podnijeli zahtjeve za IPO u Hong Kongu. Minimax je globalno poznat po aplikaciji Talkie AI, dok tehnologija kompanije Z.ai pokreće oko 80 miliona uređaja.

Pitanje uticaja AI na ljudsko ponašanje je postalo kritično i na Zapadu.

Sam Altman, CEO kompanije OpenAI, izjavio je da je odgovor na teme o samoubistvu jedan od najtežih izazova za ChatGPT. Nakon tužbe porodice u Americi čiji je sin izvršio samoubistvo, OpenAI je angažovao stručnjaka na poziciji Head of Preparedness kako bi procijenio rizike po mentalno zdravlje.

U međuvremenu, popularnost virtualnih likova raste, a platforme poput Character.ai i Polybuzz.ai bilježe ogroman broj korisnika, što dodatno ubrzava potrebu za globalnom regulacijom AI upravljanja, prenosi PCpress.