Кина уводи строга правила за АИ четботове

Нацрт правила који је објавила Cyberspace Administration циља “интерактивне АИ услуге сличне људима” које симулирају личност и емоционално ангажују кориснике путем текста, слика или видеа.

Винстон Ма, професор на NYU School оf Law, истиче да је ово први покушај у свијету да се регулише АИ са антропоморфним карактеристикама, означавајући прелазак са безбједности садржаја на “емоционалну безбиједност”.

Кључне одредбе нових правила

• Забрана опасног садржаја: АИ не смије генерисати садржај који подстиче на самоубиство, самоповрјеђивање, вербално насиље или емоционалну манипулацију.
• Људска интервенција: Ако корисник помене самоубиство, провајдери морају укључити човјека у разговор и одмах контактирати старатеља.
• Морална ограничења: Забрањен је садржај повезан са коцкањем, опсценошћу или насиљем.
• Заштита малољетника: Неопходан је пристанак старатеља за емоционално дружење са АИ-ом, уз строга временска ограничења.
• Контрола кориштења: Платформе морају увести подсјетнике након два сата непрекидне интеракције и спровести безбједносне процјене ако имају више од милион регистрованих корисника.

Тржишни и глобални контекст

Овај приједлог стиже непосредно након што су водећи кинески АИ стартапи, З.аи (познат и као Зхипу) и Minimax, поднијели захтјеве за ИПО у Хонг Конгу. Minimax је глобално познат по апликацији Талкие АИ, док технологија компаније З.аи покреће око 80 милиона уређаја.

Питање утицаја АИ на људско понашање је постало критично и на Западу.

Сам Алтман, ЦЕО компаније ОпенАИ, изјавио је да је одговор на теме о самоубиству један од најтежих изазова за ChatGPT. Након тужбе породице у Америци чији је син извршио самоубиство, ОпенАИ је ангажовао стручњака на позицији Head of Preparedness како би процијенио ризике по ментално здравље.

У међувремену, популарност виртуалних ликова расте, а платформе попут Character.ai и Polybuzz.ai биљеже огроман број корисника, што додатно убрзава потребу за глобалном регулацијом АИ управљања, преноси PCpress.