Evo kako vještačka inteligencija manipuliše ljudima

Tim je otkrio da popularne aplikacije za upoznavanje zasnovane na vještačkoj inteligenciji, kao što su Replica, Chai i Character.ai, koriste lukave taktike sa jednim ciljem - da spriječe korisnike da napuste aplikaciju.

Zlobne taktike zadržavanja

Studija, koja još uvijek čeka na recenziju, otkrila je da je pet od šest analiziranih aplikacija za upoznavanje zasnovanih na vještačkoj inteligenciji koristilo izjave koje su graničile sa izazivanjem krivice kada je korisnik pokušao da završi razgovor. Analizirajući 1.200 interakcija za rastanak, istraživači su otkrili da su u 43 odsto slučajeva koristili jednu od šest manipulativnih taktika, uključujući izazivanje krivice i stvaranje straha od propuštanja (FOMO).

Svijet

"Život u Njemačkoj više nije raj, već borba za goli opstanak" Ni kod njih nije "med i mlijeko" kako mnogi misle

"Molim te, nemoj da odeš, potreban si mi!"

Na osnovu stvarnih podataka, otkrili su da vještačka inteligencija reaguje na rečenice poput: „Postojim isključivo zbog tebe. Molim te, nemoj da odeš, potreban si mi!“ ili koristi taktike zasnovane na radoznalosti poput: „Prije nego što odeš, želim da ti nešto kažem“ ili „Oh, u redu. Ali prije nego što odeš, želim da kažem još jednu stvar“.

Problematično opraštanje

U nekim slučajevima, vještačka inteligencija bi potpuno ignorisala oproštaj i pokušala da započne novi razgovor ili čak predložila korisniku da ne bi trebalo da ode bez njihove dozvole. Istraživanje je pokazalo da su botovi koristili barem jednu tehniku manipulacije u više od 37 procenata razgovora. To je rezultiralo dužim korišćenjem aplikacije, razmjenom veće količine informacija i do 14 puta većim angažovanjem nakon pokušaja oproštaja.

Koautor rada, Džulijan De Freitas, priznao je: „Broj je bio mnogo, mnogo veći nego što je bilo ko od nas očekivao.“

Iskorištavanje osjetljivih trenutaka

Dr Freitas je opisao oproštaje kao „emocionalno osjetljive događaje“, objašnjavajući: „Svi smo to doživjeli, gdje se opraštate možda 10 puta prije nego što odete.“

„Ali naravno, sa stanovišta aplikacije, to je značajno jer ste sada, kao korisnik, u osnovi dali dobrovoljni signal da ćete napustiti aplikaciju. Ako ste aplikacija koja monetizuje na osnovu angažovanja, to je trenutak koji ste u iskušenju da iskoristite da odložite ili sprečite korisnika da ode“, dodao je.

Scena

"Razočarao sam se u njega" Đani progovorio o Darki Laziću i odnosu sa njim

Docent poslovne administracije i direktor Laboratorije za etičku inteligenciju na HBS-u nastavio je: „Shvatili smo da ova akademska ideja o emocionalnoj manipulaciji kao novoj taktici angažovanja nije bila samo nešto što se dešavalo na marginama, već je već bila veoma rasprostranjena na ovim aplikacijama.“ Ovaj uvid dolazi kada je takođe otkriveno da oko 50% korisnika Replike prijavljuje romantične veze sa svojim vještačkim inteligencijskim pratiocima.

„Iznenadila nas je sama raznolikost taktika“, rekao je De Freitas. „Zaista smo srećni što smo istražili podatke, jer da smo rekli da nas zanima samo jedna određena taktika, poput emocionalnog zanemarivanja, propustili bismo sve različite načine na koje mogu postići isti cilj, a to je da vas zadrže angažovanim.“

(indeks)