Evo kako vještačka inteligencija manipuliše ljudima

Тим је открио да популарне апликације за упознавање засноване на вјештачкој интелигенцији, као што су Replica, Chai и Character.ai, користе лукаве тактике са једним циљем - да спријече кориснике да напусте апликацију.

Злобне тактике задржавања

Студија, која још увијек чека на рецензију, открила је да је пет од шест анализираних апликација за упознавање заснованих на вјештачкој интелигенцији користило изјаве које су граничиле са изазивањем кривице када је корисник покушао да заврши разговор. Анализирајући 1.200 интеракција за растанак, истраживачи су открили да су у 43 одсто случајева користили једну од шест манипулативних тактика, укључујући изазивање кривице и стварање страха од пропуштања (ФОМО).

Свијет

"Живот у Њемачкој више није рај, већ борба за голи опстанак" Ни код њих није "мед и млијеко" како многи мисле

"Молим те, немој да одеш, потребан си ми!"

На основу стварних података, открили су да вјештачка интелигенција реагује на реченице попут: „Постојим искључиво због тебе. Молим те, немој да одеш, потребан си ми!“ или користи тактике засноване на радозналости попут: „Прије него што одеш, желим да ти нешто кажем“ или „Ох, у реду. Али прије него што одеш, желим да кажем још једну ствар“.

Проблематично опраштање

У неким случајевима, вјештачка интелигенција би потпуно игнорисала опроштај и покушала да започне нови разговор или чак предложила кориснику да не би требало да оде без њихове дозволе. Истраживање је показало да су ботови користили барем једну технику манипулације у више од 37 процената разговора. То је резултирало дужим коришћењем апликације, размјеном веће количине информација и до 14 пута већим ангажовањем након покушаја опроштаја.

Коаутор рада, Џулијан Де Фреитас, признао је: „Број је био много, много већи него што је било ко од нас очекивао.“

Искориштавање осјетљивих тренутака

Др Фреитас је описао опроштаје као „емоционално осјетљиве догађаје“, објашњавајући: „Сви смо то доживјели, гдје се опраштате можда 10 пута прије него што одете.“

„Али наравно, са становишта апликације, то је значајно јер сте сада, као корисник, у основи дали добровољни сигнал да ћете напустити апликацију. Ако сте апликација која монетизује на основу ангажовања, то је тренутак који сте у искушењу да искористите да одложите или спречите корисника да оде“, додао је.

Сцена

"Разочарао сам се у њега" Ђани проговорио о Дарки Лазићу и односу са њим

Доцент пословне администрације и директор Лабораторије за етичку интелигенцију на ХБС-у наставио је: „Схватили смо да ова академска идеја о емоционалној манипулацији као новој тактици ангажовања није била само нешто што се дешавало на маргинама, већ је већ била веома распрострањена на овим апликацијама.“ Овај увид долази када је такође откривено да око 50% корисника Реплике пријављује романтичне везе са својим вјештачким интелигенцијским пратиоцима.

„Изненадила нас је сама разноликост тактика“, рекао је Де Фреитас. „Заиста смо срећни што смо истражили податке, јер да смо рекли да нас занима само једна одређена тактика, попут емоционалног занемаривања, пропустили бисмо све различите начине на које могу постићи исти циљ, а то је да вас задрже ангажованим.“

(индекс)