TikTok i Meta su namjerno širili štetan sadržaj

Nakon što su interna istraživanja pokazala da bijes podstiče angažman, kompanije su donosile odluke koje su omogućavale prikazivanje više štetnog sadržaja, rekli su zviždači. Više od deset bivših i sadašnjih zaposlenika razotkrilo je kako su se, u borbi za pažnju korisnika, preuzimali rizici u područjima koja uključuju nasilje, seksualne ucjene i terorizam, piše Bi-Bi-Si (BBC).

Utrka za sustizanjem TikToka

Jedan inženjer u Meti (Meta), vlasniku Fejsbuka (Facebook) i Instagrama (Instagram), opisao je kako mu je više rukovodstvo naložilo da dozvoli više „granično“ štetnog sadržaja, poput mizoginije i teorija zavjere, kako bi se mogli takmičiti sa TikTokom. „Nekako su nam dali do znanja da je to zbog pada cijene dionice“, rekao je inženjer.

Utrka algoritama intenzivirala se 2020. godine, kada je kao odgovor na globalni uspjeh TikToka pokrenut Instagram Rils (Instagram Reels). Met Motil (Matt Motyl), viši istraživač u Meti od 2019. do 2023. godine, rekao je da je Rils pokrenut bez adekvatnih zaštitnih mehanizama. Interno istraživanje koje je podijelio sa Bi-Bi-Sijem (BBC) pokazalo je da su komentari na Rilsu imali znatno veću učestalost zlostavljanja, govora mržnje te nasilja ili podsticanja na nasilje nego na ostatku Instagrama.

Prema drugom bivšem zaposleniku, kompanija je uložila u 700 zaposlenih za rast Rilsa, dok je sigurnosnim timovima istovremeno odbijeno zapošljavanje dvoje stručnjaka za zaštitu djece i deset za integritet izbora. Brendon Silverman (Brandon Silverman), čiji je alat Kraudtengl (CrowdTangle) Fejsbuk kupio 2016. godine, opisao je izvršnog direktora Marka Zakerberga (Mark Zuckerberg) kao „vrlo paranoičnog“ zbog konkurencije. „Kad osjeti da postoje potencijalne konkurentske snage, nijedan iznos novca nije prevelik“, ustvrdio je Silverman.

Bivši inženjer u Meti, nazvan Tim, potvrdio je da je, dok se kompanija borila sa TikTokom, dozvoljeno više granično štetnog sadržaja. „Gubite od TikToka i cijena dionice vam pada. Ljudi su postali paranoični i reaktivni pa su rekli: ‘Učinimo sve što možemo da ih sustignemo’“, ispričao je.

Prioritet su političari, a ne djeca

Zaposlenik TikToka, pod pseudonimom Nik (Nick), omogućio je Bi-Bi-Siju (BBC) rijedak uvid u interne sisteme za praćenje korisničkih pritužbi. Pokazao je dokaze da je TikTok trivijalnim slučajevima koji uključuju političare davao veći prioritet od niza prijava o štetnim objavama povezanim sa djecom. „Ako se svakodnevno osjećate krivim zbog onoga što vam naređuju, u jednom trenutku odlučite da nešto morate reći“, objasnio je Nik.

U jednom primjeru, pritužba političara kojeg su ismijavali upoređujući ga sa piletom dobila je prioritet pred prijavom sedamnaestogodišnjakinje iz Francuske koja je bila žrtva internetskog zlostavljanja, te šesnaestogodišnjakinje iz Iraka koja se žalila da se na aplikaciji dijele njene navodne seksualizovane slike. Komentarišući slučaj iz Iraka, Nik je rekao: „Ako pogledate zemlju iz koje dolazi prijava, rizik je vrlo visok jer se radi o maloljetnici i seksualnoj ucjeni, a prioritet je nizak. Hitnost nije visoka.“