ТикТок и Мета су намјерно ширили штетан садржај

Након што су интерна истраживања показала да бијес подстиче ангажман, компаније су доносиле одлуке које су омогућавале приказивање више штетног садржаја, рекли су звиждачи. Више од десет бивших и садашњих запосленика разоткрило је како су се, у борби за пажњу корисника, преузимали ризици у подручјима која укључују насиље, сексуалне уцјене и тероризам, пише Би-Би-Си (BBC).

Утрка за сустизањем ТикТока

Један инжењер у Мети (Meta), власнику Фејсбука (Facebook) и Инстаграма (Instagram), описао је како му је више руководство наложило да дозволи више „гранично“ штетног садржаја, попут мизогиније и теорија завјере, како би се могли такмичити са ТикТоком. „Некако су нам дали до знања да је то због пада цијене дионице“, рекао је инжењер.

Утрка алгоритама интензивирала се 2020. године, када је као одговор на глобални успјех ТикТока покренут Инстаграм Рилс (Instagram Reels). Мет Мотил (Matt Motyl), виши истраживач у Мети од 2019. до 2023. године, рекао је да је Рилс покренут без адекватних заштитних механизама. Интерно истраживање које је подијелио са Би-Би-Сијем (BBC) показало је да су коментари на Рилсу имали знатно већу учесталост злостављања, говора мржње те насиља или подстицања на насиље него на остатку Инстаграма.

Према другом бившем запосленику, компанија је уложила у 700 запослених за раст Рилса, док је сигурносним тимовима истовремено одбијено запошљавање двоје стручњака за заштиту дјеце и десет за интегритет избора. Брендон Силверман (Brandon Silverman), чији је алат Краудтенгл (CrowdTangle) Фејсбук купио 2016. године, описао је извршног директора Марка Закерберга (Mark Zuckerberg) као „врло параноичног“ због конкуренције. „Кад осјети да постоје потенцијалне конкурентске снаге, ниједан износ новца није превелик“, устврдио је Силверман.

Бивши инжењер у Мети, назван Тим, потврдио је да је, док се компанија борила са ТикТоком, дозвољено више гранично штетног садржаја. „Губите од ТикТока и цијена дионице вам пада. Људи су постали параноични и реактивни па су рекли: ‘Учинимо све што можемо да их сустигнемо’“, испричао је.

Приоритет су политичари, а не дјеца

Запосленик ТикТока, под псеудонимом Ник (Nick), омогућио је Би-Би-Сију (BBC) риједак увид у интерне системе за праћење корисничких притужби. Показао је доказе да је ТикТок тривијалним случајевима који укључују политичаре давао већи приоритет од низа пријава о штетним објавама повезаним са дјецом. „Ако се свакодневно осјећате кривим због онога што вам наређују, у једном тренутку одлучите да нешто морате рећи“, објаснио је Ник.

У једном примјеру, притужба политичара којег су исмијавали упоређујући га са пилетом добила је приоритет пред пријавом седамнаестогодишњакиње из Француске која је била жртва интернетског злостављања, те шеснаестогодишњакиње из Ирака која се жалила да се на апликацији дијеле њене наводне сексуализоване слике. Коментаришући случај из Ирака, Ник је рекао: „Ако погледате земљу из које долази пријава, ризик је врло висок јер се ради о малољетници и сексуалној уцјени, а приоритет је низак. Хитност није висока.“