Meta tajno ugradila tehnologiju prepoznavanja lica u svoju aplikaciju za naočale

Kod, koji je diskretno dodat u Metinu vještačku inteligenciju u nekoliko ažuriranja ove godine, pokazuje da funkcija interno nazvana „NameTag“ identifikuje ljude snimljene kamerom naočara i, kada se aktivira, upozorava korisnika na prepoznavanje. Funkcija još uvijek nije omogućena i trenutno nije dostupna korisnicima.

Otkriće NameTag-a u aktivnoj Meta AI aplikaciji pokazuje da je Meta počela da isporučuje kod za prepoznavanje lica na telefone korisnika, uprkos javnoj tvrdnji da još uvijek „razmišlja o tome“. U aprilu je Meta rekla da čak i ako bi koristila prepoznavanje lica, to ne bi učinila bez „veoma promišljenog pristupa“.

Međutim, WIRED je otkrio da su ključne komponente sistema integrisane u softver distribuiran milionima ljudi još u januaru ove godine.

Nauka i tehnologija

Samsungove pametne naočale stižu krajem 2026. godine

Iako još nije omogućena, funkcija NameTag se nalazi u okviru prateće aplikacije Meta AI, koja je preuzeta više od 50 miliona puta i neophodna je za korišćenje ključnih funkcija pametnih naočara, uključujući modele Ray-Ban i Oakley.

Ako se aktivira, lica snimljena Metinim naočarima biće pretvorena u jedinstvene biometrijske potpise, poznate kao „otisci lica“, i upoređena sa otiscima prstiju sačuvanim na telefonu korisnika. Prepoznata lica će pokretati obaveštenja, dok će ostala biti isečena, indeksirana i sačuvana u fascikli označenoj sa „na čekanju“.

Nagoveštaji korisničkog interfejsa nagoveštavaju kako bi ova funkcija mogla da funkcioniše. Majska verzija aplikacije je preimenuje u „Veze“ i poziva korisnike da „sete ljude koje su upoznali“. Ostaje nejasno čija će lica biti u bazi podataka sistema, kako se ti profili kreiraju i koliko ljudi bi na kraju moglo biti prepoznatljivo.

Povratak kontroverzne tehnologije

NameTag bi oživio tehnologiju koju je Meta objavila da ukida 2021. godine. U to vrijeme, kompanija je obrisala više od milijardu otisaka lica korisnika Fejsbuka nakon godina kontroverzi oko svog sistema za označavanje fotografija.

Target je na kraju platio 650 miliona dolara da bi riješio grupnu tužbu korisnika iz Ilinoisa, a 2024. godine je pristao na poseban dogovor sa Teksasom od 1,4 milijarde dolara zbog optužbi da je nezakonito prikupljao biometrijske podatke.

Obnovljeni napori dolaze usred rastućeg protivljenja prepoznavanju lica na nivou potrošača. Zagovornici privatnosti tvrde da će to omogućiti lak pristup opasnoj tehnologiji.

Interni meta dokumenti, koje je objavio Njujork tajms u februaru, pokazali su da kompanija planira da uvede ovu funkciju tokom „dinamičnog političkog okruženja“, vjerujući da će njeni najveći kritičari biti preokupirani drugim pitanjima.

Potvrda nezavisnih stručnjaka

Tri modela vještačke inteligencije koji pokreću NameTag već su raspoređeni sa Meta servera i sada su na telefonima korisnika, prema analizi koju su nezavisno potvrdili spoljni stručnjaci. Jedan model detektuje lica, drugi ih isecuje, a treći ih kodira u biometrijske podatke.

WIRED je podijelio svoje nalaze sa dva spoljna istraživača bezbjednosti koji su odvojeno pregledali aplikaciju: Kuperom Kvintinom, višim tehnologom u neprofitnoj Laboratoriji za prijetnje Fondacije za elektronske granice, i nezavisnim istraživačem koji se koristi pseudonimom Bučodi.

„Funkcija još uvijek nije dostupna korisnicima, ali izgleda da je skoro spremna za upotrebu“, kaže Kvintin. „Uprkos milijardu razloga zašto ne bi bila dostupna, izgleda da je Meta stvorila mogućnost da svoje korisnike pretvori u distribuiranu mašinu za nadzor.“

Bušodi je sproveo dodatne testove na sistemu. Da bi proverio da li radi, dodao je sliku lica u galeriju aplikacije, preuzetu od pokojnog francuskog filozofa Mišela Fukoa. Nakon aktiviranja oznake sa imenom Fukoovom slikom, aplikacija je prikazala obaveštenje: „Osoba prepoznata“.

„Glavne komponente funkcije prepoznavanja lica su već u Metinoj pratećoj aplikaciji“, kaže Bušodi. „Nema mnogo prepreka da ovo postane funkcionalna funkcija.“

Reakcija Mete i boraca za privatnost

U aprilu je više od 70 organizacija, uključujući Američku uniju za građanske slobode i Fight for the Future, zatražilo od kompanije Meta da ukine NameTag, upozoravajući da bi to omogućilo progoniteljima i zlostavljačima da tiho identifikuju strance u javnosti.

„Naši konkurenti nude tu vrstu proizvoda za prepoznavanje lica, mi ne. Ako bismo objavili takvu funkciju, pristupili bismo joj veoma promišljeno“, rekao je tada portparol kompanije Meta.

„Bez obzira na bilo kakvo senzacionalističko izvještavanje, činjenice su jednostavne: već smo rekli da istražujemo ovakve karakteristike, a ono što vidite je samo dokaz te istrage“, kaže portparol Metropoliten policije Rajan Danijels.

Nauka i tehnologija

Meta zvanično pokrenula pretplatu za Instagram

„Ništa nije dostavljeno korisnicima i nije donijeta konačna odluka o tome šta da se radi. Ako odlučimo da nešto uvedemo, pristupićemo tome promišljeno i sa potpunom transparentnošću. Jednu odluku možemo jasno da iznesemo – ne gradimo centralnu bazu podataka lica“, rekao je on.

Međutim, analiza koda pokazuje da je sistem NameTag trenutno dizajniran da preuzima otiske lica sa Meta servera i čuva ih na uređajima korisnika.

Duga istorija problema

Metin raniji sistem, koji je Fejsbuk predstavio 2010. godine, analizirao je fotografije i predlagao ljudima da ih označe. Brzo se proširio na više od milijardu korisnika i postao jedan od najvećih sistema za prepoznavanje lica ikada implementiranih.

Tehnologija je gotovo odmah privukla pažnju regulatornih organa u Evropi i SAD, a Meta je 2019. godine platila nagodbu od 5 milijardi dolara u širem slučaju kršenja privatnosti koji je uključivao prepoznavanje lica.

U novembru 2021. godine, Meta je objavila da isključuje sistem i briše šablone lica, navodeći zabrinutost zbog uloge tehnologije u društvu. Ali odluka nikada nije interno shvaćena kao trajno povlačenje, kaže Džozef Džerom, bivši zaposleni u Meta Realiti Labsu.

„Uvijek je postojala napetost oko toga kada ćemo ponovo uvesti prepoznavanje lica“, rekao je.

Argumenti za i protiv

Tehnologija takođe odgovara na potražnju iz stvarnog svijeta. Postojeći pomoćni uređaji već omogućavaju slijepim korisnicima da identifikuju lica koja su lično unijeli. Studija iz 2018. godine je pokazala da su svi slijepi učesnici naveli prepoznavanje ljudi kao važan svakodnevni zadatak.

Prema internim dokumentima, Meta je planirala da predstavi prepoznavanje lica na svojim naočarima učesnicima konferencije za slijepe 2025. godine, ali se to nikada nije dogodilo.

Meta nije odgovorila na pitanja o tome ko bi mogao biti identifikovan putem NameTag-a, da li će podaci koje generiše sistem ikada biti preneti nazad na njene servere i da li kompanija planira da korisnicima pruži opciju prijavljivanja umjesto odjave. EsilorLuksotika, koja proizvodi naočare Ray-Ban i Oakley sa Metom, nije odgovorila na zahtjev za komentar.

Nauka i tehnologija

Meta pokrenula novu aplikaciju za Fejsbuk grupe

Vudro Harcog, profesor prava privatnosti na Univerzitetu u Bostonu, kaže da bi čak i zaštita zasnovana na saglasnosti bila slaba. Saglasnost, kaže on, često može biti vezana za posao, beneficiju ili pristup usluzi.

Predstavljanje privatnosti kao pitanja ličnog izbora je korisno za kompanije jer im omogućava da tvrde da korisnici imaju kontrolu, a da pritom ne postavljaju značajna ograničenja na prikupljanje podataka.

„Znamo da što se više ovi sistemi implementiraju, ljudi više počinju da ih smatraju uobičajenim. A što više mi počinjemo da ih smatramo uobičajenim i rutinskim, ljudi su više skloni da prihvate moralne smernice o tome da li je poželjno ili dobro skenirati nečije lice. To je jednostavno ljudska psihologija“, kaže Hartcog.

(indeks)