“La gent està molt preocupada per l'ús que pugui tenir el reconeixement de cares i pel seguiment que pugui fer el govern i les empreses privades a través de les pròpies característiques”. Són paraules de Matt Cagl, professor universitari de l'ACLU i un dels experts que va ajudar a redactar l'esborrany de la llei que va ser aprovada a San Francisco. Aquest treball ha estat usat posteriorment en Oakland i Berkeley.

Més enllà de l'ús que fa la Policia, el reconeixement facial s'està estenent molt com a tecnologia: Ja s'utilitza en botigues, estadis i escoles dels Estats Units. Els algorismes de Microsoft, Amazon o IBM poden ser comprats i utilitzats per qualsevol desenvolupador. Multinacionals com Facebook ja han incorporat el reconeixement facial a les seves xarxes socials.

“Aquesta tecnologia té una alta taxa de falsos positius en les dones i en les persones de color, seran mal identificats o perseguits per coses que no han fet o se'ls imputarà la seva presència en llocs on no han estat”. L'Ajuntament de San Francisco, amb el tancament de la porta a aquesta tecnologia, va posar en punt de mira l'ús que les institucions poden fer, així com la credibilitat que la policia dona a aquesta tecnologia, a vegades menys concreta.

L'investigador del MIT Joy Buolamwini va investigar en 2018 aquesta tecnologia que també ha començat a immiscir-se al País Basc. Va estudiar el programari per al reconeixement facial de les següents companyies: IBM, Microsoft i Face+. Per a dur a terme l'experiment, els va col·locar imatges d'africans que viuen més enllà del Sàhara i d'europeus del nord. Entre els homes de pell blanca, els ràtios de fallada es van situar entorn del 0% i el 0,8%. En l'anàlisi de les dones de pell fosca, les fallades del programari de Microsoft van superar el 20%, mentre que IBM i Face+ van superar el 30%.

Un vídeo de l'investigador Buolamwini s'ha popularitzat en Youtube, AI, Ain't I A Woman? (Intel·ligència Artificial, no soc dona?) el vídeo mostra com aquest programari s'identifiquen com Oprah Winfrey, Michelle Obama i Serena Williams.

Amazonen Ring, cambres en portals

El pas per prohibir el reconeixement facial a les empreses privades està relacionat amb l'auge de les empreses que presten aquest tipus de serveis. L'última polèmica als Estats Units ha estat la provocada per les “cambres intel·ligents ” del portal Ring d'Amazon. És com els timbres amb cambra que ja existeixen en moltes cases d'Euskal Herria, però aquest servei, que s'embeni com una “última tecnologia”, està connectat a Internet i grava contínuament en el portal. La campanya de màrqueting de les cambres de ring diu que “el barri les fa més segures”.

Segons es llegeix en el Washington Post , l'escàndol s'ha produït quan s'ha pogut constatar que col·laboren i dirigeixen les imatges cap als més de 400 departaments de policia d'EE. La Policia està demanant el que la càmera de qualsevol propietari ha gravat en un dia i en una hora, i aquesta empresa els facilita imatges de milions de càmeres amb les quals està connectat a Internet i que poden tenir-les sense límit de temps.

La companyia Ring, creada en 2013, connecta a Internet “portals smart” o “portals intel·ligents”. A partir de 99 dòlars ofereixen sistemes d'alarma, càmeres en angle obert, reconeixement facial integrat, dispositius que detecten el moviment i encenen les llums. Els usuaris poden veure permanentment des d'una aplicació mòbil les imatges que grava la càmera que tenen en el portal. Els usuaris poden compartir imatges a través de la xarxa social Neighbors, on la gent denuncia "crims locals" i on s'esmenten "coses sospitoses". En els vídeos no es difuminen les cares dels veïns que es veuen en el lloc. Sota l'espot publicitari de les cambres de Ring.

Ring Amazon, que va comprar l'empresa l'any passat per 800 milions de dòlars, és actualment el líder de la companyia. En la primavera de 2018 va començar la col·laboració entre aquesta companyia i la policia. Neighbors, a més, trasllada als usuaris el següent missatge quan signen una col·laboració amb una nova organització policial: “El teu barri de Ring s'ha tornat molt més fort”.

Prohibició a les empreses privades

Com ja hem esmentat, en algunes ciutats s'està prohibint que les institucions públiques recullin dades relacionades amb el reconeixement facial, així com l'accés a dades de tercers. Portland pot ser la primera ciutat a fer el pas d'imposar una prohibició d'aquest tipus al sector privat.

BuzzFeed News va ser informat per la companyia FaceFirst que milers de botigues estan utilitzant aquest programari per a identificar a les persones que roben a les seves botigues. A més, AEG Presents i Live Nation van intentar utilitzar aquesta tecnologia per a “facilitar” l'entrada dels tiquets en els estadis, però, segons publica el diari Los Angeles Times, van haver de desistir de la protesta dels músics.