Diu que el debat sobre l'ús de les tecnologies està construït sobre les emocions. De la fascinació o de la por. Hem de repartir ciència i ciència-ficció?

La gent té idees sobre el que fa la tecnologia, i això ha molt poc de veure amb el que realment fa la tecnologia. I s'entén que els mitjans de comunicació estan contínuament donant una imatge distorsionada i disfuncional de la tecnologia, ateses les oficines de premsa. Estem en una època tecnològicament avorrida, però mai ho sabries si llegeixes la premsa que anuncia les revolucions 4.0 o 5.0.

La gent pensa que el treball li ho robarà demà un robot. I la veritat és que en el dia a dia, els qui treballem amb algorismes, tecnologies avançades o sistemes de processament del llenguatge natural, veiem tecnologies molt bàsiques. La ciència que veiem avui dia no té res a veure amb la ciència-ficció que parlen els mitjans de comunicació. La gent té por a les tecnologies que no existeixen, i això evita un debat públic digne que ens permeti triar quin tipus de tecnologia volem.

I quines són les conseqüències de la falta de debat públic?

El debat públic informat és la base de totes les democràcies. Tenim dret a decidir sobre les coses que afecten les nostres vides i els algorismes influeixen en les nostres vides. El risc de les dones maltractades en l'Estat espanyol està determinat per un algorisme que determina si tenim dret a prestacions estatals, a una hipoteca o no, a accedir a un habitatge públic o no. Aquestes tecnologies ens envolten i estan prenent decisions importants.

Hauríem de tenir dret a opinar, però per a opinar hem de saber què és el que està passant. I distingir la ciència de la ciència-ficció. Saber quines dades estan prenent, per a què, quines possibilitats tenim d'influir sobre ells, si hi ha altres alternatives. Tot això no es posa damunt de la taula perquè la nostra manera de relacionar-nos amb la tecnologia la fem des d'aquest costat emocional: o ens fascina i inventem contes, o ens fan una por terrible i ens neguem a entrar en el primitivismo.

Quan parlem de tecnologies, normalment pensem en màquines i robots. Però vostè parla d'algorismes i de fórmules matemàtiques. Com podem fer la ciutadania una auditoria sobre temes tan complexos?

Que hi hagi un debat públic no significa que tots hàgim de ser experts, que tots hàgim d'estudiar matemàtiques. La qüestió dels aliments i els medicaments és la mateixa. Quan vaig de compres no tinc cap dubte que totes les coses que estan en aquest supermercat han passat per controls estrictes de seguretat i, per tant, són comestibles. Quan vaig a la farmàcia, no soc químic, no sé què porta l'aspirina o l'ibuprofeno, i encara que ho llegeixi no ho entendré, però confio en les mesures preses pel farmacèutic o el metge i en què no serà perjudicial per a la meva salut.

Aquests Processos de Control es donen en tots els àmbits de la nostra vida excepte en temes tecnològics. No sabem si compleixen la llei o si poden causar més dolor. I no em sembla just deixar en la ciutadania la responsabilitat d'entendre aquests processos. Ningú em demanarà que em compri una aspirina per a doctorar-me en química. Per això crec que no és just demanar a la ciutadania que sàpiga informàtica per a utilitzar una aplicació. El que s'està fallant són els processos de control d'aquests mecanismes, que són fàcils d'auditar/supervisar, la recerca d'aquests processos matemàtics que estan darrere dels algorismes és relativament senzilla, es pot fer. Falta la transparència d'aquests processos perquè tothom tingui dret a entrar en ells, a interrogar a aquestes tecnologies i a aportar perquè aquesta tecnologia sigui millor.

Dices que aquesta opacitat engendra un Gran Germà, però mesquí, malvat i insignificant.

El Gran Germà, a més de mesquí i dolent, és un banal. Perquè no hi ha un poder dictatorial que vulgui veure a tot el poble. L'objectiu de Silicon Valley és la venda, i tot el que inventa per a poder vendre. En el cas que sigui necessària l'addicció a la venda, serà el psicòleg qui contracti la realització d'un estudi sobre la influència dels colorines que s'utilitzin en l'aplicació. Hem creat una estructura panòptica però el seu objectiu no és el control social, la manipulació de la ciutadania, tenim un Gran Germà l'únic objectiu del qual és vendre estupideses. Per això és banal: hem sacrificat els nostres drets i garanties importants perquè ens embenen millor les coses.

Però també és perillós.

Per descomptat, aquesta infraestructura pot tenir un gran impacte social en les males mans. Estem parlant de la manipulació potencial de les eleccions –encara que no està demostrat, és cert que a vegades ho atribuïm tot a la tecnologia–. Però amb un sistema com aquest, augmenten les possibilitats d'actuar amb finalitats il·legals o il·legals. Tenim la responsabilitat de cuidar les infraestructures que creguem i de crear noves infraestructures que no siguin perilloses.

Sovint els governs d'esquerres creen estructures panòptiques “per a espiar amb les nostres necessitats de millora”. Hem de buscar que les infraestructures que creguem no permetin l'abús, perquè ara governa un, però demà qui sap? Per tant, construïm infraestructures responsables, que no ens penedeixin.

Edward Snowden diu que “perquè no tens res a amagar és no defensar el dret a la privacitat, perquè no tens res a dir és com no defensar la llibertat d'expressió”. El dret a la privacitat és la base de tots els altres drets?

Molts pensadors relacionen la privacitat amb la llibertat. Jo no preveig desenvolupar la meva autonomia personal sense ser una persona diferent en diferents àmbits. No som les mateixes persones quan estem en diferents contextos de treball o en família. Aquesta possibilitat de gestionar i negociar la nostra identitat és una part fonamental que ens fa humans i ens fa lliures. La digitalització consolida la nostra identitat. Per a l'algorisme ets aquesta persona, amb aquest nivell de compra, amb aquests amics... La nostra identitat fixa està en contra de la llibertat que ens fa humans. Al final, la privacitat articula la resta dels drets en relació amb el dret a ser lliure i a sentir-se lliure.

Diu que no hi ha aspectes amb programa de control de tecnologies. En aquest cas, per tant, les tecnologies queden sotmeses als poderosos. Quines mesures es podrien proposar?

Es poden fer moltes coses des d'avui. Per exemple, els registres nacionals d'algorismes. Declarar el seu ús cada vegada que s'utilitzin algorismes amb impacte social perquè les entitats públiques puguin conèixer-los. Eines de transparència molt bàsiques, com les que utilitzen les institucions en altres àmbits. Mesures de protecció ciutadana i sobretot de col·lectius vulnerables; al cap i a la fi, els algorismes són màquines per a convertir la normalitat en un privilegi. La normalitat en Internet sempre és un home blanc de mitjana edat. La resta estan exclosos per aquests sistemes. Com protegim aquests col·lectius?

Hi ha moltes lleis i processos per a protegir els col·lectius no hegemònics, però una vegada més no els portem a les tecnologies. Aquests valors que protegim offline, també podem protegir-los en línia. Resulta sorprenent que cap partit, ni de dretes ni d'esquerra, hagi abordat el tema des de les polítiques públiques.

El succeït amb l'aplicació COVID-Radar ha estat curiós, ja que Apple i Google s'han posat d'acord per a desenvolupar un sistema descentralitzat.

La clau del model descentralitzat, distribuït i fissurat de l'aplicació per a explorar les interaccions entre les persones no era només la dificultat de la criptografia avançada, que permet explorar les interaccions anònimes, sinó l'accés continu a Bluetooth. Les aplicacions de qualsevol telèfon funcionen per la superfície, no es pot accedir al sistema operatiu.El
model descentralitzat suís va aconseguir convèncer a Apple que les aplicacions estatals que complien amb el model descentralitzat permetessin accedir al sistema operatiu, és a dir, que Bluetooth funcionés sense encendre'l i sense baixar el nivell de bateria.

Apple porta anys volent associar la seva marca a la defensa de la privacitat, i ha guanyat diverses batalles en els tribunals de justícia. És cert que la informació que pot obtenir a través de l'aplicació de cerca de contactes l'obté Apple per altres mitjans, per la qual cosa no ha renunciat a res en particular. Però el més interessant és que Google i Apple també es van unir per a permetre l'accés al sistema operatiu a les aplicacions nacionals del Ministeri de Sanitat. Per això no funciona amb altres sistemes operatius.

El més interessant d'aquest debat és que l'únic Estat que reivindica la necessitat de seguir en un model centralitzat és el de França. França, en nom de la seva sobirania nacional i tecnològica, es va queixar de la imposició d'Apple. Un poble amb la millor legislació en matèria de protecció de dades reclamava a un gegant tecnològic el dret a vigilar als seus súbdits. Per això és interessant un debat integral sobre les tecnologies, perquè no sols hi ha actors bons i dolents. En aquest cas, Apple s'ha posicionat a favor dels drets dels ciutadans i França volia que es convertís en una eina per a vulnerar drets fonamentals. Això no vol dir que sempre protegeixin el mateix, però hi ha finestres petites en sectors públics i privats, per a orientar millors pràctiques.

la Xina és un dels països que utilitza massivament aquestes tecnologies per a evitar aquesta visió consumista de la qual vostè parlava. En concret, el control social seria favorable a una visió col·lectivista.

Jo no soc expert a la Xina, però hi ha punts de vista que són molt interessants. En primer lloc, la inversió pública en tecnologies a la Xina és enorme. Porten dècades multiplicant les inversions públiques en comparació amb la resta del món. S'està notant i es notarà encara més. Hi haurà canvi en qui produeix la tecnologia i qui la consumeix. la Xina ja s'ha allunyat de ser una ciutat dedicada exclusivament a la producció de microxip barat dissenyat en Silicon Valley. D'altra banda, les traves de les empreses xineses per a treballar als Estats Units per part de Trump no han fet més que augmentar la seva resiliència. El primer sistema estava integrat, les empreses xineses tenien necessitats de programari o maquinari externes. Però, després que Trump tanqués les portes dels Estats Units, s'ha creat una oferta i una demanda independents. Per tant, ara la Xina és més fort que abans de les sancions que se li van posar.

I la tercera qüestió. Des de l'oest ens agrada pensar que la Xina és un estat panòptic, amb el control social total de la població. Però molts dels abusos que allí denunciem es fan des de fa temps, per exemple, als Estats Units, i ells els denuncien! A la Xina s'ha implantat un sistema de punts digitals per a saber si es tracta d'un ciutadà bo o no. Als Estats Units tenen el sistema Credit Scoring, que a més és privat, que analitza els teus crèdits del passat, per exemple, si vas cobrar i vas pagar bé. I sense un bon Credit Scoring no pots accedir a molts serveis. Són sistemes molt igualitaris. Alguns punts que vostè no pot controlar estan relacionats amb el seu passat i condicionaran el seu futur. Denunciar això des dels Estats Units és sorprenent, ja que malgrat canviar de nom el procés és molt semblant.

Dius que les estratègies tecnològiques que s'han fet aquí pretenen copiar Silicon Valley en el model start up buscant pelotazo, sense pensar en el desenvolupament del territori. En la pandèmia s'ha vist encara més.

Tots els moments de desenvolupament de la història d'Occident s'han produït quan s'ha invertit diners públics. Europa i els Estats Units estan reduint les seves inversions públiques des dels anys 60 i la Xina l'està posant tot en el terreny tecnològic des dels anys 60. Això es notarà: l'enorme esforç dels joves xinesos per formar-se en l'STEM, enviant-los a les millors universitats, etc. Europa i els Estats Units, per contra, estan augmentant les taxes universitàries, dificultant l'accés general i equitatiu a l'educació. Les polítiques públiques són totalment diferents, i la història ens ha demostrat que la capacitat d'avanç és la de les inversions públiques, les empreses privades mai arribaran a aquests nivells.