Escriptor i assagista. Ha cursat estudis d'Antropologia, Filosofia i Art i ha estat professor de la Universitat de Sevilla durant molt de temps. Actualment és investigador en el Consell General de Recerques Científiques (CSIC). Ha publicat diversos llibres, l'últim enguany: El bucle invisible [Bule invisible] (Edicions Nobel). Quan escriu els programes, l'eina literària no els deixa lluny i les seves novel·les donen molt a pensar. Llegir també Ulls i capital [consonni, 2015] i Els que miren [Miradors] (Forcola, 2016). Ha rebut nombrosos premis.
La cultura contemporània, la cultura digital, la transformació del treball creatiu i les polítiques d'identitat en la xarxa són alguns dels temes que vostè ha tractat en els seus llibres. Podríem dir que se centra en el present.
M'interessa la història, però com a feminista sé prou com per a no tenir nostàlgia del passat. En aquest sentit, m'interessen molt el present i la dificultat de l'època que vivim. Ens presenten amb una gran varietat d'opcions decoratives, però en elles s'amaguen algunes qüestions i inèrcies.
Se centra en Internet i en la digitalització.
Sí que m'interessa l'estructura d'Internet. Jo li dic estrat. És un estrat invisible, un estrat cada vegada més invisible format per algorismes de programació, que estructura i condiciona el món de les nostres relacions quotidianes, però nosaltres no el veiem. Gràcies a aquesta lent veiem el món, però no podem veure la pròpia lent.
Al principi no era així.
Quan comencem a pensar i utilitzar internet en els 90, podíem veure el codi, manipular-lo. S'obria i tancava com una persiana i teníem la manera d'entendre el que hi havia darrere. Però les estructures que se'ns han ofert des de la dècada de 2000 han estat diferents. Podem fer les coses de manera separada i el codi es presenta com un valor opac i hermètic, un tresor de les grans empreses. Sembla un sòl públic, així ho viuen moltes persones, però és privat i les empreses estan dotades de drets per a protegir el seu capital.
En el seu últim intent parla d'un voltor invisible.
Com deia abans, la idea de la inèrcia estava molt present. La inèrcia té un poder simbòlic, i en aquest sentit els bucles invisibles són bucles simbòlics: aprenem en el nostre context cultural i amb ells repetim i perpetuem una identitat determinada, mantenim una forma concreta de fer sense esforç. En el cas de la programació, volia analitzar com es repeteixen aquestes identitats, especialment quan parlem d'identitats conservadores, que diuen que els nens dels pobres seran pobres, i que els nens rics seran rics, i que les identitats que llegeixen dades i algorismes continuaran projectant les mateixes identitats en el futur. Sembla un joc descriptiu, perquè és una programació basada en estadístiques, però al final es converteix en un joc de progrés.
"No crees algorismes per a impressionar a ningú, però reprodueixen models existents en el món"
I a més ocorre a gran escala.La
programació d'algorismes actua a escala global, no afecta un petit grup de persones. Es llegeixen dades a escala global, es fan pronòstics i es creen condicionants, inèrcies i bucles invisibles. Tot això, a més de repetir determinades diferències entre les persones, respon als interessos del capital. Quan reflexionem sobre aquestes coses, arribem a aquest punt: l'hegemonia del poder econòmic, que ordena tota la resta.
Considera perillós que els algorismes siguin neutrals.
Gràcies al feminisme hem après el que ocorre quan es creu que l'objectivitat i la neutralitat són el mateix, i hem après que per a entendre els nostres discursos cal situar-los i contextualitzar-los, allunyant-los de les veritats absolutes. Doncs bé, aquesta comprensió que normalment suposa complexitat és la que s'elimina de les negociacions i dels intercanvis d'algorismes, perquè l'objectiu és que la màquina segueixi, produeixi i corri, perquè es tracta d'una màquina hiper productiva, competitiva i accelerada que busca generar cada vegada més beneficis. I si en el camí es produeixen danys col·laterals, per exemple, si l'algorisme exclou a la gent i això planteja problemes a aquestes persones, o si directament hi ha persones que no entren en el joc de la tecnologia, perquè no importa, perquè la prioritat mercantilista preval sobre el valor pedagògic, social o polític.
I cal no oblidar que, encara que els algorismes no són humans, són creats pels éssers humans.Quan
parlem d'algorismes, és a dir de matemàtiques i sobretot de models matemàtics, com a ciència són impactants i necessaris, i la intel·ligència artificial és i serà absolutament necessària, per la qual cosa quan parlem d'aquesta mena de discursos crítics no es tracta de rebutjar models matemàtics o intel·ligència artificial. Però, precisament per l'enorme valor que tenen aquests instruments i que tindran per a ajudar a la gent, no es pot llevar la mirada ètica, no es pot pensar que són neutrals perquè no són neutrals, i per a començar no són neutrals perquè els programadors no són neutrals.
És a dir, quan parlem de les tendències de la programació o de la intel·ligència artificial, hem de parlar necessàriament de les tendències dels éssers humans que la produeixen. Moltes empreses han mostrat la seva disposició a identificar i corregir aquestes tendències, però no sabem si realment ho han fet, perquè tot és molt hermètic i opac –juntament amb el problema de l'escala, aquest és un altre problema–. La veritat és que els algorismes i les persones que creguin el codi són molt semblants: els homes blancs, els d'un lloc determinat del món, els joves. No crec que estiguin parlant de males intencions, no creen algorismes per a impressionar a ningú, però reprodueixen models que existeixen en el món.
Un dels possibles riscos és l'homogeneïtzació.
Quan parlem de tendències en models matemàtics, Cathy O’Neil parla del risc de pèrdua de diversitat, però jo no entenia en quina mesura podia ser perjudicial. Un dia em vaig recordar amb el meu pare. Es tracta d'un pagès que en el seu moment va exercir una gran pressió per a eliminar les oliveres més velles, de molts peus, i col·locar oliveres joves d'un sol peu, per a poder introduir la màquina, reduir el nombre de treballadors i accelerar la producció. Aquesta homogeneïtzació ha permès introduir la tecnologia en diferents sectors, però crec que l'homogeneïtzació també es produeix en la socialització.
Fa temps que has estat atent a l'evolució d'internet, què destacaries dels últims 30-35 anys?Al principi,
en la dècada dels 90, Internet no era només l'escriptura de codi, sinó que s'estava treballant en altres llocs i hi havia molts fòrums de debat en l'àmbit tecnològic, acadèmic i fins i tot artístic. A mi em sembla interessant, perquè l'art en general admet més fàcilment contradiccions, ser i no ser al mateix temps. I en aquests fòrums hi havia una pressió social, crítica i teòrica per a construir un món millor, i això va ser el que em va atreure a mi: internet era una fita en la història de la humanitat, i per als qui estàvem en algunes reivindicacions que podia portar coses molt positives.
"Internet es va cedir a la gestió privada, a exclusió dels poders públics, i es va obrir el camí del context en línia que avui coneixem"
I després?A partir de
la dècada de 2000, Internet va començar a socialitzar-se a un ritme vertiginós, i en aquella època es van organitzar una sèrie de trobades emblemàtiques per a determinar com territorializar, governar i gestionar Internet en algunes organitzacions a nivell mundial. Jo crec que en aquests debats la humanitat va perdre una gran oportunitat, i jo diria que hem de tornar a conquistar aquestes oportunitats: internet es va cedir a la gestió privada, al marge dels poders públics, i es va obrir el camí del context en línia que avui coneixem, aquest lloc normalitzat que vivim disfressat d'espai públic, però que segueix les normes, principis i ètica de l'empresa en qüestió. Els gurus d'aquestes empreses, a més de tenir un control sobre el que fem, també controlen el que podem fer, i sembla que també tenen a les seves mans dinàmiques que influeixen en les pròpies democràcies. Hi ha una qüestió molt important en joc.
Antes d'acabar, voldria preguntar-li pel llibre que va publicar fa uns anys: Entusiasme. Precarietat i treball creatiu en la forma digital. Precarietat i creativitat en l'era digital] (Anagrama, 2017). En el meu entorn hi ha un munt de creadors culturals que en llegir aquest llibre els va impactar moltíssim, com si cridés a una de les seves inquietuds. A vostè també li ha escrit un munt de gent perquè se sentia molt identificada. Com va viure aquest acolliment?
Crec que en certa manera es va reafirmar el que proposo en alguns llibres o conferències. En la cultura contemporània, en la cultura digital, es preval el valor de la quantitat, basat en matemàtiques, estadística, sociologia i determinades ciències, ja que aquestes disciplines treballen amb grans números. Sembla que per a parlar de l'època hem de parlar de grans números i d'estadística. Jo, no obstant això, sempre he tingut una altra perspectiva, potser perquè vaig estudiar antropologia i m'interessen la literatura i la filosofia. L'estadística i la sociologia són, per descomptat, fonamentals, però aquesta jerarquia que s'està desenvolupant en el món i en l'acadèmia està fent que poc s'estigui valorant la visió científica i crítica de la mirada etnogràfica i antropològica. L'entusiasme i posteriorment Fràgils [Fràgils] mostren com podem arribar des de l'aspecte biogràfic al cultural. Normalment ens fan enquestes i entrevistes per a analitzar el cultural i ens classifiquen, mentre que si la gent pot expressar lliurement les seves inquietuds en un relat, o fins i tot en la intimitat col·loquial, aquí hi ha una oportunitat per a entendre i crear empatia, i la gent m'ho diu: a mi també.
"La veritat és que els algorismes i les persones que creguin codi són molt semblants: els homes blancs, els d'un lloc determinat del món, els joves"
Aquest va ser l'origen de l'entusiasme? Que a vostè i als seus els passava el mateix?
Els meus companys, els meus alumnes, veia que tots nosaltres teníem una doble vida. Tots estàvem en el món de la creativitat, i des de fora ens deien tot el temps que érem privilegiats perquè treballàvem en el que volíem. A nosaltres, no obstant això, no ens semblava així, no teníem temps de materialitzar els llibres o projectes dels nostres somnis. El personal dedicat a la creació o els investigadors de l'acadèmia, especialment en els últims temps, encadenen treballs temporals un darrere l'altre per a poder viure. Abans d'escriure el llibre, pensava que potser anava a ser la sensació d'uns pocs, però, després de la publicació del llibre, va sorgir un munt de gent d'aquest ostracisme, com també ha ocorregut amb el feminisme.
I en aquest moment em va semblar que podia ser un punt de partida per a crear una col·lectivitat política, una col·lectivitat sindical o una col·lectivitat política transformadora; em sembla que potser podíem aprofitar aquesta inquietud de la consciència. En definitiva, els que estem en aquestes qüestions tenim una gran motivació per la cultura, per la creativitat o per l'escriptura, i quan actuem bé sabem que podem oferir coses valuoses a la societat. Però estem limitats, neutralitzats, unes vegades per burocràcia i altres per deformació. Jo crec que en aquest bloqueig hi ha un interruptor polític, ha d'estar.
Té problemes visuals i auditius. Com t'afecten?
Jo he tingut molta sort i, malgrat tenir molt poca visió, he tingut l'oportunitat d'aprendre i treballar sense minvar la meva vida. Veig molt poc des de l'ull dret i tinc molt poca visió central en l'ull esquerre. He tingut una bona audició, però en els últims quatre anys he perdut aproximadament el 50% de l'audició, la qual cosa m'ha obligat a canviar també el treball. En la universitat, encara que em veien poc, podia fer classes sense problemes, però amb els audiòfons, encara que fossin capaços de parlar i de comprendre, a vegades no entenia algunes paraules quan em parlaven. Per tant, vaig haver de replantejar la meva vida.
En qualsevol cas, crec que en el meu cas m'ha ajudat a reflexionar més. La lent visual i auditiva són pals que utilitzo en el meu dia a dia i, per això, projecte les meves preguntes al món. Quan penso en els algorismes, penso en els audiòfons. En el món que sento sense audiòfon no hi ha ocells, i els meus passos no tenen so, quantes lents d'aquest tipus no hi ha en el món que apaguen unes coses i encenen unes altres?
Sabem que la intel·ligència artificial està representant molts camps en l'ésser humà: confort, velocitat, eficiència... Ens han fet creure que l'esforç humà és un obstacle en les necessitats de velocitat d'aquest món capitalista. Les agressions per a reduir les nostres... [+]
El 15 de novembre celebrarem a Errenteria-Orereta les tres jornades organitzades pels diferents agents que conformem Euskal Herria Digitala. Es tracta d'un taller d'autodefensa digital feminista i una xerrada sobre la digitalització democràtica.
Els membres de DonesTech... [+]