Escritor e ensaísta. Cursou estudos de Antropoloxía, Filosofía e Arte e foi profesor da Universidade de Sevilla durante moito tempo. Actualmente é investigador no Consello Xeral de Investigacións Científicas (CSIC). Publicou varios libros, o último este ano: O bucle invisible [Bule invisible] (Edicións Nobel). Cando escribe os programas, a ferramenta literaria non lles deixa lonxe e as súas novelas dan moito que pensar. Ler tamén Ollos e capital [consonni, 2015] e Os que miran [Miradoiros] (Forcola, 2016). Recibiu numerosos premios.
A cultura contemporánea, a cultura dixital, a transformación do traballo creativo e as políticas de identidade na rede son algúns dos temas que vostede tratou nos seus libros. Poderiamos dicir que se centra no presente.
Interésame a historia, pero como feminista sei o suficiente como para non ter nostalxia do pasado. Neste sentido, interésanme moito o presente e a dificultade da época que vivimos. Preséntannos cunha gran variedade de opcións decorativas, pero nelas escóndense algunhas cuestións e inercias.
Céntrase en Internet e na dixitalización.
Si me interesa a estrutura de Internet. Eu chámolle estrato. É un estrato invisible, un estrato cada vez máis invisible formado por algoritmos de programación, que estrutura e condiciona o mundo das nosas relacións cotiás, pero nós non o vemos. Grazas a esta lente vemos o mundo, pero non podemos ver a propia lente.
Ao principio non era así.
Cando empezamos a pensar e utilizar internet nos 90, podiamos ver o código, manipulalo. Abríase e pechaba como unha persiana e tiñamos a forma de entender o que había detrás. Pero as estruturas que se nos ofreceron desde a década de 2000 foron diferentes. Podemos facer as cousas de forma separada e o código preséntase como un valor opaco e hermético, un tesouro das grandes empresas. Parece un solo público, así o viven moitas persoas, pero é privado e as empresas están dotadas de dereitos para protexer o seu capital.
No seu último tento fala dun voitre invisible.
Como dicía antes, a idea da inercia estaba moi presente. A inercia ten un poder simbólico, e nese sentido os bucles invisibles son bucles simbólicos: aprendemos no noso contexto cultural e con eles repetimos e perpetuamos unha identidade determinada, mantemos unha forma concreta de facer sen esforzo. No caso da programación, quería analizar como se repiten esas identidades, especialmente cando falamos de identidades conservadoras, que din que os nenos dos pobres serán pobres, e que os nenos ricos serán ricos, e que as identidades que len datos e algoritmos seguirán proxectando as mesmas identidades no futuro. Parece un xogo descritivo, porque é unha programación baseada en estatísticas, pero ao final convértese nun xogo de progreso.
"Non creas algoritmos para impresionar a ninguén, pero reproducen modelos existentes no mundo"
E ademais ocorre a gran escala.A
programación de algoritmos actúa a escala global, non afecta a un pequeno grupo de persoas. Lense datos a escala global, fanse prognósticos e créanse condicionantes, inercias e bucles invisibles. Todo iso, ademais de repetir determinadas diferenzas entre as persoas, responde os intereses do capital. Cando reflexionamos sobre estas cousas, chegamos a ese punto: a hexemonía do poder económico, que ordena todo o demais.
Considera perigoso que os algoritmos sexan neutrais.
Grazas ao feminismo aprendemos o que ocorre cando se cre que a obxectividade e a neutralidade son o mesmo, e aprendemos que para entender os nosos discursos hai que situalos e contextualizarlos, afastándoos das verdades absolutas. Pois ben, esa comprensión que normalmente supón complexidade é a que se elimina das negociacións e dos intercambios de algoritmos, porque o obxectivo é que a máquina siga, produza e corra, porque se trata dunha máquina hiper produtiva, competitiva e acelerada que busca xerar cada vez máis beneficios. E si no camiño prodúcense danos colaterais, por exemplo, si o algoritmo exclúe á xente e isto expón problemas a estas persoas, ou si directamente hai persoas que non entran no xogo da tecnoloxía, pois non importa, porque a prioridade mercantilista prevalece sobre o valor pedagóxico, social ou político.
E non hai que esquecer que, aínda que os algoritmos non son humanos, son creados polos seres humanos.Cando
falamos de algoritmos, é dicir de matemáticas e sobre todo de modelos matemáticos, como ciencia son impactantes e necesarios, e a intelixencia artificial é e será absolutamente necesaria, polo que cando falamos deste tipo de discursos críticos non se trata de rexeitar modelos matemáticos ou intelixencia artificial. Pero, precisamente polo enorme valor que teñen eses instrumentos e que terán para axudar á xente, non se pode quitar a mirada ética, non se pode pensar que son neutrais porque non son neutrais, e para empezar non son neutrais porque os programadores non son neutrais.
É dicir, cando falamos das tendencias da programación ou da intelixencia artificial, temos que falar necesariamente das tendencias dos seres humanos que a producen. Moitas empresas mostraron a súa disposición a identificar e corrixir estas tendencias, pero non sabemos si realmente fixérono, porque todo é moi hermético e opaco –xunto co problema da escala, ese é outro problema–. O certo é que os algoritmos e as persoas que crean o código son moi parecidos: os homes brancos, os dun lugar determinado do mundo, os mozos. Non creo que estean a falar de malas intencións, non crean algoritmos para impresionar a ninguén, pero reproducen modelos que existen no mundo.
Un dos posibles riscos é a homogeneización.
Cando falamos de tendencias en modelos matemáticos, Cathy Ou’Neil fala do risco de perda de diversidade, pero eu non entendía en que medida podía ser prexudicial. Un día acordeime co meu pai. Trátase dun campesiño que no seu día exerceu unha gran presión para eliminar as oliveiras máis vellas, de moitos pés, e colocar oliveiras novas dun só pé, para poder introducir a máquina, reducir o número de traballadores e acelerar a produción. Esta homogeneización permitiu introducir a tecnoloxía en diferentes sectores, pero creo que a homogeneización tamén se produce na socialización.
Hai tempo que estiveches atento á evolución de internet, que destacarías dos últimos 30-35 anos?Ao principio
, na década dos 90, Internet non era só a escritura de código, senón que se estaba traballando noutros lugares e había moitos foros de debate no ámbito tecnolóxico, académico e mesmo artístico. A min paréceme interesante, porque a arte en xeral admite máis facilmente contradicións, ser e non ser ao mesmo tempo. E neses foros había unha presión social, crítica e teórica para construír un mundo mellor, e iso foi o que me atraeu a min: internet era un fito na historia da humanidade, e para quen estabamos nalgunhas reivindicacións que podía traer cousas moi positivas.
"Internet cedeuse á xestión privada, con exclusión dos poderes públicos, e abriuse o camiño do contexto online que hoxe coñecemos"
E logo?A partir da
década de 2000, Internet comezou a socializarse a un ritmo vertixinoso, e naquela época organizáronse unha serie de encontros emblemáticos para determinar como territorializar, gobernar e xestionar Internet nalgunhas organizacións a nivel mundial. Eu creo que neses debates a humanidade perdeu unha gran oportunidade, e eu diría que temos que volver conquistar esas oportunidades: internet cedeuse á xestión privada, á marxe dos poderes públicos, e abriuse o camiño do contexto online que hoxe coñecemos, ese lugar normalizado que vivimos disfrazado de espazo público, pero que segue as normas, principios e ética da empresa en cuestión. Os gurús destas empresas, ademais de ter un control sobre o que facemos, tamén controlan o que podemos facer, e parece que tamén teñen nas súas mans dinámicas que inflúen nas propias democracias. Hai unha cuestión moi importante en xogo.
Antes de terminar, quixese preguntarlle polo libro que publicou hai uns anos: Entusiasmo. Precariedade e traballo creativo na forma dixital. Precariedade e creatividade na era dixital] (Anagrama, 2017). Na miña contorna hai unha chea de creadores culturais que ao ler ese libro impactoulles moitísimo, coma se chamase a unha das súas inquietudes. A vostede tamén lle escribiu unha chea de xente porque sentía moi identificada. Como viviu esa acollida?
Creo que en certa medida reafirmouse o que propoño nalgúns libros ou conferencias. Na cultura contemporánea, na cultura dixital, prímase o valor da cantidade, baseado en matemáticas, estadística, sociología e determinadas ciencias, xa que estas disciplinas traballan con grandes números. Parece que para falar da época temos que falar de grandes números e de estatística. Eu, con todo, sempre tiven outra perspectiva, quizá porque estudei antropoloxía e interésanme a literatura e a filosofía. A estatística e a sociología son, desde logo, fundamentais, pero esta xerarquía que se está desenvolvendo no mundo e na academia está a facer que pouco se estea valorando a visión científica e crítica da mirada etnográfica e antropolóxica. O entusiasmo e posteriormente Fráxiles [Fráxiles] mostran como podemos chegar desde o aspecto biográfico ao cultural. Normalmente fannos enquisas e entrevistas para analizar o cultural e clasifícannos, mentres que se a xente pode expresar libremente as súas inquietudes nun relato, ou mesmo na intimidade coloquial, aí hai unha oportunidade para entender e crear empatía, e a xente dimo: a min tamén.
"O certo é que os algoritmos e as persoas que crean código son moi parecidos: os homes brancos, os dun lugar determinado do mundo, os mozos"
Ese foi a orixe dO entusiasmo? Que a vostede e aos seus pasáballes o mesmo?
Os meus compañeiros, os meus alumnos, vía que todos nós tiñamos unha dobre vida. Todos estabamos no mundo da creatividade, e desde fóra dicíannos todo o tempo que eramos privilexiados porque traballabamos no que queriamos. A nós, con todo, non nos parecía así, non tiñamos tempo de materializar os libros ou proxectos dos nosos soños. O persoal dedicado á creación ou os investigadores da academia, especialmente nos últimos tempos, encadean traballos temporais un tras outro para poder vivir. Antes de escribir o libro, pensaba que quizais ía ser a sensación duns poucos, pero, tras a publicación do libro, xurdiu unha chea de xente dese ostracismo, como tamén ocorreu co feminismo.
E nese momento pareceume que podía ser un punto de partida para crear unha colectividade política, unha colectividade sindical ou unha colectividade política transformadora; paréceme que quizais podiamos aproveitar esa inquietude da conciencia. En definitiva, os que estamos nestas cuestións temos unha gran motivación pola cultura, pola creatividade ou pola escritura, e cando actuamos ben sabemos que podemos ofrecer cousas valiosas á sociedade. Pero estamos limitados, neutralizados, unhas veces por burocracia e outras por deformación. Eu creo que nese bloqueo hai un interruptor político, ten que estar.
Ten problemas visuais e auditivos. Como che afectan?
Eu tiven moita sorte e, a pesar de ter moi pouca visión, tiven a oportunidade de aprender e traballar sen minguar a miña vida. Vexo moi pouco desde o ollo dereito e teño moi pouca visión central no ollo esquerdo. Tiven unha boa audición, pero nos últimos catro anos perdín aproximadamente o 50% da audición, o que me obrigou a cambiar tamén o traballo. Na universidade, aínda que me vían pouco, podía dar clases sen problemas, pero cos audífonos, aínda que fosen capaces de falar e de comprender, ás veces non entendía algunhas palabras cando me falaban. Por tanto, tiven que reformular a miña vida.
En calquera caso, creo que no meu caso axudoume a reflexionar máis. A lente visual e auditiva son paus que utilizo no meu día a día e, por iso, proxecto as miñas preguntas ao mundo. Cando penso nos algoritmos, penso nos audífonos. No mundo que ouzo sen audífono non hai paxaros, e os meus pasos non teñen son, cantas lentes deste tipo non hai no mundo que apagan unhas cousas e acenden outras?
Sabemos que a intelixencia artificial está a representar moitos campos no ser humano: confort, velocidade, eficiencia... Fixéronnos crer que o esforzo humano é un obstáculo nas necesidades de velocidade deste mundo capitalista. As agresións para reducir as nosas... [+]
O 15 de novembro celebraremos en Errenteria-Orereta as tres xornadas organizadas polos diferentes axentes que conformamos Euskal Herria Digitala. Trátase dun taller de autodefensa dixital feminista e unha charla sobre a dixitalización democrática.
Os membros de DonesTech... [+]