No texto acordado por PNV, EH Bildu, PSE-EE e Elkarrekin Podemos ínstase o Goberno Vasco a aprobar unha Declaración Ética do Dato como garantía de principios éticos e valores que guíen o uso dos datos na administración pública. Crearase un rexistro público transparente que abarque todos os algoritmos e sistemas de intelixencia artificial que utiliza a administración, así como os provedores que esta subcontrata. O acordo baséase na moción presentada por Lore Martinez Axpe.

Resultados “discriminatorios”

En esencia, a intelixencia artificial sería a “toma de decisións” ou a alimentación de computadores con millóns de datos de enorme capacidade computacional, o procesamiento dos mesmos mediante algoritmos e a identificación de patróns. Os algoritmos son operacións ou procedementos que se realizan para buscar unha solución. Cal é un dos problemas? Os resultados poden ser a miúdo “discriminatorios”, segundo Martínez. Isto tamén é aplicable á administración pública. É dicir, cando falamos de inundación de datos de intelixencia artificial hai que ter en conta que os algoritmos que procesan esta información poden discriminar á cidadanía.

Por pór un exemplo: Un estudo realizado por Algorithm Watch concluíu que a Ertzaintza utiliza un sistema xenófobo para medir o risco da violencia machista. O algoritmo EPV-R baséase nun cuestionario psicolóxico no que se pregunta si son vítimas ou delincuentes “estranxeiros”, entre outros. Ademais, o cuestionario só soa como estranxeiro a non occidentais. O inspector xeral da Ertzaintza, Oskar Fernández, explicou que nesta categoría inclúense “aqueles que non son europeos con cultura diferente”.

Así mesmo, a Universidade Cornel de EE.UU. analizou o rendemento de EPV-R e concluíu que a maioría dos casos considerados como “de alto risco” por outras vías (53%) eran “de baixo risco”. É dicir, existe un alto risco de que este algoritmo non se valore como “casos graves”.

Denegación de subvencións

Estas intelixencias artificiais tamén poden tomar decisións que afectan á economía da cidadanía. Unha delas é Bosco, que regula o bono social para o pago da factura eléctrica. Intervén na revisión das solicitudes e ten competencia para decidir o resultado. O grupo Civio denunciou algunhas discriminacións do algoritmo por excluír a algúns sectores con dereito a axuda.

Poderán optar a esta subvención as rendas baixas, a familia numerosa ou a persoa beneficiaria dunha pensión mínima de incapacidade ou xubilación. Unha viúva debería elixir esta última, pero Bosco considera que o procedemento é “incalculable” e é a mensaxe que transmiten ás empresas eléctricas. Así, nega a axuda ás viúvas, aínda que lles corresponde recibila. Os membros de familias numerosas, calquera que sexa a súa renda, teñen dereito legalmente a esta axuda. Con todo, Bosco ten que analizar a renda dos solicitantes e se alguén non permite analizar as súas contas, non se lle dá esa axuda porque deixa fóra de algoritmos.

Martínez explica que os algoritmos poden “aumentar exponencialmente” a discriminación en función da intelixencia artificial que se lles aplique. “Por iso é tan importante preparar ben os datos cos algoritmos. Debemos procurar que os datos non sexan discriminatorios e que teñan unha boa base para acceder ao algoritmo”.

Rexistro público de algoritmos

Que será o que os cidadáns poderán consultar? Basicamente terán dereito a coñecer onde e para que se utilizaron os datos persoais. O parlamentario de EH Bildu trouxo un exemplo ao podcast. Supoñamos que alguén padeceu unha enfermidade e que utilizou os seus datos para prever as condicións que deben cumprir as persoas que a padeceron para volver enfermar. O propietario destes datos poderá coñecer si estes datos tiveron efectos discriminatorios. Ademais, se alguén non está conforme con dar ese uso aos seus datos, informaráselle de como pode apelar.

Todos os cidadáns poden coñecer o que se fixo cos datos persoais, pero moitos aínda non saben que é un algoritmo. Por iso, Martínez deu importancia á linguaxe utilizada: “Debe explicarse de forma que a cidadanía o entenda. O rexistro non é para consulta de informáticos senón para consulta de calquera persoa”.

Creación do rexistro público “0. é só unha "fase", segundo o parlamentario de EH Bildu. “O maior beneficio é que empezamos a socializar a cuestión dos algoritmos. Coñecer como se traballan os nosos datos é un dereito fundamental dos cidadáns, aínda que aínda queda moito por facer”. Martínez considera que as auditorías son necesarias para demostrar que cumpren co prometido e que non hai discriminación.

Comunidade Autónoma Primeira

A CAPV foi a primeira comunidade autónoma do Estado en aprobar o rexistro público de algoritmos. Con todo, hai máis casos nalgunhas cidades europeas: Barcelona, Helsinqui e Amsterdam. Tras consultar coa comisión de intelixencia artificial da Unión Europea a proposta de EH Bildu no Parlamento Vasco, Martínez explica que, segundo dixéronlles os membros da comisión, a elaboración de rexistros públicos será unha “tendencia” tamén no resto de Europa.

Destaca a da capital catalá. En abril, catro expertos na creación dun rexistro público de algoritmos na administración, entre eles Michael Donaldson, representante de Innovación Tecnolóxica, Administración Electrónica e Bo Goberno do Concello de Barcelona, falaron no Parlamento Vasco e informaron sobre o caso de Barcelona.

Contou como a finais do ano 2022 o concello aprobou un protocolo que definía as medidas necesarias antes e despois de utilizar un algoritmo. O protocolo establece que antes de utilizar un sistema algorítmico de prestación de servizo público, o servizo informático deberá realizar unha avaliación de riscos. Considera de alto risco os procesos que afecten os dereitos sociais ou aos datos dos cidadáns, así como os que poidan supor discriminacións na concesión de subvencións.

Antes de probalo, ao mercado

Martínez advirte do risco de non probar a tecnoloxía. “Temos unha gran tendencia a ser progresistas coa tecnoloxía e utilizamos os novos produtos sen reflexión previa. Estamos a investigar, innovando, sacando novas solucións tecnolóxicas dixitais e lanzámolas ao mercado nada máis renovalas”. Comparativa con medicamentos. “Os medicamentos tamén se investigan e innovan, pero antes de saír ao mercado realízanse miles de probas para coñecer as súas consecuencias, que logo se plasman nun prospecto. Este prospecto explica os danos e riscos deste medicamento”. En opinión da parlamentaria, a intelixencia artificial debería actuar da mesma maneira: “Unha vez que o produto estea presente, hai que preguntar: 'Que danos ten? Garante a lei de protección de datos? É discriminatoria?’.

Di que actuaron igual coa intelixencia artificial ChatGPT: “En catro meses finalizaron o produto e comercializárono directamente”. Esta ferramenta non cumpre a lei de protección de datos, polo que foi prohibida en Italia tras a súa comercialización. “Eu creo que iso había que facelo desde o principio. Non se debe deixar comercializar tecnoloxía se non está probada previamente”. Considera que este traballo é responsabilidade da empresa: “Unha empresa non debería comercializar algo que poida prexudicar ás persoas”.

Que hai en Euskal Herria?

Martínez defendeu a “transformación dixital do Km0”, coa esperanza de que as solucións tecnolóxicas transfórmense e melloren en Euskal Herria. Isto suporía a permanencia dos datos. Ademais, coas “boas políticas públicas”, o talento tecnolóxico tamén se crearía, promoveríase e, se se garantisen as boas condicións, quedaría aquí, nas súas palabras.
Con todo, considera que en Euskal Herria xa existe un “ecosistema forte” de expertos en tecnoloxía, “non digamos en computación lingüística”. Con todo, advirte de que se isto non se subvenciona temos “festa”. Entre outros, considera necesario financiar proxectos en favor das tecnoloxías lingüísticas en eúscaro como GAITEK. “O eúscaro debe formar parte da transformación dixital para sobrevivir, pola contra non terá futuro”.

Martínez espera que a intelixencia artificial nunca se anticipe ao ser humano, “pero non será fácil”. Di que a normativa e as leis deben axudar a espertar conciencia: “A ver si entre todos somos capaces de que as tecnoloxías dixitais sexan unha ferramenta para mellorar as vidas humanas e non o contrario”.