Cada dia es publiquen en els mitjans de comunicació desenes de notícies sobre Intel·ligència Artificial, que reflecteixen la curiositat, l'emoció, la preocupació, la por o qualsevol sentiment que desperta el tema. Els programes que creguin il·lustracions espectaculars en una mare, el sistema ChatGPT que dona respostes cada vegada més precises, l'activitat de la companyia que l'ha desenvolupat, OpenAI, el fundador de la qual és l'empresari Elon Ms, i un dels principals inversors Microsoft, una “guerra oberta” entre el mateix Microsoft i l'empresa Google, la intervenció de les institucions públiques en aquesta guerra “privada”, és una qüestió de dades morbultos.

Les preguntes pendents són científiques, perquè ningú està segur de fins a on ens portarà la “revolució” en marxa. Arribarà el dia per a demanar-lo a una màquina: “Escriu un reportatge de 15.000 caràcters d'intel·ligència artificial, centrant la seva gestió privada vs pública, intercalant les opinions d'aquest expert i les seves opinions i amb un toc didàctic però d'escriptura lleugera”. Mentrestant, intentarem organitzar un capbussó informatiu. A l'ombra, Iñaki Alegria, membre de l'equip de recerca Ixa de la UPV/EHU, i el desenvolupador de programari Gorka Julio, ens han donat interessants pinzellades sobre el tema per a afinar les entrevistes realitzades a la informàtica de Microsoft, Ane Iturzaeta, i al professor de la UPV, Xabier Barandiaran.

Bàsicament, la intel·ligència artificial seria alimentar ordinadors d'enorme capacitat computacional amb milions de dades (Big Data), processar-los mitjançant algorismes i identificar patrons per a extreure conclusions o “prendre decisions” o “executar-les” en el món digital o, mitjançant un cos robòtic, en el físic. Ens espanta especialment com a ciutadans, ja que són robots amb forma d'URL 0 que en el nostre imaginari fan de la intel·ligència artificial, encara que també està integrada en el mòbil, en aplicacions d'edició de fotos i altres.

Les màquines aprenen ràpid, més ràpid que l'home. Però necessiten la seva ajuda perquè els entreni per a aconseguir el resultat més fiable possible. Per exemple, els traductors neuronals en basc (basats en la disciplina del machine learning en l'àmbit de la intel·ligència artificial, com Anar i Elia), al principi cometrien errors amb les correccions realitzades per les persones, sense oblidar que la capacitat computacional i el corpus són cada vegada més amplis.

Hem esmentat el corpus, la base de dades lingüística. Els anglesos, els castellans i els francesos són grans comparats amb els del basc, però podem enriquir-los constantment, no sols en el ChatGPT desenvolupat per la companyia OpenAI, sinó també en les iniciatives lliures que són o volen ser alternatives a ells. Un d'ells és el projecte OpenAssistant, gratuït i desenvolupat com a programari de codi obert, tal com hem llegit en Sustatu.eus (OpenAssistant xat intel·ligent en basc, 23-02-20). El professor Beñat Erezuma i assessor de Ciència i Tecnologia ens diu que hauríem de col·laborar en aquest projecte: "El basc és en aquests moments la 10a llengua més entrenada, però està lluny de les primeres. Per a millorar la qualitat d'aquest assistent basat en xats és fonamental que l'ésser humà treballi amb ell per a millorar el model". Més informació sobre la iniciativa es pot consultar en el compte @aaeuskaraz de Twitter, creada pels usuaris que entrenen en basc Open Assistant.

Obert i enriquit amb el coneixement de tots

L'enciclopèdia Wikipedia ens ha posat com a exemple el professor de Filosofia de la UPV Xabier Barandiaran, investigador en neurociències cognitives i expert en intel·ligència artificial, quan li hem preguntat si és possible crear alternatives a gegants com Microsoft o Google, tenint en compte que la recollida de dades és molt costosa, tant en diners com en energia: “Ha demostrat que es poden superar barreres tècniques, per exemple, la capacitat de crear equips d'intel·ligència col·lectiva de models d'alta creença de models d'empreses digitals, i d'alta capacitat per a crear equips de disseny, d'intel·ligència col·lectiva, d'alta creença. Barandiaran ens ha dit que els similars poden considerar-se en certa manera com a moviments tecno-polítics i que troben a faltar especialment en l'àmbit públic: “És sorprenent que les institucions no subvencionin aquest tipus d'iniciatives. Les empreses privades de la zona reben el suport, però estan orientades a satisfer les seves necessitats, no tant en benefici de la societat. Ara és el moment d'apostar per una intel·ligència artificial pública comuna. Begira Wikipedia, la infraestructura es va desenvolupar de manera oberta en col·laboració, ha alimentat el coneixement de tots els usuaris, és gratuïta, està fora de les mans de les empreses privades… Si no sorgeixen alternatives com Wikipedia, estarem en les arpes de les grans empreses per sempre”.

Wikipedia deu la seva existència a les definicions i llicències jurídiques del programari lliure. El publicat és lliure, està disponible i pot ser difós per qualsevol, mantenint la mateixa llicència. La infraestructura i el contingut es van construir fora de la forma de propietat intel·lectual i ha estat un esperó per a moltes altres iniciatives. “Perquè segons les normes que estableixin, potser no tenim la possibilitat de fer una intel·ligència artificial comuna i oberta com la Wikipedia”, diu Barandiaran. “Infraestructura, sol·licitud d'autorització, recollida i qualitat de corpus, capacitat jurídica i tècnica per a la seva utilització... a qui estem delegant tot això?”. Tenint en compte la necessitat de grans recursos, el professor de la UPV/EHU es preocupa especialment per la gestió d'unes poques multinacionals, ja que implicaria la privatització del saber global: “Hauria de ser públic, perquè és comú en origen”. De qui és el contingut generat per les intel·ligències artificials que s'alimenten de les dades lliures (Wikipedia)? Si una Intel·ligència Artificial pot fer no sols un resum miraculós d'un llibre, sinó respondre amb precisió a totes les preguntes sobre ell o desenvolupar un seguiment original de l'obra, què ocorrerà amb els drets d'autor? Preguntes sobre preguntes.

Hi ha més dubtes, com les relacionades amb l'entrenament de la intel·ligència artificial. Diversos experts adverteixen del risc de l'homogeneïtzació, en definitiva, que si la formació de les màquines, per a donar respostes “adequades”, queda en mans d'unes poques empreses perquè el seu pensament pot imposar-se, la seva “veritat”, que, no obstant això, més que un problema “nou”, suposa “aprofundir” en el problema. Per exemple, si les persones o entitats que desenvolupen i/o utilitzen intel·ligències artificials, com els agents de seguretat dels aeroports o la policia, són racistes, com actuaran les màquines? Qui controlarà això? En aquest sentit, Barandiarán afirma que la fiabilitat de la intel·ligència artificial mai serà del 100%, però que ningú està del tot fiable entre els éssers humans: “Caldrà mesurar on falla, si hi ha garanties de la justícia, si és ètica... Al mateix temps, aquest procés farà aflorar la naturalesa humana, perquè mentre “vam mostrar” a la màquina veurem on falla, en què podem millorar..”.

L'algorisme, el secret dels grans

La informàtica beasaindarra Ane Iturzaeta Agirre treballa en l'empresa Microsoft com customer engineer o arquitecte en el núvol del grup Data&AI. Expert en intel·ligència artificial, va ser guardonat en 2021 amb el Premi Gladys, organitzat per la Facultat d'Informàtica de la UPV/EHU i la Fundació PuntuEUS, que busca fer costat a les dones professionals del món digital. “Jo no lliuraré el meu algorisme a un govern, és el meu secret”, ens diu. “Garantiré la transparència, explicaré com la intel·ligència artificial ha arribat a aconseguir nivells concrets de precisió o quins són els factors que han influït en el resultat, però no donaré la meva fórmula, IP o propietat intel·lectual. Però es pot discutir de tot, jo també tinc contradiccions, tot va tan ràpid...”.

Microsoft ha invertit milions de dòlars en OpenAI amb l'objectiu d'obviar a Google i a la resta de competidors: “De fet, la majoria dels avanços que Microsoft o Google han presentat en l'àmbit de la intel·ligència artificial han estat realitzats per empreses més petites de l'àmbit de la recerca, moltes de les voltes de les universitats”, explica Iturzaeta. “Què han fet aquests gegants? Perquè les empreses més modestes no tenen tanta capacitat perquè estan treballant especialment en altres àmbits de la tecnologia. És cert que tant Microsoft com Google tenen bastant monopoli”.

L'informàtic beasaindarra també ens parla de traductors neuronals. “Ningú millor que tornar, ni tan sols Microsoft. Des de petit hem vist que el que sorgeix de la comunitat pot ser millor. La pròpia OpenAI la van formar quatre persones, encara que després van menjar grans”.

Dades, el millor aliment

La intel·ligència artificial ha fet un salt enorme amb el Big Data, segons explica Iturzaeta: “Les dades són el millor aliment que podem donar-li. Pensi's, per exemple, en la quantitat de dades que una persona amb la seva casa connectada domóticamente està donant a cadascun sobre els seus gustos (música, programes de ràdio...) i costums (quan encén la calefacció, quan la rentadora...). Hem de ser conscients d'això. En acceptar les condicions de la pàgina web de Zara, som conscients que les dades seran utilitzades lliurement per Inditex? Els acompanyants virtuals d'Alexa han llegit el contracte? Saben què farà Amazon amb la informació recopilada?”.

Iturzaeta és un dels empleats de Microsoft que interactua amb OpenAI. Explica que les dades fins a l'any 2021, “tot el que era públic en Internet”, han estat processats i a això s'ha sumat l'actuació de cada vegada més persones que han començat a utilitzar-ho en els dos anys, per a després assenyalar quina és la revolució més important que creu que portarà el 2023: la intel·ligència artificial generativa. Ja no és només predictiu, saber quan encendrem la calefacció de casa, sinó que se li poden demanar coses concretes, com escriure un reportatge. “Comporta una major responsabilitat”, ens diu l'informàtic: “OpenAI ha fet un munt de models sobre milions de dades. Vostè pregunta i li contesten. El que ha fet Microsoft és regular una mica aquests models absolutament lliures, ‘això és el que sé i li ho tiraré’. En aquest sentit, l'empresa que contracta els serveis d'OpenAI té la possibilitat de regular encara més el seu ús. Per exemple, si la direcció ho decideix, quan els treballadors pregunten a la intel·ligència artificial quin és el millor partit polític, la màquina els diu que no es pot respondre. “Un dels conceptes més importants de la intel·ligència artificial generativa és que gairebé sempre una persona ha d'estar revisant, validant i modificant si fos necessari”, diu Iturzaeta: “Suposem que heu d'enviar una carta als clients de l'empresa explicant això i altres, la màquina agilitzarà el procés però abans d'enviar-lo cal validar-la”.

L'empresa que desitgi accedir als serveis de la companyia OpenAI ha d'indicar clarament –i és un procés “bastant molest”, en paraules d'Iturza- quin és el seu ús, quines dades utilitzarà… “Microsoft pot arribar fins aquí”. Si algú no compleix amb els pactes, en cas de ser sancionat, ho haurien de fer les institucions públiques: “Per exemple, les dades de domòtica de la teva llar, es poden utilitzar per a ajudar-te, detectar si estàs posant-te… Això és bo, però què passaria si algú utilitza la teva factura elèctrica per a adequar-la als seus interessos? Seria ètic? Les institucions públiques han de regular l'activitat de les empreses privades, què poden fer amb les dades i què no. En això estan, però no és fàcil”.

El poder, dividit asimètricament

En paraules del professor de la UPV, Xabier Barandiaran, no existeix una transparència real en el tema. “La capacitat de gestió de la intel·ligència artificial està distribuïda de forma molt asimètrica, mentre unes poques empreses tenen un poder enorme, la majoria de la ciutadania i fins i tot les administracions públiques no tenen força”. Per exemple, la majoria dels experts coincideixen a assenyalar que algunes de les professions en les quals la intel·ligència artificial produirà grans canvis són de l'àmbit de la justícia, perquè les màquines seran capaces de processar de manera brusca molts informes (sentències, recursos...) enormes i les dades derivades d'aquests, la qual cosa ajudarà a predir el que pot ocórrer i a decidir per on anar en cada procés judicial. Qui tindrà accés a aquests instruments? Els grans bufets, com els particulars?

Preguntat per qui marcaria les línies directrius, Barandiaran ens respon que no veu ni capacitat ni debat públic: “Els governs europeus estan treballant en el tema, però les empreses privades pressionen molt… Hauríem de parlar també del paper de la ciutadania. Pensem quantes vegades ens ha imposat Europa la normativa, perquè la majoria no la coneixíem i no estàvem d'acord, per exemple en el cas de les lleis de pagament del deute extern. És veritat que Europa no serà la que posi la regulació més dolorosa, és pionera en la privacitat, per exemple, però en una democràcia la societat ha d'assumir el lideratge”.

Ane Iturzaeta ens conta que quan dona xerrades sobre intel·ligència artificial generativa en institucions i/o empreses, sempre li fan preguntes sobre privacitat. “Encara estem aprenent. 2023 serà un any fort, la tecnologia ja ens ha trepitjat i ara toca posar normes”. La intel·ligència artificial influirà en tots els àmbits, i Barandiarán assegura que és responsabilitat de tots decidir en què evolucionarà, perquè els petits també responguin a les grans preguntes.

RINCÓN MÉS FOSC DE LA XARXA

L'empresa Sama, que treballa per a OpenAI, va contractar treballadors de Kenya per a testar la intel·ligència artificial. Per salaris d'entre 1 i 2 dòlars al dia, els treballadors van estar etiquetant les dades de desenes de milers de fragments de textos, segons va explicar la revista Time el 18 de gener. Molts d'aquests textos semblaven provenir dels “racons més foscos de la xarxa”, tal com va escriure Gorka Julio en l'article de Turc mecànic publicat en Berria: abusos sexuals infantils, zoofilia, assassinats, suïcidi, tortura, autolesions... “Obres que ningú vol fer serviran per a evitar problemes ètics amb aquests instruments”. OpenAI va afirmar que aquest personal havia estat classificant i filtrant textos i imatges "nocives" per a eliminar de les dades el major nombre d'indicis de violència i sexe. La foto inferior ha estat creada per Time utilitzant Dall-E 2.

TECNOLOGIA DE PASSIU A ACTIU

La intel·ligència artificial afectarà el conjunt de la societat, igual que Internet. Però hi ha un gran salt. Per dir-ho d'alguna manera, passar d'una tecnologia “passiva” o “instrumental” a una “activa”. Xabier Barandiaran ens ha explicat amb un exemple: “En la televisió la gent ens està parlant en tot moment, mentre desdejunem, transmetent missatges, però podem apagar-los quan vulguem, i a més els que ens estan parlant no s'adonen del que estem desdejunant. Per contra, la tecnologia que s'està creant és tractora, té capacitat per a fer coses. És preocupant perquè té més competència i, per tant, més força per a influir en la societat”. Tindrà poder per a canviar l'opinió pública, per a fer grans campanyes electorals amb milers de falsos assumptes, per a escriure discursos polítics...

SUBSTITUTS DEL CONEIXEMENT HUMÀ

La intel·ligència artificial suposarà en poc temps una gran revolució no sols en la creació d'imatges o textos, sinó també en molts oficis, especialment en aquells sectors en els quals hi ha moltes dades digitalitzades: justícia, informàtica, ensenyament, periodisme, medicina, automoció... i un pas més en els àmbits de “seguretat” o espionatge que solen anar més enllà. “Si abans els músculs eren substituïts per les màquines, ara substitueixen al coneixement humà”, explica l'economista Paul Krugman i el premi Nobel.

En l'àmbit sanitari, per exemple, pot ajudar a prevenir malalties, analitzant un munt de dades recollides i descobrint patrons. La informàtica de Microsoft, Ane Iturzaeta, ens diu que en molts hospitals de la CAPV s'està utilitzant la intel·ligència artificial, “més en els centres privats, a mesura que tenen mitjans més grans”. També es va utilitzar en la pública madrilenya durant la pandèmia per a decidir quins pacients havien d'ingressar, ja que al no haver-hi llits per a tants pacients era imprescindible realitzar una “elecció”. En l'educació, en un marc en el qual el programari privat ha donat una gran mossegada, la intel·ligència artificial suposarà necessàriament canvis, com els sistemes d'avaluació. Com garantir que l'alumne no l'ha fet? En qualsevol cas, és raonable prohibir l'ús de la intel·ligència artificial perquè en el futur puguin tenir una eina de treball? El millor és prohibir-ho o incorporar-ho al procés d'aprenentatge? Per exemple, es pot demanar als alumnes que facin un exercici contra el ChatGPT i corregeixin els seus errors. La intel·ligència artificial també es pot aprofitar per a fer un seguiment personalitzat dels nens i nenes.

Desapareixeran els llocs de treball? Segurament sí, però, com ens ha dit Gorka Julio, no hem d'oblidar que els éssers humans som màquines més eficients i barates que les que podem construir en el futur, “amb un entrepà tenim suficient perquè tot el treball duri”. Una sèrie de tasques, socialment menys prestigioses (compte, neteja, distribució...), seran complertes per un home més barat i eficaç que un robot.