Traducido automaticamente do vasco, a tradución pode conter erros. Máis información aquí. Elhuyarren itzultzaile automatikoaren logoa

"Debemos ter coidado ao dar os datos, pero sen convertelos en paranoicos"

  • A intelixencia artificial (IA) é o campo da informática que se orienta a crear sistemas que poidan realizar tarefas como aprendizaxe, razoamento ou percepción que requiren intelixencia humana. O profesor e investigador pamplonés Mikel Galar, experto e experto niso, deunos unha mensaxe de esperanza: a intelixencia artificial, si é tan intelixente, será capaz de xogar perfectamente mesmo en linguas minorizadas.
Argazkia: Zoe Martikorena / CC BY-SA
Argazkia: Zoe Martikorena / CC BY-SA
Zarata mediatikoz beteriko garai nahasiotan, merkatu logiketatik urrun eta irakurleengandik gertu dagoen kazetaritza beharrezkoa dela uste baduzu, ARGIA bultzatzera animatu nahi zaitugu. Geroz eta gehiago gara, jarrai dezagun txikitik eragiten.
Mikel Galar Idoate. Pamplona, 1986

É enxeñeiro informático e doutor pola UPNA. É profesor titular da área de Ciencias da Computación e Intelixencia Artificial no departamento de Estatística, Informática e Matemáticas da UPNA. Investigador do Instituto Smart Cities (ISC), director da cátedra Tracasa de Ciencias da Computación e Intelixencia Artificial, cofundador de Neuraptic AI e membro do equipo de investigadores que está a desenvolver o proxecto Emotional Films. Traballou en 56 proxectos de investigación, escribiu máis de cen publicacións, é colaborador de Euskalerria Irratia e en 2020 recibiu o premio á excelencia do profesorado na UPNA. Cambridge University Press escribiu en novembro o libro Large-Scale Data Analytics with Python and Spark xunto ao investigador da Universidade de Granada, Isaac Triguero Velázquez.

Vostede é profesor da UPNA desde 2011. Cal é exactamente o teu traballo?
Son profesor de Intelixencia Artificial e Computación. Dou clase en Grao e Máster en Enxeñaría en Informática. O outro lado do traballo é a investigación. Traballo principalmente na área de Intelixencia Artificial e Aprendizaxe Automática.

Recentemente publicou en colaboración con outro investigador un libro publicado pola universidade de Cambridge. Como é?
Refírese ao big data. Tenta explicar como podemos facelo cando temos moitos datos para procesalos eficazmente. Para entender isto diriamos que nós normalmente traballamos cun computador e que non temos problemas para xestionar a información que utilizamos, pero imaxinemos cantos datos ten Google para procesar páxinas web, por exemplo. Un computador non é capaz de almacenar toda esa información, polo que o que se fai nestes casos é utilizar moitos computadores ao mesmo tempo para distribuír eses datos, pero manténdoos unidos para poder procesar a información conxuntamente. No libro explicamos como realizar a programación Python coa linguaxe e a ferramenta Spark. Trátase dun libro de estudos dirixido especialmente aos alumnos que finalizan o grao ou cursan o máster.

E que é a empresa Neuraptic IA que creastes?
Unha das áreas da Universidade é a transferencia de tecnoloxía. Isto consiste na comercialización dos resultados das investigacións que realizamos aquí. Desta forma conséguese algo que beneficia á sociedade e ao mesmo tempo obtense diñeiro para a investigación. Hai uns anos, dous estudantes de doutoramento e tres comezamos a elaborar produtos para empresas utilizando a intelixencia artificial, e cando terminaron os estudos creamos ese spin off, unha empresa que se crea na universidade para realizar traballos exteriores. A Universidade ocupa unha pequena parte do rendemento e axuda ás empresas a desenvolver a súa tecnoloxía.

O Goberno de Navarra concedeulle o premio Iníciache en 2020 por iso. Neuraptik IA é unha empresa punteira?
Si. Cando estabamos a crear a empresa o Goberno de Navarra outorgounos un premio a través do CEIN. Isto permitiunos facer un plan de negocio para polo todo en marcha.

A verdade é que aquí en Navarra non hai moitas empresas baseadas na intelixencia artificial. Dálos-nano ou Veridas que fan o recoñecemento facial son quizá os máis coñecidos, pero estes só utilizan AA neste caso concreto.A maioría das empresas non están dispostas e por iso son necesarias iniciativas como a nosa para axudar a outras empresas.

"As leis non limitan de momento os datos para adestrar os sistemas, senón para que se utilizan"

Recentemente púxose en marcha a Navarra Artificial Intellegence Research Center. Como vai? Empezou
a funcionar e é moi positivo, pero iso habería que impulsalo desde a universidade e para iso hai falta de xente. Somos moi poucos profesores e investigadores no departamento de computación e AA e por iso hai que traer xente de fóra.

Por outra banda, é moi difícil que a xente quede na universidade, porque os soldos que se ofrecen no mundo empresarial son o dobre que os de aquí. Con estes salarios non podemos competir.

Hoxe en día non lles falta traballo cando salguen alumnos de informática. Hai alumnos que xa empezan a traballar en terceiro curso, non en prácticas senón con bos contratos. Hai moito traballo, non só relacionado co big data, senón tamén como desarrollador de software.

Como che ves no futuro?
Eu estou satisfeito aquí e penso seguir aquí nos próximos anos.Creo que as clases, a investigación e a divulgación son tamén moi importantes.

Fotografía: Zoe Martikorena / CC BY-SA

Tamén está en Emotional Films. Que é? O
obxectivo é crear un sistema que permita facer películas que varíen segundo os sentimentos do espectador. Así, por exemplo, si ri nunha escena, o sistema interpreta que lle gustou e partirá dun camiño determinado. Ou si estás a ver esa película en Pamplona, pois, poida que os protagonistas saian á rúa e véxanse na praza do Castelo e estean en Madrid, por exemplo na Porta do Sol.Utilizamos toda a información do espectador que temos para crear unha película personalizada, ao momento e en tempo real.

O proxecto finalizou o ano pasado. A tecnoloxía está lista e agora a empresa busca financiamento para facer unha película completa. Temos uns demostradores para demostralo. Creamos os ciberadictos Walt Disney e Carl Sagan. Ti podes falar con eles sobre a súa área de coñecemento e eles utilizarán as túas emocións para responder dunha maneira ou outra. Temos outro demostrador para contar contos. Vostede pode pedirlle un conto do que quere, como a historia dunha moza, que ocorre en Pamplona e no que aparecen dinosauros, que o inventa a través da AA, dando imaxes en tempo real no momento.

A é un avance moi importante. É o lume, a escritura e un avance similar a Internet?
Iso dise, si. Até onde chegamos? Xa veremos. O maior cambio chegou con Chat GPT. Porque os que non o utilizan xa se están quedando atrás. Permíteche facer as cousas máis rápido. Pero é verdade que tamén ten limitacións. Temos unha expectativa moi alta e seguramente agora irase arrefriando un pouco, porque veremos que aínda non podemos facer tantas cousas de súpeto. Con todo, algunhas obras xa empezan a cambiar.

Cales serán as principais novidades dos próximos anos?
Todos estamos a esperar a ver que fan as grandes empresas, Google, e especialmente Open AI que creou Chat GPT. Din que este ano sairá GPT 5. Agora hai GPT 4 e todos utilizamos gratis GPT 3.5. Google tamén está en competencia e fai un par de meses presentou a Google Xémini o sistema de uso móbil AA e voz, pero aínda non alcanzou o nivel de GPT 4. Chat GPT foi unha gran innovación. A xente non sabía nada e de súpeto apareceu esta ferramenta, agora estanse facendo avances incrementales, pero en principio.eu creo que en pouco tempo será difícil ver outro gran salto.

O próximo gran reto será a comunicación oral coas máquinas?
Iso xa existe. A tecnoloxía está lista para facer algunhas cousas, pero aínda non montaron o puzzle necesario para que todo sexa iso. Vostede instala GPT no teléfono, por exemplo, e pode falar. El transfórmao en texto e respóndeche como texto.

Windows 11 inclúe Windows Co-pilot e Office co-pilot. Podes solicitar que coa información que tes nun texto Word fagas un Power Point con imaxes. Quizais non sexa perfecto, pero antes adiántache ese traballo e ti só terás que facer correccións.

Estes sistemas verémolos no noso traballo diario e ese será o maior cambio. Pero debemos ter claro que sempre son necesarias persoas para comprobar que as máquinas están a facer as cousas ben. Si vostede pregunta ao GPT, por exemplo, información sobre Pedro Sánchez dúas veces, poida que déalle distintas datas de nacemento. Hai que cuestionalo todo, ese é o maior problema destes sistemas na actualidade.

"Si pídelle a imaxe dun traballador de MacDonald's, daralle a imaxe dunha persoa emigrante. O enxeñeiro será branco e home. Estes estereotipos están no mundo e son reproducidos e aumentados pola AA"

Por que ocorre isto?
Pode ser difícil de entender. Estes sistemas non memorizan toda a información dispoñible en Internet. Iso sería como Google. Estes sistemas recollen toda a información e sitúan detrás dunhas palabras outras, tendo en conta as probabilidades de que aparezan. Así sempre darache un dato coherente, pero non está garantido que sexa correcto. Cantos máis datos e información téñanse a man, máis exacta será, con todo, aínda son frecuentes as respostas que teñen sentido pero que non son certas.Por iso debemos aprender a ser moi críticos con estas ferramentas.

Do mesmo xeito que os tradutores automáticos, debemos estar sempre atentos?
Claro. Sempre se necesita unha persoa controlando todo. Os tradutores melloraron moito e normalmente non crean algo que xa non existe. Quizais o pago que che dá sexa unha tradución literal e non vai ser moi bo en canto ao idioma, pero non inventa nada novo. Pola contra, con estoutros sistemas, si vostede pide ao GPT que lle devolva algo, pero pode ocorrer que entre algo no centro pola súa conta. Para traducir as cousas, en principio, é mellor utilizar tradutores automáticos.

Fotografía: Zoe Martikorena / CC BY-SA

Veremos cousas incribles no mundo do cine e do audiovisual?
Si, e xa algúns actores empezaron a vender os seus dereitos de imaxe en películas para utilizar imaxes adaptadas por AA. Algúns actores serán para sempre. Non será o mesmo, pero a cara e a voz serán iguais.

Esta tecnoloxía pódese utilizar ao mesmo tempo para realizar deep-faes. Podemos facer un vídeo de calquera político dicindo calquera cousa e iso é moi perigoso. E na animación tamén se poden facer cousas sorprendentes.

Poderemos "resucitar" aos mortos na nosa vida cotiá?
Así se ouven. Se consegues un diario da túa avoa, unha chea de información escrita por ela, fotos, vídeos... Combinando estas cousas e un sistema de creación de imaxes cun sistema de linguaxe como GPT, podes crear un personaxe coa súa forma e conversar con el. A tecnoloxía está preparada para iso, pero outra cousa é a ética. Que datos podes utilizar, quen debe dar o teu consentimento... Chat GPT está adestrado para recibir toda a información que hai en Internet, pero quizais non todo sexa eticamente utilizable. Eles utilízano independentemente de que teñan ou non permiso. Aínda non está moi claro como se xestionará e é un tema moi delicado.

Existen actualmente límites?
A Unión Europea é a que máis normas está a impor nestes momentos e pronto sairá a lei de AA. Puxeron límites: por exemplo, non podes utilizar AA para controlar á xente, para saber cando chegou ao traballo e que fixo alí, ou para todo coñecemento facial. Polo momento, as leis non limitan os datos para adestrar os sistemas, senón para que se utilizan.

"Hai que conseguir que para Chat GPT a linguaxe sexa só como una interfaz, é dicir, que, falando en calquera idioma, el utilice toda a súa capacidade para traballar e despois dea resultado no idioma que vostede elixa"

Que ver, aprender. Os algoritmos son machistas e racistas?
Si. Estas tendencias denomínanse rumbos ou barreiras. AA e GPT aprenden dos datos dispoñibles en Internet e Internet é maioritariamente branco. Sistemas como Stable Difussion ou Dall-E serven para converter texto en imaxe e se vostede pídelles que creen unha imaxe dunha enfermeira, no 95% dos casos faranlle unha moza branca. Se lle pide a imaxe dun traballador de MacDonald's, daralle a imaxe dunha persoa emigrante. O enxeñeiro será branco e home. Estes estereotipos están no mundo e son reproducidos e aumentados pola AA. Hai que investigar como se pode evitar iso.En cuestións éticas tamén se ve como a Open AI ten a súa propia normativa, pero tamén é un asunto moi perigoso.

Como está o eúscaro neste mar aberto? Está a quedarse atrás?
Como o resto de linguas minorizadas ten os seus propios problemas. Si a Chat GPT fálaslle en eúscaro fará algo, pero se adaptará moito mellor en inglés ou en castelán porque viu máis información á hora de adestrar. Tampouco funciona tan ben como en inglés. Con todo, o mellor é que sistemas como Chat GPT xa empezaron a establecer conexións entre as linguas. O cerebro do sistema pensa sen ter en conta a lingua. Só hai que conseguir que o idioma para Chat GPT sexa como una interfaz. É dicir, falar en calquera das linguas, que el utilice toda a súa capacidade para traballar e logo dea resultado na lingua que vostede elixa.

Google Translate e estes sistemas de tradución xa utilizan este sistema. Por exemplo: se vostede quere levar un texto do eúscaro ao swahili, seguramente non hai moitos textos escritos nesas dúas linguas, pero o sistema aprendeu a levar a información a un lugar neutro, por dicilo dalgunha maneira, e logo a calquera lingua. Se isto faise con tradutores, por que non con esas outras tecnoloxías? A esperanza é que este problema existe con moitas linguas e Chat GPT e Google teñen interese en que todas as demais linguas sexan usadas.

O proxecto Gaitezen está en marcha para adestrar a AA para a recollida de voz en eúscaro. Dar moitos datos non será perigoso? Hai que ler a
letra pequena, como en todo, pero é verdade que ás veces temos moito medo e logo non é para tanto. A maioría temos móbil e damos moita información a Google. Non queremos achegar datos, pero ao mesmo tempo aproveitamos os servizos que nos ofrecen con estes datos. Hoxe os nosos datos, imaxes e voces están en moitos lugares. Hai que ter coidado ao dar os datos, pero sen convertelos en paranoicos.


Interésache pola canle: Adimen artifiziala
2024-11-08 | Leire Ibar
Máis da metade das empresas farmacéuticas utilizan intelixencia artificial
Desenvolver medicamentos "para acelerar, personalizar tratamentos e optimizar procesos internos. O 33% das empresas utiliza a intelixencia artificial na análise de enfermidades e o 29% no desenvolvemento e fabricación de medicamentos.

Tecnoloxía
Resposta do Creador AA

Hai moitos anos o Dr. Coñecín o abuse chatbot, e tamén me dei conta da velocidade coa que as persoas poden engancharse a estas máquinas. Sendo animais sociais, a relación é natural e necesaria, e como di o nome de 'relación', sempre leva unha resposta por parte do outro... [+]


2024-11-01 | Sustatu | Sustatu
Wikipedia Necesidade e proxecto de liberar a AA dun contido incorrecto (pero non de todo AA)
WikiProject inicia o proxecto AI Cleanup en Wikipedia: "A limpeza da Intelixencia Artificial", por dicilo dalgunha maneira. Os wikilaris voluntarios comezaron polo momento en inglés, francés e alemán nesta iniciativa creada para detectar e, en caso de erro, eliminar os... [+]

Tecnoloxía
Cacofonías

No último ano sucedeume ver a persoas relacionadas co ámbito non profesional en grupos dixitais que utilizaron a intelixencia artificial para dar argumentos aos demais. O compartido como propio. A propia, pero non a vinculada ao sentido da propiedade, senón a procesada desde... [+]


2024-10-29 | Leire Ibar
En dez anos a acumulación de lixo electrónico pódese multiplicar por mil
A intelixencia artificial pode xerar até cinco millóns de toneladas de residuos electrónicos en 2030, segundo un informe publicado pola revista Nature Computational Science. Os investigadores destacan a necesidade de implementar unha estratexia de economía circular.

2024-10-25 | Leire Ibar
Un profesor navarro acusa a 28 mulleres de gravar ás agachadas
A Policía Foral de Navarra abriu unha investigación para tratar de localizar a un profesor de Ensino Secundario. O imputado está acusado de gravar a mulleres ás agachadas nos aseos do instituto e nos vestiarios de varias tendas.

Eúscaro Adaptado 2024
Máis que tecnoloxía artificial, persoas e comunidades a primeira liña
A décimo terceira edición da xornada Euskarabildua, organizada pola empresa de comunicación Iametza en colaboración con ARGIA e Ametzagaina, terá como lema a tecnoloxía non artificial. Reivindicarán un uso "máis ético, máis sostible e máis viable" da tecnoloxía, así... [+]

2024-09-27 | Rober Gutiérrez
Intelixencia artificial: unha nova oportunidade para o eúscaro

A Intelixencia Artificial (IA) está a revolucionar non só noso día a día, senón tamén a forma de traballar nas empresas e de interactuar coas empresas a través de ferramentas de Intelixencia Artificial ou de desenvolvementos no uso da tecnoloxía lingüística. É de... [+]


Microsoft reactiva a central nuclear de Three Mile Island para alimentar a intelixencia artificial
En 1979 produciuse un accidente nuclear nunha das unidades da central nuclear de Three Mile Island, no estado estadounidense de Pensilvania. A outra, que se pechou en 2019, volverá funcionar para satisfacer as grandes necesidades enerxéticas da intelixencia artificial de... [+]

Tecnoloxía
Visión MundoAA

Os seres humanos nunca foron fáciles de pensar con tranquilidade durante longos períodos de tempo, vivimos coa responsabilidade de sacar adiante a nosa vida, tanto a nosa como a dos nosos descendentes. Nesta oportunidade que tivemos de vivir, queremos facer as cousas o mellor... [+]


O Goberno Vasco anuncia un proceso de debate sobre o uso do móbil nas aulas
A conselleira de Educación do Goberno Vasco ha animado aos docentes a utilizar a intelixencia artificial na escola para que non teñan medo á transformación dixital. Tamén anunciou un proceso de reflexión sobre o uso do móbil na aula: “Non existe evidencia clara sobre a... [+]

2024-08-01 | Sustatu
Que facer Elon Musken Grok para non alimentar a intelixencia artificial (opcional)
Un dos proxectos de Elon Musk é a intelixencia artificial, Grok, e para iso están a utilizar a actividade dos usuarios de X ou Twitter da propiedade de Musk para ampliar e adestrar o modelo lingüístico. De feito, o permiso para alimentar este sistema nas súas... [+]

2024-07-24 | Sustatu
Claude, outra intelixencia artificial que fala moi ben euskera
A empresa Anthropic lanzou o pasado mes de xuño a versión Claude 3.5 Sonnet da Intelixencia Artificial Claude (AA).E a novidade da semana pasada, a aplicación Android. Como xa estamos afeitos a estes imbentos AA, o eúscaro é moi ordenado. O experto vasco Beñat Erezuma... [+]

Tecnoloxía
Euskalgintza dixital crítica

O eúscaro é un porto para o coñecemento e as relacións no mar, que é un espazo dixital. Con intelixencia artificial, parece que desde este porto ofrécese a posibilidade de contactar en euskera con todo o mundo. A automatización do eúscaro é un gran apoio para os... [+]


Como se utilizou a intelixencia artificial para difundir o eúscaro?
Entre eles, Naiara Perez, investigadora do Centro de Tecnoloxía Lingüística HI-TZ da UPV/EHU; Itziar Cortes, investigadora de Elhuyar, e Eli Pombo, xerente de Iametza. Entre outras cousas, falarán sobre o lugar que ten o eúscaro na intelixencia artificial, sobre as súas... [+]

Eguneraketa berriak daude