Cando falamos de intelixencia artificial, unido ao adxectivo “artificial”, vénnos á cabeza algo que non ten que ver cos seres humanos nin coa humanidade. A intelixencia artificial creámola os seres humanos e abarca medos, desexos, ideas... Así, parece que algunhas intelixencias artificiais que temos na actualidade tenden á exclusión. Este debate está presente na sociedade desde hai tempo, pero rexurdiu nos últimos meses. A razón é o comportamento das intelixencias artificiais baseadas en datos biométricos.

Sabemos que as intelixencias artificiais aliméntanse de datos e os resultados van implícitos nos datos. Si nun pobo todas as persoas que non saben ler viven nunha rúa, por exemplo, un entendemento artificial orientado a optimizar a selección de traballo pode aprender a rexeitar os currículos desa rúa, que aprendeu que hai poucas posibilidades de éxito. Así, as persoas desta rúa sempre terán problemas para atopar traballo en todos os sistemas nos que esta intelixencia artificial estea implementada.

O mesmo ocorre cos datos biométricos. Un dato biométrico é a cor da pel: en moitas partes do mundo a pel escura é o trazo biométrico asociado ás desvantaxes sociais, situación social na que se dan máis problemas na vida. Os axentes do proxecto Gender Shades investigaron que os contidos que chegan das redes sociais a persoas de pel escura son contidos asociados a un nivel sociocultural inferior.

A intelixencia artificial parece ser unha ferramenta eficaz para o mantemento e transformación dos comportamentos sociais, sempre que se utilicen sistemas que a teñan implementada. É posible que, sen ser conscientes, esteamos dentro de certos sistemas.