En l'era digital, cada vegada tenim més exemples de com la tecnologia afecta a la intimitat humana i s'estan produint fenòmens alarmants. Última pornografia sintètica no acceptada. Aquest terme es refereix a la manipulació d'imatges o vídeos mitjançant intel·ligència artificial. Per a crear material pornogràfic. A diferència de la pornografia convencional, en la qual els participants accepten voluntàriament produir i distribuir contingut, en la qual les persones estan implicades sense el seu consentiment i sense el seu coneixement.

Aquesta pràctica genera grans preocupacions ètiques i legals al no referir-se a les conseqüències psicològiques per a les persones i el conjunt de la societat. La manipulació d'imatges, vídeos o arxius d'àudio mitjançant eines d'intel·ligència artificial es denomina “deepfake”. Fins ara pensàvem que aquest ús de l'AA només afectava la veracitat de les notícies. No obstant això, en el 96% dels casos aquesta tecnologia s'utilitza per a crear aquest tipus de pornografia, sent la majoria dones les víctimes d'aquest nou tipus de violència (en el 99% dels casos). Fins ara el fenomen ha tingut poc impacte en la societat, encara que les famoses han denunciat aquesta pràctica.

A Espanya, amb motiu del cas de les noies d'Almendralejo (Badajoz), comencem a prendre consciència d'aquest nou fenomen en 2023. En aquest país es van presentar més de deu denúncies que es van convertir en mediàtiques i en certa manera van protegir les víctimes. No obstant això, la majoria dels casos són casos que no salten als mitjans de comunicació i que moltes vegades no es denuncien. En aquest cas, hem començat a adonar-nos que aquest instrument pot caure en mans de menors, i les víctimes també són menors d'edat. Això posa de manifest un problema, però no som totalment conscients que moltes de les eines digitals disponibles estan en mans de menors amb facilitat.

Ningú controla qui usa aplicacions o qui genera comptes d'usuari en plataformes digitals. Encara que amb freqüència alguns termes d'ús indiquen que s'ha de tenir una edat mínima per a poder utilitzar-ho, després ningú supervisa que es compleixi. La primera responsabilitat correspon a les famílies o tutors legals d'aquests menors. D'altra banda, les plataformes d'intel·ligència artificial són conscients que una de les aplicacions delictives que poden fer als seus productes és la creació de pornografia sintètica no reconeguda, que exerceix un paper fonamental en la creació i multiplicació de pornografia sintètica no acceptada.

A més, hem de tenir en compte que les imatges se substitueixen en els seus servidors, que no es realitzen en el telèfon dels usuaris d'AA amb aquests fins, per la qual cosa la responsabilitat d'aquestes empreses és clara. El problema és el buit legal existent en la majoria dels llocs on aquestes empreses operen. Les empreses no poden saber si els usuaris són realment menors o no, i a més en aquests casos és difícil i falta jurisprudència per a entendre si es tracta de pornografia infantil, ja que tècnicament no s'ha insultat sexualment a les víctimes per a crear aquest tipus de continguts perquè no han participat. Però la falta de participació no altera les conseqüències per a les víctimes: dones avergonyides, que ajupen el cap com si fossin responsables d'alguna cosa.

La pornografia sintètica no aprovada per la Unió Europea ha estat introduïda en la nova llei d'intel·ligència artificial, que queda ben reflectida quan es tracta de menors. No obstant això, la llei deixa un ampli marge d'interpretació per a les dones adultes. Els reptes que planteja l'ús de l'AA i, en concret, la producció de pornografia sintètica no són un problema de les dones, sinó de tota la societat. L'educació en l'ús adequat de les tecnologies digitals és de vital importància. És fonamental sensibilitzar a les famílies i a la resta d'agents educatius perquè col·laborin en l'ús d'aquesta tecnologia, evitant alguns mals usos. Aquest i molts altres temes formen part dels continguts de la nostra formació en línia “Sexualitats digitals”.

Emaize Centre de Sexologia