Na era dixital, cada vez temos máis exemplos de como a tecnoloxía afecto á intimidade humana e estanse producindo fenómenos alarmantes. Última pornografía sintética non aceptada. Este termo refírese á manipulación de imaxes ou vídeos mediante intelixencia artificial. Para crear material pornográfico. A diferenza da pornografía convencional, na que os participantes aceptan voluntariamente producir e distribuír contido, na que as persoas están implicadas sen o seu consentimento e sen o seu coñecemento.

Esta práctica xera grandes preocupacións éticas e legais ao non referirse ás consecuencias psicolóxicas para as persoas e o conxunto da sociedade. A manipulación de imaxes, vídeos ou arquivos de audio mediante ferramentas de intelixencia artificial denomínase “deepfake”. Até agora pensabamos que este uso da AA só afectaba á veracidade das noticias. Con todo, no 96% dos casos esta tecnoloxía utilízase para crear este tipo de pornografía, sendo a maioría mulleres as vítimas deste novo tipo de violencia (no 99% dos casos). Até agora o fenómeno tivo pouco impacto na sociedade, aínda que as famosas denunciaron esta práctica.

En España, con motivo do caso das mozas de Almendralejo (Badaxoz), comezamos a tomar conciencia deste novo fenómeno en 2023. Neste país presentáronse máis de dez denuncias que se converteron en mediáticas e en certo xeito protexeron ás vítimas. Con todo, a maioría dos casos son casos que non saltan aos medios de comunicación e que moitas veces non se denuncian. Neste caso, empezamos a darnos conta de que este instrumento pode caer en mans de menores, e as vítimas tamén son menores de idade. Isto pon de manifesto un problema, pero non somos totalmente conscientes de que moitas das ferramentas dixitais dispoñibles están en mans de menores con facilidade.

Ninguén controla quen usa aplicacións ou quen xera contas de usuario en plataformas dixitais. Aínda que con frecuencia algúns termos de uso indican que se debe ter unha idade mínima para poder utilizalo, daquela ninguén supervisa que se cumpra. A primeira responsabilidade corresponde ás familias ou titores legais destes menores. Por outra banda, as plataformas de intelixencia artificial son conscientes de que unha das aplicacións delituosas que poden facer aos seus produtos é a creación de pornografía sintética non recoñecida, que desempeña un papel fundamental na creación e multiplicación de pornografía sintética non aceptada.

Ademais, debemos ter en conta que as imaxes se substitúen nos seus servidores, que non se realizan no teléfono dos usuarios de AA con estes fins, polo que a responsabilidade destas empresas é clara. O problema é o buxán legal existente na maioría dos lugares onde estas empresas operan. As empresas non poden saber si os usuarios son realmente menores ou non, e ademais nestes casos é difícil e falta xurisprudencia para entender si trátase de pornografía infantil, xa que tecnicamente non se insultou sexualmente ás vítimas para crear este tipo de contidos porque non participaron. Pero a falta de participación non altera as consecuencias para as vítimas: mulleres avergoñadas, que agachan a cabeza coma se fosen responsables de algo.

A pornografía sintética non aprobada pola Unión Europea foi introducida na nova lei de intelixencia artificial, que queda ben reflectida cando se trata de menores. Con todo, a lei deixa unha ampla marxe de interpretación para as mulleres adultas. Os retos que expón o uso da AA e, en concreto, a produción de pornografía sintética non son un problema das mulleres, senón de toda a sociedade. A educación no uso axeitado das tecnoloxías dixitais é de vital importancia. É fundamental sensibilizar ás familias e ao resto de axentes educativos para que colaboren no uso desta tecnoloxía, evitando algúns malos usos. Este e outros moitos temas forman parte dos contidos da nosa formación online “Sexualidades dixitais”.

Emaize Centro de Sexología