argia.eus
INPRIMATU
Tecnologia
Equilibri mental dels continguts moderadors
Diana Franco Eguren 2022ko uztailaren 21

Perquè en les xarxes socials que tenim avui, una obra poc coneguda, de contingut moderador. Pel que sembla, en l'àmbit digital no tot està tan automatitzat com pensem, almenys en alguns àmbits. Hi ha continguts que les màquines no distingeixen bé: els relacionats amb la violència, sobretot, perquè hi ha persones que busquen despreocupar-se per als amos de les xarxes socials, difondre la violència i aprendre a provocar algorismes. Per a evitar aquests comportaments, les grans corporacions digitals han creat el treball de continguts moderadors. Els continguts moderadors han de visualitzar i censurar diàriament continguts que visibilitzin la violència a jornada completa de forma molt gràfica. Per a aquests treballs, moltes vegades contracten persones de països en vies de desenvolupament. De nou els residus dels “mons desenvolupats” s'estan expandint per les societats dels països en vies de desenvolupament.

En els últims anys hem conegut l'existència d'aquest treball, perquè els continguts moderadors han denunciat que la seva situació mental ha estat molt danyada.

Existeix una opció d'intel·ligència artificial que impedeixi el que no volem veure en el món digital? Fins a on ens allunyarà de conèixer la realitat de l'ésser humà? Fins a quin punt no ens fa més vulnerables protegir la ment humana d'aquesta realitat?

En la meva oficina tinc un grup molt interessant de dones que treballen contra la violència de les dones. Treballen en tots els àmbits de la violència: legal, emocional, social...

Tal vegada, tenint en compte el model d'aquestes dones, caldria socialitzar la necessitat d'ocultar el problema a través de moderadors i algorismes, i crear vies de lluita cara a cara. Tal vegada.