Datos y daños

• Author: Joanna Redden
• Profession: Profesora titular en la Facultad de Información y Estudios Mediáticos dela Western University. Codirige el Data Justice Lab
• Pages: 91-110

91

CAPÍTULO IV

Datos y daños

Joanna Redden

Un elemento clave en los debates sobre la justicia de datos ha sido orien-

tarse hacia la investigación, documentación y politización de los daños de

datos. En el Data Justice Lab hemos mantenido un registro de daños de datos,

el Data Harm Record, desde 2016. La idea que hay detrás del registro es que

podamos aprender mucho sobre las transformaciones que están teniendo

lugar a consecuencia de la datificación, así como sobre la naturaleza de

estas transformaciones y sus implicaciones, prestando atención a cómo

las personas se están viendo negativamente afectadas por estos cambios.

El enfoque se basa en el reconocimiento del valor y la importancia, con-

cretamente en relación con nuestras sociedades capitalistas, de prestar

atención a la manera en que las transformaciones sociotécnicas impactan

en los derechos, las oportunidades de vida y el bienestar de las personas.

Actualmente existe un consenso generalizado sobre el hecho de que la

datificación conlleva oportunidades y riesgos. El registro de daños de datos

parte de una posición diferente, una que considera el discurso del riesgo

problemático e incluso permisivo. Utilizar un discurso de riesgo implica

sugerir que las personas pueden verse afectadas negativamente por la

datificación, presenta el daño como una perspectiva de futuro. En cambio,

el registro de daños de datos documenta cómo las personas y la sociedad

en general ya se están viendo negativamente afectadas por los sistemas

algorítmicos. El registro de daños de datos recopila ejemplos publicados

en revistas académicas, artículos y por organizaciones de la sociedad civil.

Los ejemplos identificados y enumerados son amplios y extensos (Redden,

2018b; Redden, Brand y Terzieva, 2020).

La definición del diccionario de daño lo vincula a heridas físicas y materia-

les en el presente o en el futuro, así como a lesiones y efectos adversos. Solove

Editorial UOC

92

y Citron (2016) amplían el concepto de daño para comprender cómo las per-

sonas se ven afectadas negativamente por los sistemas de datos. Afirman que

también debemos entender el daño como disfunción o como un retroceso

de los intereses de una persona, comunidad o sociedad. Conceptualmente,

podemos entender el daño de datos como el empeoramiento de una persona,

comunidad o sociedad a consecuencia de una práctica relacionada con los

datos (Citron y Pasquale, 2014). El término daños de datos se usa a lo largo de

este capítulo, pero es importante reconocer que en muchos casos los ejem-

plos presentados en el registro se pueden entender mejor como violencia de

datos o violencia algorítmica dados los niveles de destrucción (Onuoha, 2018;

Hoffmann, 2020).

Este capítulo se basa en ejemplos del registro de daños de datos y presen-

ta una taxonomía de dichos daños con vistas a facilitar el debate. Nuestro

objetivo es demostrar la omnipresencia de estos daños para obtener una

visión «completa» de hacia dónde nos dirigimos para que podamos deci-

dir de manera colectiva cómo tenemos que cambiar el rumbo. Aunque las

taxonomías pueden ser de ayuda en los análisis, también pueden oscurecer

la comprensión al no prestar atención a los aspectos cualitativos de las expe-

riencias vividas por las personas. Para contrarrestarlo, hemos incluido deta-

lles cualitativos que transmiten especificidad, así como las historias de las

personas acto seguido. Como seguimos debatiendo en capítulos posteriores,

comprender y evidenciar estos daños es fundamental para destacar la urgen-

te necesidad de movilización y acción políticas.

1. Un registro de daños de datos

El registro de daños de datos es un registro de injusticias. En él hay ejem-

plos de usos comerciales de sistemas algorítmicos que han conducido a la

explotación, la discriminación o la pérdida de la privacidad debido a la filtra-

ción de datos y lesiones físicas. Encontramos datos utilizados en campañas

políticas con el objetivo de desinformar y manipular opiniones y comporta-

mientos. En relación con los usos gubernamentales de los sistemas algorítmi-

cos, enumeramos ejemplos de errores y sesgos que conducen a una negación

de servicios y repercuten de manera negativa en las oportunidades vitales y

el acceso a los recursos necesarios. Los daños se producen a nivel individual,

comunitario y social.