Datos y gobernanza

• Author: Joanna Redden
• Profession: Profesora titular en la Facultad de Información y Estudios Mediáticos dela Western University. Codirige el Data Justice Lab
• Pages: 45-66

45

CAPÍTULO II

Datos y gobernanza

Joanna Redden

Este capítulo aborda los usos gubernamentales de los sistemas de datos y

lo hace considerando cómo la datificación de los servicios gubernamentales y

de la toma de decisiones influye en la gobernanza. En concreto, este capítulo

se pregunta: ¿cómo el uso gubernamental de tecnologías basadas en datos,

como los sistemas de inteligencia artificial (IA) y de decisión algorítmica

(ADS, por sus siglas en inglés), modifica la forma en la que los Gobiernos

conocen y se relacionan con la población y los asuntos sociales (Berry, 2011;

Boyd y Crawford, 2012)? ¿Qué sugieren estas modificaciones acerca de la

evolución de la gobernanza? En este capítulo se argumenta que, si bien los

usos gubernamentales de sistemas algorítmicos aumentan el largo historial

de las formas de conocer y controlar basadas en datos, el uso de estos sistemas

también introduce nuevas formas de gobierno que debemos abordar desde la

perspectiva de la justicia de datos.

Los sistemas algorítmicos debatidos como objeto de preocupación en este

capítulo están definidos generalmente como sistemas técnicos para asistir o

reemplazar la toma de decisiones humana en todos los ámbitos de adminis-

tración públicos. Estos se basan en enormes conjuntos de datos conectados

e introducidos con el objetivo de mejorar los servicios y la productividad;

a menudo suponen la recopilación y el uso compartido de datos en tiempo

real, por ejemplo, algunos hacen uso de los análisis de datos para predecir las

probabilidades de que un individuo cometa un delito, maltrate a sus hijos

o defraude al sistema de prestaciones sociales (Gillingham, 2019). Los orga-

nismos gubernamentales de todo el mundo están utilizando los sistemas de

IA y ADS en los ámbitos de seguridad, detección de fraudes, administración

de prestaciones, vigilancia policial, educación, fiscalidad e inmigración. A

menudo se dice que los Gobiernos hacen uso de estos sistemas para intentar

Editorial UOC

46

mejorar la planificación y los servicios, para ser más eficientes y asignar mejor

los recursos. La adopción de estos sistemas se produce cuando los organismos

gubernamentales tienen dificultades para cubrir las necesidades públicas en

un contexto de escasez de recursos y los recortes en los servicios.

1. Desafiando la fe en los datos

La popularidad que rodea al uso del big data, la IA y los sistemas de ADS,

que durante la última década ha acaparado los debates sobre los usos guberna-

mentales de estos sistemas, puede haber disminuido a la luz de muchos traba-

jos de investigación que muestran los daños; sin embargo, la constante «fe en

los datos» aún es evidente en los discursos de los medios de comunicación, las

empresas y los Gobiernos. La investigación demuestra que la forma en que la

población piensa y habla sobre la inteligencia artificial y los usos de las tecno-

logías digitales y los datos en general puede estar influenciada por el dominio

de voces como la de los Gobiernos, las empresas tecnológicas, los inversores en

IA y las consultorías de gestión. (Bourne, 2019) Tal y como sostiene David Beer

(2019), podemos ver la «fe en los datos» por todas partes a nuestro alrededor,

que incluye visiones sobre cómo los análisis de datos nos ayudarán a abordar

problemas sociales de manera más efectiva y eficiente. En otras palabras, los

materiales corporativos y gubernamentales a menudo promueven sistemas

basados en datos para aumentar la eficiencia y mejorar la toma de decisiones

institucionales, permitiendo mayores conocimientos, un fenómeno descrito

por Evegny Morozov como «solucionismo tecnológico» (Morozov, 2014). Se

ha criticado la autoridad de este discurso por no atender a los límites de los

sistemas basados en datos, en concreto dónde y cómo estos sistemas fallan

o funcionan de maneras no previstas (Beer, 2014; Mosco, 2014). Existe muy

poca información disponible sobre la manera en que funcionan en la práctica

los sistemas de datos, en concreto la IA y los sistemas de asistencia a la toma

de decisiones. Las preguntas que surgen sobre los cambios en la gobernanza

en este capítulo se basan en nuestra investigación en el Data Justice Lab para

mejorar la comprensión de dónde y cómo la IA y los sistemas de ADS se utili-

zan por parte de los Gobiernos y en los esfuerzos por investigar las implicacio-

nes que tiene el cambio de sistemas de gobierno para la justicia social.

Las cuestiones sobre justicia de datos planteadas a lo largo de este capí-

tulo también están fundamentadas en el gran conjunto de evidencias que