Discriminación 4.0: una aproximación a los problemas que suscitan la biometría y los sistemas de reconocimiento facial

• Pages: 15-53
• Date: 01 January 2022
• Author: Gabriela Commatteo,Pilar Moreyra
• Subject Matter: Derecho Internacional

Revista Internacional de Derechos Humanos / E-ISSN 2422-7188 / 2022 Vol. 12, No. 1

revistaidh.org

15

Discriminación 4.0: una aproximación a los

problemas que suscitan la biometría y los

sistemas de reconocimiento facial

1

Discrimination 4.0: An approach to the Issues Raised by

Biometrics and Facial Recognition Systems

GABRIELA COMMATTEO

2

Y PILAR MOREYRA

3

Resumen:

Los sistemas biométricos de reconocimiento facial se

enmarcan en las nuevas tecnologías que afectan nuestros derechos

fundamentales. En este trabajo, analizamos el derecho a la igualdad

ante las discriminaciones que pueden producir la biometría y los

sistemas de reconocimiento facial. Para comprender de qué

hablamos cuando nos referimos a la biométrica, primero

examinaremos los conceptos de algoritmo e inteligencia artificial (IA)

como dos áreas vinculadas al funcionamiento de los sistemas

biométricos. Este primer paso es relevante para comprender de qué

1

Este trabajo de investigación fue llevado a cabo en el marco del Proyecto IUS 0800

2019 01 00017 CT, “Los derechos fundamentales ante los desafíos de la era digital: Una

búsqueda de soluciones para Argentina en un contexto global”, de la Facultad de

Derecho de la Universidad Católica Argentina.

2

Coordinadora del Proyecto IUS. Abogada y Traductora Pública en Inglés por la

Universidad Católica Argentina. Becaria Chevening, cursando Master of Laws (LL.M.)

in Information Technology and Intellectual Property en King’s College London.

3

Integrante del equipo IUS. Alumna de grado de la carrera de Abogacía en la Facultad

de Derecho de la Universidad Católica Argentina (UCA). Ganadora del concurso “Mi

Primera Publicación”, organizado por la Facultad de Derecho de la UCA, en el año 2021.

Paralegal en Marval, O’Farrell & Mairal.

Commatteo y Moreyra / Discriminación 4.0 / 15-53

revistaidh.org

16

forma discrimina la biometría a través de IA y algoritmos parciales.

Luego, reseñamos el marco normativo argentino en materia de

protección de datos personales y actos discriminatorios, con la

finalidad de determinar si la legislación vigente es suficiente para

enfrentar los riesgos de la discriminación 4.0 y resguardar nuestros

derechos en la era digital.

Palabras claves

: Algoritmos, Inteligencia Artificial, Biometría,

Datos Personales, Reconocimiento Facial, Igualdad.

Abstract:

Biometric facial recognition systems are part of the new

technologies that affect our fundamental rights. In this paper, we

analyze the right to equality in the face of the discrimination that

biometrics and facial recognition systems can produce. To

understand what we are talking about when we refer to biometrics, we

will first examine the concepts of algorithm and arti ficial intelligence

(AI) as two areas linked to the operation of biometric systems. This

first step is relevant to understand how biometrics discriminates

through AI and partial algorithms. Then, we review the Argentine

regulatory framework on personal data protection and discriminatory

acts, in order to determine whether the current legislation is sufficient

to address the risks of discrimination 4.0 and safeguard our rights in

the digital era.

Keywords:

Algorithms, Artifi cial Intelligence, Biometrics,

Personal Data, Facial Recognition, Equality.

Recibido: 27.10.2021 Aceptado: 16.12.2021

Revista Internacional de Derechos Humanos / E-ISSN 2422-7188 / 2022 Vol. 12, No. 1

revistaidh.org

17

Sumario

1. Introducción

2. Una aproximación conceptual a la inteligencia artificial, los

algoritmos y la biometría

a.

Algoritmo

b.

Inteligencia artificial

c.

Machine learning

d.

Biometría

3. Los problemas que suscita la “parcialidad algorítmica”

a.

¿De qué maneras discriminan los algoritmos?

b.

Algunos ca sos de parcialidad algorítmica en los ámbitos

público y privado

4. Las dificultades que generan los sistemas de reconocimiento facial

a.

El creciente uso de los sistemas de reconocimiento facial

b.

Los problemas jurídicos que genera el uso de estos sistemas

5. El marco regulatorio en Argentina

6. Conclusión

1. Introducción

En octubre de 2018 Amazon, el rey de los asistentes personales

virtuales –creador de “Alexa”, una de las asistentes de voz más

utilizadas en el mundo

4

– decidió dejar la contratación de sus

empleados en manos de un sistema de inteligencia artificial (IA). La

4

O’Brien, 29 de julio de 2019, “

Could Alexa Become Your Next Executive Asisstant?

”,

TheInnovator. https://innovator.news/could-alexa-become-your-next-executive-

assistant-eda21786920e