Regular el uso de algoritmos en la relación laboral, una necesidad legislativa en el contexto de transparencia de la UE

• Author: Montserrat Solé Truyols
• Profession: Profesora de Derecho del Trabajo y la Seguridad Social ESERP Business & Law School
• Pages: 457-482

457

COLECCIÓN

OBSERVATORIO DE INVESTIGACIÓN DE ESERP

1. INTRODUCCIÓN

En un mundo cada vez más tecnif‌icado, el rango de actividades o acciones

humanas en las que intervienen sistemas de inteligencia art if‌icial (IA)1 aumenta

de manera exponencial. Estos sistemas incorporan algoritmos, los cuales pro-

cesan gran cantidad de datos personales para, mediante la lógica interna pre-

viamente establecida, proporcionar un resultado supuestamente adecuado a la

f‌inalidad pretendida. Además, los algoritmos tienen capacidad para aprender a

medida que procesan los datos. Dicho de otra manera, tienen la habilidad de

cambiar el resultado en función de los datos que analizan2, generando así, solu-

ciones personalizadas. El uso de la IA, sin embargo, puede afectar directamente

a derechos y libertades individuales en mayor o menor medida, según el contex-

to, tal como señala el Grupo Independiente de Expertos de Alto Nivel sobre Inte-

ligencia Artif‌icial (AI HELG), especialmente cuando las decisiones algorítmicas

1 Según el Libro Blanco sobre la Inteligencia Artif‌icial – Un enfoque europeo hacia la ex-

celencia y la conf‌ianza, COM (2020) 65 f‌inal, Bruselas, 2020, p.2, el término IA aglutina

diferentes tecnologías que combinan algoritmos y potencia computacional. A los efectos

de este capítulo los términos IA, y algoritmo se utilizan como sinónimos.

2 Una explicación comprensible sobre el funcionamiento de los algoritmos se puede en-

contrar en: LOSADA CARREÑO, J.: «Inteligencia artif‌icial e información algorítmica en

el ámbito laboral: Especial referencia al artículo 64.4.d) del Estatuto de los Trabajadores»,

Revista General de Derecho del Trabajo y de la Seguridad Social, vol. 61, 2022.

CAPÍTULO 20

Regular el uso de algoritmos en la relación

laboral, una necesidad legislativa en el

contexto de transparencia de la UE

Montserrat Solé Truyols

Profesora de Derecho del Trabajo y la Seguridad Social

ESERP Business & Law School

LOS RETOS DE LA EMPRESA, EL DERECHO Y LA COMUNICACIÓN EN EL MUNDO ACTUAL

RAFAEL OLIVER CUELLO | DIRECTOR

458

COLECCIÓN

OBSERVATORIO DE INVESTIGACIÓN DE ESERP

substituyen las decisiones humanas en relaciones laborales, entre empresas o

entre empresas y consumidores3. En este sentido, la IA plantea tres preocupacio-

nes importantes4: qué datos es lícito procesar, con qué f‌ines y, cómo se combinan

los datos (la llamada lógica algorítmica o caja negra5).

El Reglamento general de protección de datos (RGPD)6 intenta resol-

ver, parcialmente, estas cue stiones, estableciendo la obl igación de facilitar una

explicación humana cuando los derechos de la persona se vean afectados por

una decisión algorítmica (Art. 22) y en tales casos, además, el interesado de-

berá poder acceder a información signif‌icativa sobre la lógica aplicada (Arts.

13-15). Este último aspecto, aunque resulta vital para evaluar la equidad de la

decisión debe ser matizado. Tal como indica el Considerando 63, el derecho a

la propiedad industrial protege los programas inform áticos, deduciéndose que

la información facilitada a la persona interesada será limitada. Nos encontra-

mos ante una colisión de derechos, frecuente por otra parte en las diferentes

disciplinas jurídicas, pero que en el ámbito de la relación laboral precisa de un

análisis específ‌ico.

Jurídicamente la relación entre empresa y trabajador se construye entorno

a una característica singular: integrar los intereses contrapuestos de las partes.

Cualquier colisión de derechos debe, por tanto, reconducirse de forma que las

obligaciones y derechos mutuos mantengan el equilibrio contractual, de lo con-

trario ocurrir á lo que el derecho del trabajo precisamente reprocha: la unilatera-

lidad empresarial. El uso de sistemas de IA en el entorno laboral modif‌ica d icho

equilibrio en diversos aspectos y en diferente grado. Por una parte, la IA amplia

la capacidad empresarial de organizar, monitorear o disciplinar la fuerza labora l,

3 Comisión Europea, Dirección General de Redes de Comunicación, Contenido y Tecnolo-

gías, Directrices ética s para una IA f‌iable, Of‌icina de Publicaciones, 2019, p.6, en https://

data.europa.eu/doi/10.2759/14078. Última consulta: 28 de septiembre de 2022.

4 BURRELL, J.: «How the machine ‘thinks’: Understanding opacity in machi-

ne learning algorithms», Big Data & Society, vol. 3, núm. 1, 2016, en https://doi.

org/10.1177/2053951715622512 . Última consulta: 14 de agosto de 2022.

5 A JU NWA , I.: «e «black box» at work», Big Data & Society, vol. 7, núm. 2, 2020, en

https://doi.org/10.1177/2053951720938093 . Última consulta: 14 de Agosto de 2022.

6 Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016,

relativo a la protección de las personas físicas en lo que respe cta al tratamiento de datos

personales y a la libre circulación de estos datos.