Transparencia y responsabilidad en el uso de la inteligencia artificial para la gestión migratoria

• Pages: 63-81
• Author: Pablo Rafael Banchio

63

CAPÍTULO III

TRANSPARENCIA Y

RESPONSABILIDAD EN EL USO

DE LA INTELIGENCIA ARTIFICIAL

PARA LA GESTIÓN MIGRATORIA

1. INTRODUCCIÓN

El creciente uso de herramientas algorítmicas y de inteligencia articial en

la gestión migratoria es un campo de estudio crítico y en rápida evolución. Estas

herramientas, si se utilizan de forma responsable, pueden ofrecer ventajas signi-

cativas a la hora de optimizar los procesos de toma de decisiones y la eciencia

operativa. Sin embargo, la adopción generalizada de estas tecnologías ha suscita-

do una serie de preocupaciones relacionadas con la transparencia, la rendición de

cuentas y la protección de los derechos fundamentales de los implicados.

1 Posdoctor cum laude en Nuevas Tecnologías y Derecho, Università di Reggio Cala-

bria (Italia). Posdoctor en Principios Fundamentales y Derechos Humanos y Doctor

en Derecho Privado (UCES). Director del Posdoctorado en Derechos Humanos e

Inteligencia Articial, Università Virtuale Innovativa (Italia). Coordinador acadé-

mico del Doctorado en Ciencias Jurídicas, Facultad Interamericana de Ciencias So-

ciales (FICS). Miembro Titular del Centro de Estudios de Derecho Privado (CE-

DEP) de la Academia Nacional de Ciencias de Buenos Aires. Director del Centro

di Studi Giuridici e di Ricerca Internazionale (CSGRI).

PABLO RAFAEL BANCHIO1

LA TRANSFORMACIÓN DE LA INTELIGENCIA ARTIFICIAL

JORGE ISAAC TORRES MANRIQUE | DIRECTOR

64

En este trabajo pretendemos explorar los retos y las lagunas en la ges-

tión de la rendición de cuentas y la responsabilidad en el uso de herramientas

algorítmicas y de inteligencia articial en la gestión de la migración. En par-

ticular, nos centraremos en el papel crucial de los datos de calidad, la opacidad

de los algoritmos y la dicultad de detectar e impugnar la discriminación.

A través del análisis de algunas de estas cuestiones, examinaremos las

implicaciones de la mala calidad de los datos en la abilidad de los resultados

algorítmicos y las consecuencias de la falta de comprensión de los procesos de

toma de decisiones.

También exploraremos los retos de probar la discriminación ante los

tribunales, teniendo en cuenta la complejidad de los algoritmos y la escasa

transparencia de las decisiones que los mismos toman.

Por último, debatiremos las implicaciones económicas y sociales del

enfoque comercial de la inteligencia articial y la urgencia de garantizar las

salvaguardias necesarias para los implicados. Este articulo ofrece una mirada

crítica sobre un tema de creciente importancia, invitando a seguir reexio-

nando y debatiendo sobre cómo afrontar estos retos y desafíos propuestos de

forma ecaz y responsable.

2. LA LEY DE INTELIGENCIA ARTIFICIAL Y

LOS INSTRUMENTOS DE RENDICIÓN

DE CUENTAS QUE FALTAN

Para garantizar que los actores involucrados en cualquier proceso, es-

pecialmente en la gestión de datos, actúen de manera transparente, ética y

efectiva, comenzamos por analizar lo que podría representar un elemento que

falta para completar el panorama del Reglamento (UE) 2021/2100 sobre In-

teligencia Articial (en lo sucesivo «AI Act», acrónimo ingles su de Articial

Inteligence Act)

Nos referimos a los instrumentos de «accountability» (rendición de cuen-

tas) y cómo se pueden exigir responsabilidades a los actores que han utilizado

herramientas algorítmicas y de inteligencia articial para cometer violaciones